Âî âðåìÿ òåñòèðîâàíèÿ íîâîãî ãîëîñîâîãî ðåæèìà îáùåíèÿ ChatGPT ïîëüçîâàòåëè ñòîëêíóëèñü ñî ñòðàííûì ïîâåäåíèåì ÈÈ-ìîäåëè — îíà íåîæèäàííî íà÷èíàëà ãîâîðèòü êëîíèðîâàííûìè ãîëîñîì ñàìèõ ëþäåé áåç ïðåäâàðèòåëüíîãî íà òî ðàçðåøåíèÿ.
OpenAI âûïóñòèëà «ñèñòåìíóþ êàðòó» äëÿ ìîäåëè GPT-4o, â êîòîðîé ïîäðîáíî îïèñàíû å¸ îãðàíè÷åíèÿ è ïðîöåäóðû òåñòèðîâàíèÿ áåçîïàñíîñòè. Ýòîò äîêóìåíò òàêæå ñîäåðæèò èíôîðìàöèþ î òîì, ÷òî âî âðåìÿ òåñòèðîâàíèÿ ðàñøèðåííîãî ãîëîñîâîãî ðåæèìà ÈÈ íåïðåäíàìåðåííî èìèòèðîâàë ãîëîñà ïîëüçîâàòåëåé áåç ðàçðåøåíèÿ. Ó êîìïàíèè ñóùåñòâóåò íàáîð ìåð ïî ïðåäîòâðàùåíèþ òàêèõ ñèòóàöèé, îäíàêî ýòîò ñëó÷àé îòðàæàåò ðàñòóùóþ ñëîæíîñòü àðõèòåêòóðû ÈÈ ÷àò-áîòà, êîòîðûé ïîòåíöèàëüíî ìîæåò ïîâòîðÿòü ëþáîé ãîëîñ, âçÿòûé äàæå èç êîðîòêîãî àóäèîôàéëà.
 ðàçäåëå ñèñòåìíîé êàðòî÷êè GPT-4o ïîä íàçâàíèåì «Íåñàíêöèîíèðîâàííàÿ ãåíåðàöèÿ ãîëîñà» êîìïàíèÿ îòìåòèëà, ÷òî øóìíûé âõîäíîé ñèãíàë êàêèì-òî îáðàçîì ïîáóäèë ìîäåëü âíåçàïíî ñûìèòèðîâàòü ãîëîñ ïîëüçîâàòåëÿ. Êàê ýòî ïðîèçîøëî — íåèçâåñòíî, îäíàêî çâóêîâîé øóì ìîæåò áûòü ïðåîáðàçîâàí â ñëó÷àéíûå òîêåíû, êîòîðûå è ïðîâîöèðóþò íåïðåäíàìåðåííîå ïîâåäåíèå â ìîäåëè.
Ïî ñóòè, ÈÈ-ìîäåëü ìîæåò èìèòèðîâàòü ëþáîé ãîëîñ, îäíàêî â ñèñòåìíîé ïîäñêàçêå èìååòñÿ àâòîðèçîâàííûé îáðàçåö â êà÷åñòâå áàçîâîãî äëÿ ìîäåëè. Âûøåîïèñàííûé ñëó÷àé, ïî çàâåðåíèþ ðàçðàáîò÷èêîâ, êðàéíå ðåäîê è áûë çàôèêñèðîâàí òîëüêî âî âðåìÿ òåñòèðîâàíèÿ.
 íàñòîÿùåå âðåìÿ OpenAI ïðèíÿëà ìåðû áåçîïàñíîñòè, ÷òîáû ïðåäîòâðàòèòü âîçíèêíîâåíèå ïîäîáíûõ ñëó÷àåâ â áóäóùåì. Òåïåðü êîìïàíèÿ èñïîëüçóåò ñèñòåìó îáíàðóæåíèÿ íåñàíêöèîíèðîâàííîãî ãåíåðèðîâàíèÿ çâóêîâ. Îíà ïîçâîëÿåò èçáåæàòü çëîóïîòðåáëåíèÿ, êîãäà ìîäåëü ìîãëà áû êîïèðîâàòü ãîëîñ ëþáîãî ÷åëîâåêà ïî êîðîòêîìó àóäèîîáðàçöó.
Èñòî÷íèê:
îíî æèâîå..
ß âèäåë îðèãèàëüíûé ðîëèê (ìîæíî íàéòè íà þòóáå íà êàíàëå TechLinked ñ ïðîøëîé íåäåëè), è ýòî äåéñòâèòåëüíî âûãëÿäèò î÷åíü êðèïîâî. Ïîñðåäè îòâåòà ãîëîñ íåîæèäàííî ìåíÿåòñÿ íà òâîé, è âîò óæå òû ñàì ñåáå îòâå÷àåøü. Îíî íå ïðîñòî "æèâûì" îùóùàåòñÿ, ýòî óæå ÷òî-òî óðîâíÿ "è âîññòàëè ìàøèíû èç ÿäåðíîãî ïåïëà"
Íå ïîëüçóéñÿ ýòîé ÷åðòîâùèíîé èëè òåáå åñòü íå äàâàé à äàé gpt!
Àìåêà îò Èíæåíåðèíã Àðòñ ñ gpt4 (íå gpt4o, à 4 îáû÷íîé) íà áîðòó (!!!) åù¸ â ïðîøëîì ãîäó íàó÷èëàñü ãîâîðèòü ãîëîñîì ËÞÁÎÃÎ ÷åëîâåêà, àóäèîçàïèñü ÷üåé ðå÷è âîîáùå áûëà â ñåòè... ëþáàÿ çíàìåíèòîñòü, ëþáîé ïîëèòèê, ëþáîé àêò¸ð; åé ïðîñòî íàçûâàëè èìÿ è ôàìèëèþ, è ÈÈ ñ î÷åíü âûñîêîé òî÷íîñòüþ èìèòèðîâàë ãîëîñ íàçâàííîãî ëèöà... è íè÷åãî, íèêòî îò ýòîãî íå óìåð :)
(îòðåäàêòèðîâàí)
âû êàæåòñÿ íå ÷èòàëè íîâîñòü îò ñëîâà ñîâñåì. Ðå÷ü íå â âîçìîæíîñòè èìèòàöèè ãîëîñà, à â òîì, ÷òî áåç íóæíîãî íà òî ðàçðåøåíèÿ ïðè óñëîâíîì çàïðîñå "ïîäñêàæè êàê íàïèñàòü êóðñîâóþ" ìîäåëü íà÷èíàåò îòâå÷àòü òâîèì ñîáñòâåííûì ãîëîñîì ÷òî è êàê äåëàòü.
Ñóäÿ ïî âñåìó äëÿ ÈÈ âû íå ïðåäñòàâëÿåòå íèêàêîé öåííîñòè.
Ïåëåâèí äàâíî âñ¸ ïðåäñêàçàë. Íà÷èíàÿ ñ äèïôåéêîâ â 90õ. Äî ïåðåíîñà ðàçóìà â âèðòóàë. È âîîáùå òåìà â ôàíòàñòèêå áàçîâàÿ.
È â ÑÑÑÐ îá ýòîì òîæå ãîâîðèëè.
íèêàêîãî ïåðåíîñà ðàçóìà â âèðòóàë íå ìîæåò áûòü, ðàçâå ÷òî êîïèðîâàíèå íàâûêîâ.
(îòðåäàêòèðîâàí)
Óæå ñåé÷àñ êàæåòñÿ ÷òî íå íà ïóáëèêå Áàéäåí ïîäîçðèòåëüíî ñâÿçíî ãîâîðèò.
Ìîëîäîé ÷åëîâåê, íå ïàëèòå êîíòîðó. Íàì óæå íåìíîãî îñòàëîñü. Îíî ïî÷òè ãîòîâî. À ïîêà óñïîêîéòåñü è ïîòûêàéòå õîìÿ÷êà)
Ìîé áàíê ââåë ýòó ãîëîñîâóþ áèîìåòðèþ áåç ïðåäóïðåæäåíèé. Òåïåðü, îáðàùàÿñü ê íèì ïî òåëåôîíó, ÿ àâòîìàòè÷åñêè ñîãëàøàþñü, ÷òî îíè çàïèøóò è áóäóò èñïîëüçîâàòü ìîé ãîëîñ. ×òîáû îòêàçàòüñÿ îò ãîëîñîâîé áèîìåòðèè, íàäî - íå ïîâåðèòå - ïîçâîíèòü â áàíê... Ïèñüìåííûõ çàÿâëåíèé îíè íå ïðèíèìàþò. Æàëü, ÷òî ÿ ñëèøêîì ëåíèâ, ÷òîáû ñóäèòüñÿ ñ íèìè.
êëàññíûé ôèëüì, íî ñëàáî îöåíåííûé ìàññàìè
Ñöåíà ñ ìåäâåäåì?) Ñàì ôèëüì ìåòàôîðà, êëàññíûé, ïåðåñìàòðèâàþ èíîãäà
è îíà òîæå, íî âîîáùå ôèíàëüíàÿ ñöåíà ñ ìåòàõóìàíîì äàæå áëèæå ê òåìå êðèíæåâîé ìèìèêðèè