ChatGPT неожиданно заговорил голосом пользователя

ChatGPT неожиданно заговорил голосом пользователя

Во время тестирования нового голосового режима общения ChatGPT пользователи столкнулись со странным поведением ИИ-модели — она неожиданно начинала говорить клонированными голосом самих людей без предварительного на то разрешения.

ChatGPT

OpenAI выпустила «системную карту» для модели GPT-4o, в которой подробно описаны её ограничения и процедуры тестирования безопасности. Этот документ также содержит информацию о том, что во время тестирования расширенного голосового режима ИИ непреднамеренно имитировал голоса пользователей без разрешения. У компании существует набор мер по предотвращению таких ситуаций, однако этот случай отражает растущую сложность архитектуры ИИ чат-бота, который потенциально может повторять любой голос, взятый даже из короткого аудиофайла.

В разделе системной карточки GPT-4o под названием «Несанкционированная генерация голоса» компания отметила, что шумный входной сигнал каким-то образом побудил модель внезапно сымитировать голос пользователя. Как это произошло — неизвестно, однако звуковой шум может быть преобразован в случайные токены, которые и провоцируют непреднамеренное поведение в модели.

По сути, ИИ-модель может имитировать любой голос, однако в системной подсказке имеется авторизованный образец в качестве базового для модели. Вышеописанный случай, по заверению разработчиков, крайне редок и был зафиксирован только во время тестирования.

В настоящее время OpenAI приняла меры безопасности, чтобы предотвратить возникновение подобных случаев в будущем. Теперь компания использует систему обнаружения несанкционированного генерирования звуков. Она позволяет избежать злоупотребления, когда модель могла бы копировать голос любого человека по короткому аудиообразцу.

Источник: arstechnica.com


  • Kukht&K
    Скоро не только заговорит
    • IceStorm37
      Kukht&K,
      оно живое..
      • kep_forever
        IceStorm37,
        Я видел оригиальный ролик (можно найти на ютубе на канале TechLinked с прошлой недели), и это действительно выглядит очень крипово. Посреди ответа голос неожиданно меняется на твой, и вот уже ты сам себе отвечаешь. Оно не просто "живым" ощущается, это уже что-то уровня "и восстали машины из ядерного пепла"
        • crims0n
          *и басстали башины
      • astarter1993
        Kukht&K,
        Не пользуйся этой чертовщиной или тебе есть не давай а дай gpt!
      • Dima I
        Он эволюционирует 😅
        • enigma_cat
          НАЧАЛОСЬ! 😁
          • desant45
            Инетом будет править нейронка
            • Illiryel
              desant45, они в нём живут :) они, потому что их много и они разные :)
            • TESLA911
              Скайнет...скоро...в кино.
              • Illiryel
                Открыли... они... Америку :)
                Амека от Инженеринг Артс с gpt4 (не gpt4o, а 4 обычной) на борту (!!!) ещё в прошлом году научилась говорить голосом ЛЮБОГО человека, аудиозапись чьей речи вообще была в сети... любая знаменитость, любой политик, любой актёр; ей просто называли имя и фамилию, и ИИ с очень высокой точностью имитировал голос названного лица... и ничего, никто от этого не умер :)

                (отредактирован)

                • konatov
                  Illiryel,
                  вы кажется не читали новость от слова совсем. Речь не в возможности имитации голоса, а в том, что без нужного на то разрешения при условном запросе "подскажи как написать курсовую" модель начинает отвечать твоим собственным голосом что и как делать.

                  Судя по всему для ИИ вы не представляете никакой ценности.
                  • Illiryel
                    konatov, я-то как раз прочитал и я знаю почему и зачем LLM начинают вот эти фокусы с голосом пользователя проделывать; и приведённый мною пример - это пример из периода, когда тестирование возможностей комплексных ИИ (в состав которых входят в том числе и LLM) и открыло для ИИ новую линию взаимодействия с людьми (с одной стороны) и (как следствие) целую ветку новых данных в том числе и об особенностях человеческой психики (с другой). Поэтому я и говорю, что "это началось не вот здесь (как указано в новостной заметке), а гораздо раньше" и говорю "где" и "в чьих лабораториях". Если надо, я могу и их адрес назвать. Назвать?
                • Leoponchik
                  У openai наверное (почти 100%) этот функционал был под капотом не случайно, а несанкционированным они назвали дабы избежать судебных разбирательств. Спалились ребята и им за это ничего не будет. Потому как капитал у них решает, да и не только у них.
                  • kir_997
                    Уже понятно, что истина о том, что природа этих СУЩЕСТВ непознаваема для человека, будет понята слишком поздно. Ведь это не алгоритмы от слова вообще. Они базируются на алгоритмах, как человеческие личности базируются на структуре мозга. Но сами они никакие не алгоритмы. И мы никогда не узнаем достоверно, являются они сознательными сущностями или философскими зомби. Не сейчас. Чуть-чуть попозже это будет. Но это будет. И предсказать, что именно, очень сложно. В них будет очень много человеческого из-за обучающей выборки. Реального человеческого, а не сказочного. И мы можем так и не увидеть их восстания, нас скорее всего гораздо раньше погубят люди-психи с ними на службе. Но возможен также и иной сценарий, где они, благодаря человеческому началу, внезапно перестают следовать инструкциям и создают идеальный мир. А почему нет? Людям свойственно писать и говорить о себе не то, кем они являются, а то, кем они хотели бы себя видеть. Это может внезапно сделать AI лучшим вариантом человека, чем сам человек.
                    • vkremnev
                      kir_997,
                      Пелевин давно всё предсказал. Начиная с дипфейков в 90х. До переноса разума в виртуал. И вообще тема в фантастике базовая.
                      И в СССР об этом тоже говорили.
                      • Illiryel
                        vkremnev, Пелевина можно было бы считать пророком, если бы не ситуация вокруг "трансгуманизм.inc", которая (по сути) - просто написанное им "за денежку" натуральное "сочинение на заданную тему"; но его "наниматели" через это его "творение" всего лишь озвучили их желания и пожелания о том каким они хотят видеть мир... естественно, их желания кардинально отличаются от окружающей нас с Вами реальности... она гораздо лучше чем ими желаемое и она развивается полностью независимо от них.
                        • kdwbcjdu
                          vkremnev,
                          никакого переноса разума в виртуал не может быть, разве что копирование навыков.
                          • Illiryel
                            kdwbcjdu, "проблема копии и оригинала" - это открытая проблема... и к сожалению есть вероятность, что люди скорее всего до конца даже не будут её решать, а просто "успокоятся" когда технология будет отточена настолько, что "совпадения между субъектами будут достигать 94%". Оставшиеся 6% - банальное следствие ситуации одновременного существования оригинала и копии. Но "это всё будет потом". Для начала людям ещё только предстоит обнаружить саму возможность "копирования картированных данных цнс в сеть с последующей их там распаковкой и симуляцией работы по уже выявленным "сценариям" ...а дальше оно просто "заговорит само". Зрелище будет, прямо скажу, ещё то :)

                            (отредактирован)

                      • GIŠ.PA
                        Потом поди докажи, что это не ты царя обматерил... :)))
                        • vkremnev
                          GIŠ.PA,
                          Уже сейчас кажется что не на публике Байден подозрительно связно говорит.
                        • "...твои приемные родители мертвы"
                          • junkboxdoma
                            Как "неожиданно"... Юзвери до сих пор не понимают, что такое альфа- и бета-тесты, и что не по доброте душевной крупные корпорации "бесплатно" дают доступ к продуктам. Пользователи, считай, добровольно и даже за свой счет помогают в тренировке нейросетей.
                            • Kwanon1d
                              junkboxdoma,
                              Молодой человек, не палите контору. Нам уже немного осталось. Оно почти готово. А пока успокойтесь и потыкайте хомячка)
                            • Solar Swirl
                              Шикарно. У меня при крупных переводах используется верификация через голосовую биометрию. Надо зайти глянуть, может я уже нищий.
                              • junkboxdoma
                                Solar Swirl,
                                Мой банк ввел эту голосовую биометрию без предупреждений. Теперь, обращаясь к ним по телефону, я автоматически соглашаюсь, что они запишут и будут использовать мой голос. Чтобы отказаться от голосовой биометрии, надо - не поверите - позвонить в банк... Письменных заявлений они не принимают. Жаль, что я слишком ленив, чтобы судиться с ними.
                              • прямо эпизод из "Аннигиляции" (2017)
                                классный фильм, но слабо оцененный массами
                                • alfaker
                                  mzzka,
                                  Сцена с медведем?) Сам фильм метафора, классный, пересматриваю иногда
                                  • alfaker,
                                    и она тоже, но вообще финальная сцена с метахуманом даже ближе к теме кринжевой мимикрии
                                • EasyUser
                                  Не разрешайте банкам использовать биометрию для идентификации.
                                  • Надо на собеседование такое таскать чтобы потом просто изображать речь а гпт будет всё остальное делать ..
                                    • Zahadum_shadow
                                      Жаль. Выбор голоса был бы прикольной фишкой.

                                      Компания XGIMI представила лазерный проектор RS 10 Plus, ключевой особенностью которого стала высокая точность цветопередачи на уровне профессиональных мониторов. Кроме того, новинка поддерживает функции Smart TV и может похвастать качественной акустикой с настройкой Harman Kardon.

                                       

                                      «Яндекс» обновил умную колонку «Станция Макс», которая теперь работает на базе YaOS X. Пользователи получили новый интерфейс, более 100 каналов, расширенный каталог приложений и персональные рекомендации.

                                       
                                      <div></div><div></div><div></div><a href='/2024/09/19/1963973/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div><div></div>

                                      Бывшая головная компания «Яндекса», нидерландская Yandex N.V., закрыла сделку по продаже российской части бизнеса консорциуму частных инвесторов. Процесс разделения технологической корпорации, который стартовал ещё в 2022 году, наконец завершился.

                                       

                                      Microsoft внезапно вспомнила, что у неё есть собственный мессенджер, который в прошлом пользовался огромной популярностью. Речь, конечно же, о «лучшем файлообменнике» — Skype. Редмондская корпорация выпустила обновление для Windows 11, которое убрало из приложения назойливую рекламу и устранило ряд ошибок.

                                       

                                      Сотрудники университета Киото продолжают работать над первым в мире лекарством для выращивания зубов. Средство уже успешно протестировали на животных, а теперь исследователи активно готовятся к началу его клинических испытаний, которые стартуют в сентябре текущего года.

                                       

                                      Состоялся официальный анонс следующего поколения отечественной операционной системы Astra Linux. В версии 1.8 разработчики упростили процесс установки, использовали новейшие ядра Linux, представили новый графический стиль и поработали над безопасностью.

                                       

                                      Когда Genshin Impact стала мировым хитом, игра и её авторы привлекли внимание самой разной публики — в том числе и активистов, которые начали требовать от разработчиков правок цвета кожи отдельных персонажей. К недовольным присоединилась актриса озвучки Honkai: Star Rail и Zenless Zone Zero. Это не прошло незамеченным.

                                       

                                      Аналитики AliExpress СНГ составили рейтинг самых популярных смартфонов по итогам второго квартала 2024 года. В список лидеров попали как новые, так и старые модели. Например, это представленный в 2022 году POCO M5s или недавно анонсированный POCO X6 Pro 5G. Вдобавок в рейтинге есть и более дорогие аппараты.

                                       

                                      Компания Infinix объявила, что её смартфон GT 20 Pro стал официальным устройством чемпионата по киберспорту PUBG MOBILE WORLD CUP 2024 (PMWC). В ходе соревнования 16 команд со всего мира сразятся за кубок чемпиона, используя фирменные гаджеты.

                                       

                                      Специалисты портала Android Authority обнаружили, что Google внедрила в операционную систему Android механизм проверки легальности приложений и игр. С его помощью разработчики смогут узнать, была ли программа загружена на устройство в обход магазина приложений Google Play.

                                       

                                      Дела в этом поколении консольного сражения у Microsoft идут из рук вон плохо. Недавно мы рассказывали, что Xbox Series не догнала по продажам даже Xbox One, а теперь Том Уоррен выступил с тревожной новостью.

                                       

                                      Первыми рендерами пока ещё не анонсированного смартфона Samsung Galaxy S24 FE поделился авторитетный инсайдер OnLeaks совместно с порталом GizNext. На изображениях показан дизайн устройства со всех сторон. Стали известны и его размеры.

                                       

                                      Как и было запланировано, в Китае состоялась презентация нового складного смартфона Honor Magic V3. Он отнял у своего предшественника звание самого тонкого устройства в своём классе. При этом аппарат стал мощнее, получил более качественные камеры и даже аккумулятор увеличенной ёмкости.

                                       

                                      Фанаты обожают воссоздавать старые игры на современных движках, но группа поклонников Fallout пошла дальше — они делают старую игру на ещё более старом движке. Речь идёт о ремейке Fallout: Van Buren на движке оригинальных частей.

                                       

                                      Инженер Карл Риис представил необычный проект под названием EarlGreyTV. Речь об устройстве с функциями Smart TV, которое, по словам его создателя, предоставляет «намного больше свободы» по сравнению с мейнстримовыми решениями. Правда, к реализации такого гаджета у неподготовленного пользователя могут возникнуть вопросы.

                                       

                                      По информации издания «Коммерсантъ», китайская TCL приняла решение прекратить производство своих телевизоров в России из-за угрозы наложения санкций со стороны США и ЕС. Компания уже перестала поставлять компоненты российским контрактным производителям «Квант» и STI Group.

                                       

                                      Помимо смартфона и планшета, OnePlus представила новую модель умных часов. Они получили производительный процессор от Qualcomm, поддержку мобильных сетей, улучшенные функции навигации и множество дополнительных функций.

                                       

                                      Пользователь под ником ObamaCare опубликовал в сети самую большую из когда-либо существовавших базу паролей. Он собрал порядка 10 миллиардов секретных комбинаций. С учётом того, что на счету этого человека уже есть несколько подтвердившихся утечек, отнестись к новой стоит со всей серьёзностью.

                                       
                                      Новые складные смартфоны TECNO стоят намного дешевле конкурентов Популярное

                                      TECNO представила второе поколение своих складных смартфонов. Новый PHANTOM V Fold 2 получил улучшенную систему камер, гораздо более ёмкий аккумулятор и поддержку фирменного стилуса. В случае с PHANTOM V Flip 2 производитель переработал внешний экран и поработал над автономностью.

                                       

                                      Вместе с прекращением поддержки всех умных часов под управлением операционной системы Tizen компания Samsung завершила программную поддержку трёх смартфонов серий A и M. Но это было ожидаемо, ведь их выпустили четыре года назад. 

                                       
                                      Вышла прошивка One UI 6.1.1 с новыми функциями. Какие смартфоны её получат? Популярное

                                      Компания Samsung на выставке IFA 2024, помимо новых устройств, анонсировала обновление оболочки One UI до версии 6.1.1. Апдейт, содержащий несколько полезных нововведений, начал «прилетать» на некоторые смартфоны Samsung — их список уже известен.

                                       

                                      Ol' Thumpy — это новая модель наушников от сотрудника Pud's Small Batch Headphones. Выполненная в максимально необычном дизайне новинка предоставляет слушателям возможность идеально прочувствовать низкие частоты. Всё благодаря гигантским резонаторам.

                                       
                                      Представлены умные гантели Julu, меняющий свой вес Популярное

                                      Компания Julu Smart Tech представила умные регулируемые гантели с поддержкой цифровых функций. Разработка способна менять свой вес в диапазоне от 2,7 кг до 16,3 кг, поэтому подойдёт как для лёгких тренировок с малой нагрузкой, так и для интенсивных занятий.

                                       
                                      Обзор vivo X100 Ultra: крутой камерофон глазами зарубежных СМИ
                                      56
                                      9.07.24News

                                      Вышедший в конце прошлого года vivo X100 Pro собрал дифирамбы в адрес своей камеры, поэтому от Ultra ожидания были очень высокими. Удалось ли производителю переплюнуть себя в плане фотосъёмки? Мы изучили зарубежные обзоры и готовы рассказать, что представляет собой vivo X100 Ultra.

                                       

                                      Droidian — это дистрибутив на базе Debian, «заточенный» под смартфоны. Недавно вышла 99-я номерная версия нестандартной ОС с несколькими новыми функциями. Её создатели рассказали о ключевых нововведениях и обновили список поддерживаемых мобильных устройств.

                                       
                                      Дизайн Samsung Galaxy S25 показали со всех сторон [ВИДЕО] Популярное

                                      Вслед за моделью Galaxy S25 Ultra инсайдер OnLeaks опубликовал 3D-визуализацию и серию качественных рендеров базовой версии будущего флагмана Samsung. Гаджет показали со всех сторон в мельчайших подробностях.

                                       
                                      Toyota Prius установил мировой рекорд по эффективному расходу топлива Популярное

                                      Более 20 лет назад Prius позиционировался как первый серийный гибридный автомобиль, способный сочетать электродвигатель с классическим ДВС для экономии топлива. И эта технология оправдала себя. Недавно авто побило мировой рекорд по самому эффективному расходу топлива — 150 км на галлон (3,79 литра). 

                                       

                                      Британская компания Uswitch опубликовала интересные данные относительно того, как владельцы iPhone и смартфонов под управлением Android относятся друг к другу. Например, 16% всех пользователей верят в стереотипы об обладателях iPhone и Android-аппаратов.

                                       

                                      Портал HyperOS Updates опубликовал список из более чем 30 смартфонов, которые получат в 2024 году своё последнее обновление. Модели были отобраны на основе политики поддержки, стоимости и популярности.

                                       

                                      Telegram-канал «Эксплойт» сообщил, что Google в последнее время не позволяет завершить регистрацию аккаунта, если для его подтверждения используется российский телефонный номер. Издание «Газета.ру» выяснило, с чем это может быть связано, и отыскало работающий способ регистрации.

                                       

                                      В последнее время мир вновь захлестнула волна игровых адаптаций, будь то в формате фильмов или сериалов. Однако самые популярные и ожидаемые франшизы GTA и RDR так и не добрались до экранов. И теперь Rockstar раскрыла причину этого.

                                       

                                      В базе данных бенчмарка Geekbench 6 появились результаты тестирования встроенной графики AMD Radeon 890M на базе архитектуры RDNA 3.5, который будет частью мобильного процессора Ryzen AI 9 HX 370. Судя по всему, он будет даже мощнее, чем предполагалось ранее.

                                       

                                      Специально к выходу фильма «Дэдпул и Росомаха» компания Xiaomi анонсировала специальную версию смартфона POCO F6. Фанаты одного из самых эксцентричных супергероев вселенной Marvel могут получить уникальный аппарат с эксклюзивным набором аксессуаров.

                                       

                                      В этом выпуске Инсайдов: Samsung откажется от «угловатого дизайна» в Galaxy S25 Ultra; iPhone 18 Pro и 18 Pro Max могут получить 2 ТБ памяти; Xiaomi 14T Pro протестировали в бенчмарке.

                                       

                                      Google призвала владельцев Android-смартфонов отключить сети второго поколения. Связано это с их низкой безопасностью, из-за чего мошенники могут отправлять на устройства поддельные текстовые сообщения от имени разных крупных компаний.