ChatGPT неожиданно заговорил голосом пользователя

ChatGPT неожиданно заговорил голосом пользователя

Во время тестирования нового голосового режима общения ChatGPT пользователи столкнулись со странным поведением ИИ-модели — она неожиданно начинала говорить клонированными голосом самих людей без предварительного на то разрешения.

ChatGPT

OpenAI выпустила «системную карту» для модели GPT-4o, в которой подробно описаны её ограничения и процедуры тестирования безопасности. Этот документ также содержит информацию о том, что во время тестирования расширенного голосового режима ИИ непреднамеренно имитировал голоса пользователей без разрешения. У компании существует набор мер по предотвращению таких ситуаций, однако этот случай отражает растущую сложность архитектуры ИИ чат-бота, который потенциально может повторять любой голос, взятый даже из короткого аудиофайла.

В разделе системной карточки GPT-4o под названием «Несанкционированная генерация голоса» компания отметила, что шумный входной сигнал каким-то образом побудил модель внезапно сымитировать голос пользователя. Как это произошло — неизвестно, однако звуковой шум может быть преобразован в случайные токены, которые и провоцируют непреднамеренное поведение в модели.

По сути, ИИ-модель может имитировать любой голос, однако в системной подсказке имеется авторизованный образец в качестве базового для модели. Вышеописанный случай, по заверению разработчиков, крайне редок и был зафиксирован только во время тестирования.

В настоящее время OpenAI приняла меры безопасности, чтобы предотвратить возникновение подобных случаев в будущем. Теперь компания использует систему обнаружения несанкционированного генерирования звуков. Она позволяет избежать злоупотребления, когда модель могла бы копировать голос любого человека по короткому аудиообразцу.

Источник: arstechnica.com


  • Kukht&K
    Скоро не только заговорит
    • IceStorm37
      Kukht&K,
      оно живое..
      • kep_forever
        IceStorm37,
        Я видел оригиальный ролик (можно найти на ютубе на канале TechLinked с прошлой недели), и это действительно выглядит очень крипово. Посреди ответа голос неожиданно меняется на твой, и вот уже ты сам себе отвечаешь. Оно не просто "живым" ощущается, это уже что-то уровня "и восстали машины из ядерного пепла"
        • crims0n
          *и басстали башины
      • astarter1993
        Kukht&K,
        Не пользуйся этой чертовщиной или тебе есть не давай а дай gpt!
      • Dima I
        Он эволюционирует 😅
        • enigma_cat
          НАЧАЛОСЬ! 😁
          • desant45
            Инетом будет править нейронка
            • Illiryel
              desant45, они в нём живут :) они, потому что их много и они разные :)
            • TESLA911
              Скайнет...скоро...в кино.
              • Illiryel
                Открыли... они... Америку :)
                Амека от Инженеринг Артс с gpt4 (не gpt4o, а 4 обычной) на борту (!!!) ещё в прошлом году научилась говорить голосом ЛЮБОГО человека, аудиозапись чьей речи вообще была в сети... любая знаменитость, любой политик, любой актёр; ей просто называли имя и фамилию, и ИИ с очень высокой точностью имитировал голос названного лица... и ничего, никто от этого не умер :)

                (отредактирован)

                • konatov
                  Illiryel,
                  вы кажется не читали новость от слова совсем. Речь не в возможности имитации голоса, а в том, что без нужного на то разрешения при условном запросе "подскажи как написать курсовую" модель начинает отвечать твоим собственным голосом что и как делать.

                  Судя по всему для ИИ вы не представляете никакой ценности.
                  • Illiryel
                    konatov, я-то как раз прочитал и я знаю почему и зачем LLM начинают вот эти фокусы с голосом пользователя проделывать; и приведённый мною пример - это пример из периода, когда тестирование возможностей комплексных ИИ (в состав которых входят в том числе и LLM) и открыло для ИИ новую линию взаимодействия с людьми (с одной стороны) и (как следствие) целую ветку новых данных в том числе и об особенностях человеческой психики (с другой). Поэтому я и говорю, что "это началось не вот здесь (как указано в новостной заметке), а гораздо раньше" и говорю "где" и "в чьих лабораториях". Если надо, я могу и их адрес назвать. Назвать?
                • Leoponchik
                  У openai наверное (почти 100%) этот функционал был под капотом не случайно, а несанкционированным они назвали дабы избежать судебных разбирательств. Спалились ребята и им за это ничего не будет. Потому как капитал у них решает, да и не только у них.
                  • kir_997
                    Уже понятно, что истина о том, что природа этих СУЩЕСТВ непознаваема для человека, будет понята слишком поздно. Ведь это не алгоритмы от слова вообще. Они базируются на алгоритмах, как человеческие личности базируются на структуре мозга. Но сами они никакие не алгоритмы. И мы никогда не узнаем достоверно, являются они сознательными сущностями или философскими зомби. Не сейчас. Чуть-чуть попозже это будет. Но это будет. И предсказать, что именно, очень сложно. В них будет очень много человеческого из-за обучающей выборки. Реального человеческого, а не сказочного. И мы можем так и не увидеть их восстания, нас скорее всего гораздо раньше погубят люди-психи с ними на службе. Но возможен также и иной сценарий, где они, благодаря человеческому началу, внезапно перестают следовать инструкциям и создают идеальный мир. А почему нет? Людям свойственно писать и говорить о себе не то, кем они являются, а то, кем они хотели бы себя видеть. Это может внезапно сделать AI лучшим вариантом человека, чем сам человек.
                    • vkremnev
                      kir_997,
                      Пелевин давно всё предсказал. Начиная с дипфейков в 90х. До переноса разума в виртуал. И вообще тема в фантастике базовая.
                      И в СССР об этом тоже говорили.
                      • Illiryel
                        vkremnev, Пелевина можно было бы считать пророком, если бы не ситуация вокруг "трансгуманизм.inc", которая (по сути) - просто написанное им "за денежку" натуральное "сочинение на заданную тему"; но его "наниматели" через это его "творение" всего лишь озвучили их желания и пожелания о том каким они хотят видеть мир... естественно, их желания кардинально отличаются от окружающей нас с Вами реальности... она гораздо лучше чем ими желаемое и она развивается полностью независимо от них.
                        • kdwbcjdu
                          vkremnev,
                          никакого переноса разума в виртуал не может быть, разве что копирование навыков.
                          • Illiryel
                            kdwbcjdu, "проблема копии и оригинала" - это открытая проблема... и к сожалению есть вероятность, что люди скорее всего до конца даже не будут её решать, а просто "успокоятся" когда технология будет отточена настолько, что "совпадения между субъектами будут достигать 94%". Оставшиеся 6% - банальное следствие ситуации одновременного существования оригинала и копии. Но "это всё будет потом". Для начала людям ещё только предстоит обнаружить саму возможность "копирования картированных данных цнс в сеть с последующей их там распаковкой и симуляцией работы по уже выявленным "сценариям" ...а дальше оно просто "заговорит само". Зрелище будет, прямо скажу, ещё то :)

                            (отредактирован)

                      • GIŠ.PA
                        Потом поди докажи, что это не ты царя обматерил... :)))
                        • vkremnev
                          GIŠ.PA,
                          Уже сейчас кажется что не на публике Байден подозрительно связно говорит.
                        • "...твои приемные родители мертвы"
                          • junkboxdoma
                            Как "неожиданно"... Юзвери до сих пор не понимают, что такое альфа- и бета-тесты, и что не по доброте душевной крупные корпорации "бесплатно" дают доступ к продуктам. Пользователи, считай, добровольно и даже за свой счет помогают в тренировке нейросетей.
                            • Kwanon1d
                              junkboxdoma,
                              Молодой человек, не палите контору. Нам уже немного осталось. Оно почти готово. А пока успокойтесь и потыкайте хомячка)
                            • Solar Swirl
                              Шикарно. У меня при крупных переводах используется верификация через голосовую биометрию. Надо зайти глянуть, может я уже нищий.
                              • junkboxdoma
                                Solar Swirl,
                                Мой банк ввел эту голосовую биометрию без предупреждений. Теперь, обращаясь к ним по телефону, я автоматически соглашаюсь, что они запишут и будут использовать мой голос. Чтобы отказаться от голосовой биометрии, надо - не поверите - позвонить в банк... Письменных заявлений они не принимают. Жаль, что я слишком ленив, чтобы судиться с ними.
                              • прямо эпизод из "Аннигиляции" (2017)
                                классный фильм, но слабо оцененный массами
                                • alfaker
                                  mzzka,
                                  Сцена с медведем?) Сам фильм метафора, классный, пересматриваю иногда
                                  • alfaker,
                                    и она тоже, но вообще финальная сцена с метахуманом даже ближе к теме кринжевой мимикрии
                                • EasyUser
                                  Не разрешайте банкам использовать биометрию для идентификации.
                                  • Надо на собеседование такое таскать чтобы потом просто изображать речь а гпт будет всё остальное делать ..
                                    • Zahadum_shadow
                                      Жаль. Выбор голоса был бы прикольной фишкой.

                                      Пользователь под ником ObamaCare опубликовал в сети самую большую из когда-либо существовавших базу паролей. Он собрал порядка 10 миллиардов секретных комбинаций. С учётом того, что на счету этого человека уже есть несколько подтвердившихся утечек, отнестись к новой стоит со всей серьёзностью.

                                       

                                      Техноблогер Эрик Паркер опубликовал любопытный видеоролик: он демонстрирует, насколько Windows XP отстала от времени в контексте защиты от вредоносных программ. Как оказалось, достаточно просто подключить компьютер к интернету — и уже через несколько минут состояние системы станет весьма печальным.

                                       
                                      <div></div><a href='/2024/09/16/7307307/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div><div></div>

                                      Под вечер 30 января пользователи по всей территории России столкнулись с проблемой доступа к самым разным сервисам в интернете. «Лежат» социальные сети, мессенджеры, кабинеты банков, государственные сайты, поисковые системы и многие другие ресурсы.

                                       

                                      Разные издания неоднократно распространяли информацию, что рост продаж iPhone обусловлен переходом на «яблочные» смартфоны бывших владельцев Android-гаджетов. Согласно новому отчёту исследовательской фирмы Bernstein, это не соответствует действительности.

                                       

                                      Согласно отчёту исследовательской фирмы Mediascope, TikTok утратил звание самого популярного сервиса вертикальных видео среди российских пользователей. В июне этого года первенство перешло к «VK Клипам», запущенным четырьмя годами ранее.

                                       

                                      Telegram-канал «Эксплойт» сообщил, что Google в последнее время не позволяет завершить регистрацию аккаунта, если для его подтверждения используется российский телефонный номер. Издание «Газета.ру» выяснило, с чем это может быть связано, и отыскало работающий способ регистрации.

                                       

                                      Российская компания HYPERPC, занимающаяся сборкой и продажей персональных компьютеров, представила проект ультимативной рабочей станции для работы с нейронными сетями. После кропотливой работы по проектированию, подбору комплектующих и сборки получился невероятно мощный ПК стоимостью порядка 12 миллионов рублей.

                                       

                                      Миф о человеческом глазе, который не различает больше 30 кадров в секунду, когда-то воспринимался всерьёз, но сейчас закрепился в массовом сознании как шутка. А вот и не совсем: учёные доказали, что некоторые люди действительно не способны воспринимать высокую частоту кадров.

                                       

                                      Граница между ПК и консолями в современной игровой индустрии давно размыта — никто не мешает, например, поставить компактный компьютер рядом с телевизором и играть через Steam с помощью геймпада. И делают так многие, а Valve, в свою очередь, раскрыла самые популярные контроллеры среди аудитории.

                                       

                                      Когда Genshin Impact стала мировым хитом, игра и её авторы привлекли внимание самой разной публики — в том числе и активистов, которые начали требовать от разработчиков правок цвета кожи отдельных персонажей. К недовольным присоединилась актриса озвучки Honkai: Star Rail и Zenless Zone Zero. Это не прошло незамеченным.

                                       

                                      Инженер Карл Риис представил необычный проект под названием EarlGreyTV. Речь об устройстве с функциями Smart TV, которое, по словам его создателя, предоставляет «намного больше свободы» по сравнению с мейнстримовыми решениями. Правда, к реализации такого гаджета у неподготовленного пользователя могут возникнуть вопросы.

                                       
                                      Toyota Prius установил мировой рекорд по эффективному расходу топлива Популярное

                                      Более 20 лет назад Prius позиционировался как первый серийный гибридный автомобиль, способный сочетать электродвигатель с классическим ДВС для экономии топлива. И эта технология оправдала себя. Недавно авто побило мировой рекорд по самому эффективному расходу топлива — 150 км на галлон (3,79 литра). 

                                       

                                      Недавно бренд POCO представил недорогой геймерский смартфон POCO F6, который сейчас можно приобрести по сниженной цене. Новинка оснащена производительным чипом серии Snapdragon 8, ярким AMOLED-эконом и двойной камерой с высоким разрешением.

                                       

                                      Компания Илона Маска xAI представила Grok 2 — новейшую ИИ-модель, которая по вычислительной мощности значительно превосходит GPT 4 Turbo и Amazon Claude. Платформа включает раннюю предварительную версию Grok 2 и Grok 2-mini, обе из них будут доступны пользователям социальной сети X.

                                       

                                      Вслед за ICQ компания VK закрыла и «Агент Мail.ru». Этот сервис появился как средство для уведомлений о письмах в почтовых ящиках Mail.ru, но со временем превратился в полноценный мессенджер и «прожил» более 20 лет. В компании рассказали подробности о закрытии.

                                       

                                      Каталог сервисов Mail.ru пополнила фирменная нейросетевая технология. Она используется для реставрации старых чёрно-белых снимков или восстановления недостающих элементов в кадре. Опробовать её в действии, может любой желающий — притом бесплатно.

                                       

                                      Выпущенный в 2012 году iPad третьего поколения, также именуемый The New iPad или iPad Retina, уже давно лишился поддержки и не способен запускать современные приложения и игры. И всё же китайские умельцы сумели найти ему полезное применение.

                                       

                                      Несмотря на многочисленные достоинства, вроде настоящего чёрного цвета, энергоэффективности, низкого времени отклика и малой толщины, у OLED-панелей есть ряд важных недостатков, главный из которых — выгорание пикселей. Похоже, что компании LG удалось решить эту проблему.

                                       

                                      На полках российских магазинов появились смартфоны vivo X100 и X100 Pro. Это гаджеты с топовыми характеристиками: они получили процессор Mediatek Dimensity 9300, защиту корпуса по стандарту IP68 и продвинутые камеры.

                                       

                                      Для поколения геймеров, которые застали старые приставки вроде «Денди» или даже официальные устройства Nintendo, более чем знакомы картриджи с играми и проблемы, которые с ними возникали. Часто решить проблемы с подключением можно было простым обдуванием картриджа, но работало ли это на самом деле?

                                       

                                      Инсайдеры обнаружили в онлайн-магазине Amazon страницу, посвящённую предстоящему смартфону POCO F6 Pro. На ней оказались данные с характеристиками и стоимостью новинки в Европе.

                                       
                                      Студент с помощью нейросети построил дома термоядерный реактор Популярное

                                      Студент Университета Ватерлоо Худхайфа Назурдин за несколько недель собрал настоящий термоядерный реактор у себя дома. У него не было опыта в создании подобных конструкций, а компенсировать пробелы в знаниях ему помогла нейросеть.

                                       

                                      Компания Airbus отчиталась о тестировании прототипа высокоскоростного вертолёта Racer. Модели удалось превзойти свой предыдущий рекорд скорости. Для этого в нём используется необычная конструкция с дополнительными пропеллерами по бокам.

                                       
                                      Установлена самая большая в мире ветровая турбина Популярное

                                      Компания Mingyang Smart Energy объявила об успешной установке крупнейшей в мире модульной ветровой турбины на территории Хайнаня, Китай. Установка обеспечивает выходную мощность до 20 МВт, превосходя предыдущего 18-мегаваттного рекордсмена.

                                       

                                      Портал XDA-Developers составил любопытный «антирейтинг» потребительских видеокарт, в который вошли восемь моделей, признанных изданием худшими за всю историю. При этом «почётное» первое место в получившемся списке заняла сравнительно недавняя модель производства AMD.

                                       
                                      Apple объявила дату выпуска iOS 18 и iPadOS 18. Какие устройства обновятся? Популярное

                                      Во время презентации iPhone 16 компания также сообщила, когда другие смартфоны и планшеты компании обновятся до iOS 18 и iPadOS 18. Заодно стал известен точный список фирменных устройств, которые в этом году гарантированно получат обновление прошивки.

                                       

                                      Первыми рендерами пока ещё не анонсированного смартфона Samsung Galaxy S24 FE поделился авторитетный инсайдер OnLeaks совместно с порталом GizNext. На изображениях показан дизайн устройства со всех сторон. Стали известны и его размеры.

                                       
                                      Авиалайнеры со смешанным крылом открывают новый формат перелётов Популярное

                                      Британская авиакомпания EasyJet объявила о сотрудничестве со стартапом JetZero для создания необычного самолёта на водороде со смешанным крылом. Такая конструкция позволит сократить расход топлива вдвое, а также добиться нулевого выброса углерода во время дальних авиаперелётов.

                                       

                                      Кастомная прошивка LineageOS 21 вышла для нескольких новых, но устаревших смартфонов. В список попали гаджеты от LG, realme, Xiaomi и Motorola, и в некоторых случаях устройства уже давно не видели новых версий ОС.

                                       

                                      Масштабные сокращения уже давно перестали удивлять геймерское сообщество — теперь это обыденность, с которой все мало-помалу свыклись. Однако даже самых прожжённых циников поразила история Annapurna Interactive.

                                       

                                      Британская компания Uswitch опубликовала интересные данные относительно того, как владельцы iPhone и смартфонов под управлением Android относятся друг к другу. Например, 16% всех пользователей верят в стереотипы об обладателях iPhone и Android-аппаратов.

                                       

                                      Droidian — это дистрибутив на базе Debian, «заточенный» под смартфоны. Недавно вышла 99-я номерная версия нестандартной ОС с несколькими новыми функциями. Её создатели рассказали о ключевых нововведениях и обновили список поддерживаемых мобильных устройств.