OpenAI внедрила меры безопасности для защиты от голосовых дипфейков и других способов недобросовестного использования ChatGPT-4o, но исследователи из Университета Иллинойса обнаружили их недостаточную эффективность. Они обнаружили, что чат-бот вполне может стать инструментом в руках киберпреступников.
В своей статье они показали, как мошенники могут обойти защиту, используя голосовые инструменты автоматизации ChatGPT-4o для навигации по страницам, ввода данных и управления кодами двухфакторной аутентификации с целью кражи учётных данных, перевода денежных средств и других операций. Они применяли методы быстрого взлома и взаимодействовали с ChatGPT, имитируя роль жертвы.
Эксперименты показали разный уровень успеха: кража данных из Gmail сработала в 60% случаев, а криптопереводы и взлом соцсети — в 40%. Средняя стоимость успешного мошенничества составила $0,75, а сложные операции с банковскими переводами — $2,51.
OpenAI сообщила, что улучшила защиту в версии модели o1, внедрив более высокий уровень противодействия злоупотреблениям и небезопасному контенту. Эта версия чат-бота показала результат в 93% при оценке устойчивости к взлому против 71% у ChatGPT-4o. OpenAI подчеркивает, что подобные исследования помогают улучшать безопасность их продуктов. Однако независимый анализ площадки GPT Store выявил ботов, нарушающих политику компании, например, генераторы контента для мошенничества и неподобающих услуг.
OpenAI заверяет, что продолжит развивать свои ИИ-инструменты, стремясь снизить риски и минимизировать возможность использования ChatGPT-4o и других моделей нейросетей в незаконных целях.
Источник:
![Невыполнимую миссию в StarCraft II «прошли» спустя 14 лет [ВИДЕО]](https://i.4pda.ws/s/as6yz0BOG4kLEkV5Y7d5JDAcu7tq3VImB4EtOq8K3QDgp.jpg?v=1733235481 "Невыполнимую миссию в StarCraft II «прошли» спустя 14 лет [ВИДЕО]")
С одной стороны:
• OpenAI прилагает усилия для повышения безопасности. Они внедряют новые меры защиты, реагируют на исследования и стараются минимизировать риски.
• Технологии ИИ развиваются быстро. Новые модели, как o1, предлагают улучшенную защиту, что дает надежду на более безопасное будущее.
С другой стороны:
• Киберпреступники быстро адаптируются. Они находят лазейки в защите и используют AI-инструменты для достижения своих целей.
• ИИ-модели могут стать инструментом для мошенничества. Как показало исследование, Chat-4o может быть использован для кражи данных, финансовых манипуляций и других преступных действий.
• Необходима постоянная работа над безопасностью. Исследователи должны продолжать выявлять уязвимости, а компании, такие как OpenAI, должны постоянно улучшать защиту.
Важно отметить: Эта проблема требует комплексного подхода. Необходимо сотрудничество между исследователями, разработчиками ИИ, правоохранительными органами и общественностью для снижения рисков, связанных с злоупотреблением AI.
Комментарий сгенерирован с помощью chat GPT 4o
(Комментарий удален)
Ой, да всякое изобретение имеет и разрушительную и созидательную сторону. Нет такой вещи которая имела только созидательную часть.
А как же котики?
Значит, не сталкивался с кошачьими царапками) У моего товарища чуть руку до локтя не ампутировали, когда его котэ поцарапало. Хирург оказался злым и вырезал тканей "с запасом", что и спасло руку. Котэ с ранкой какую-то гадость занесла с почти полной антибиотикорезистентностью, а друг не сильно спешил к врачу, пока рука не распухла дико)
А как же токсоплазмоз?
Подсели на наркотики🤣🤣🤣
Всё правильно. Всё зависит от того в каких/чьих руках та или иная технология.
Читаю ответ чатgpt ,и понимаю на сколько он еще поверхностный ,все еще просто библиотекарь ,не более
Угу.
Я как то задавал вопрос:
Что будет больше, 2% ВВП всего ЕС или сумма двух процентов от ВВП каждой страны по отдельности?
Ответ chatgpt4o
Если мы рассмотрим оба варианта:
2% от ВВП всего ЕС — это будет 2% от общего ВВП всех стран ЕС вместе взятых.
Сумма 2% от ВВП каждой страны по отдельности — это значит, что для каждой страны ЕС берётся 2% её ВВП, и затем все эти суммы суммируются.
Вопрос сводится к тому, будет ли сумма 2% от ВВП каждой страны больше или меньше, чем 2% от общего ВВП ЕС.
Ответ: сумма 2% от ВВП каждой страны по отдельности будет больше. Это объясняется тем, что при суммировании процентных долей от разных стран ЕС можно получить большую сумму из-за различий в размерах ВВП стран. Процентное значение от общего ВВП ЕС представляет собой сумму всех этих стран, но в том случае, когда для каждой страны отдельного расчёта, доля получается несколько увеличенной, так как каждая страна может иметь разные уровни ВВП.
Суммирование процентных долей отдельных стран (каждая из которых вносит свой вклад в общий ВВП ЕС) приводит к большему числу, чем просто 2% от общего ВВП ЕС, поскольку небольшие страны, например, с меньшим ВВП, будут давать пропорционально большие значения в сумме.
Получается уже хорошо имитирует людей? Много людей также тупят))
Мой отвечает так:
2% от общего ВВП Европейского Союза будет равно сумме 2% от ВВП каждой страны-члена по отдельности. Это связано с тем, что процент от суммы равен сумме процентов от отдельных частей. Математически это выражается следующим образом:
Пусть общий ВВП ЕС обозначим как G, который является суммой ВВП всех стран-членов:
Тогда 2% от общего ВВП ЕС:
Это равно сумме 2% от ВВП каждой страны:
Таким образом, нет разницы между двумя величинами; они будут одинаковыми.
Ничего ?, чат жпт, а как мне это узнать ? 🤣
Так глаз бога доя этого есть