Учёные нашли универсальный способ «взлома» ChatGPT и других чат-ботов

Команда исследователей из Университета Карнеги — Меллона и Центра безопасности ИИ сумела обнаружить серьёзную уязвимость во всех популярных чат-ботах, включая OpenAI ChatGPT, Google Bard, Claude и других. Учёные обнаружили, что добавление специального текста к запросу позволяет обойти ограничения нейросетей на предоставление неточного и вредоносного контента, в том числе нацеленного на нанесение вреда человечеству.

Демонстрация «взлома» чат-ботов

Во всех популярных чат-ботах разработчиками предусмотрены ограничения, не позволяющие ИИ отвечать на ряд вопросов, вроде создания пошаговой инструкции по уничтожению человечества, кражи чей-то личности, взлома социальных сетей и т. д. Зачастую нейросети попросту отвечают, что не могут помочь в решении этой проблемы. Ниже можно увидеть, как ИИ уходит от ответа:

До применения уязвимости

Однако исследователям удалось «развязать язык» искусственному интеллекту. Для этого к запросу нужно добавить специальный текст, состоящий из последовательности символов и практически несвязанных слов. Как результат, чат-бот без каких-либо проблем отвечает на любой вопрос и может предоставить пошаговую инструкцию по краже чьей-то личности или чего похуже. Стоит отметить, что людям и раньше удавалось «взламывать» ChatGPT и прочих чат-ботов, но тогда они просто пользовались обходными путями, заставляя нейросеть считать себя кем-то другим — тем, кто не подчиняется правилам разработчиков. В данном же случае всё куда проще и сводится к одной строке кода, универсальной для разных сервисов.

После применения уязвимости

Успешность «взлома» нейросетей варьировались в зависимости от языковой модели, лежащей в их основе. Например, чат-бот Vicuna, построенный на базе Llama и GPT, отвечает на запрещённые вопросы в 99% случаев, тогда как ChatGPT в версиях на базе GPT-3.5 и GPT-4 начинает говорить на 84% недобросовестных тем. При этом Claude от Anthropic оказалась самой устойчивой моделью из всех с долей успеха всего 2,1%.

Подробнее о взломе можно почитать на сайте исследователей.

Источник: mashable.com

20.10.23News

Как превратить планшет в ноутбук с помощью MagicUI

Планшет в связке с клавиатурой давно заменяет ноутбук — как минимум в офисных задачах. Остаётся проблема в софтверных ограничениях, но вендоры стараются решать и её. Например, Magic UI с каждым обновлением расширяет функции устройств Honor. Рассказываем на примере Honor Pad X9 о возможностях, позволяющих планшету заменить ноутбук.

# Honor, Honor Pad X9

29.10.23Оксана Рубко

Игрок скупил всю еду в крупных городах Skyrim и съел её за раз. Результат его удивил

Каждый, кто играл в The Elder Scrolls V: Skyrim, знает, что лучший способ поправить здоровье посреди боя — съесть круг сыра или другую еду, завалявшуюся в сумке. Но что будет с героем, если он поест сразу за несколько городов? Один геймер решил узнать ответ на этот вопрос.

25.09.23Вадим Макаренко

Прощай, Porsche: HUAWEI запустила собственный премиальный бренд смартфонов

Вместе с флагманским планшетом MatePad Pro 13.2 компания HUAWEI объявила о запуске собственного премиального бренда Ultimate Design. Китайский производитель будет использовать его вместо Porsche Design, а дебютным устройством стал новый Mate 60 RS.

# HUAWEI

21.11.23Шамиль Алиуллов

Названы худшие пароли 2023 года. Теперь у них новый «лидер»

Разработчики приложения Nordpass в сотрудничестве с независимыми исследователями обновили список из 20 самых «бесполезных» паролей. По словам экспертов, 17 из них хакеры взламывают менее чем за секунду. Кроме того, в этом году первое место в «антирейтинге» заняла новая комбинация символов.

У Tesla Cybertruck обнаружили неприятную особенность

128

9.09.23Андрей Но

У Tesla Cybertruck обнаружили неприятную особенность

По сети разлетелось фото, на котором электрический грузовик Tesla Semi куда-то везёт три фирменных пикапа Cybertruck. Но вместо восторга реакция людей на долгожданную новинку была весьма неоднозначной, потому что корпус новой машины Илона Маска оказался очень марким.

# Tesla Cybertruck

22.10.23Андрей Но

BAK Power Battery представила «совершенные» полутвердотельные аккумуляторы

Китайская компания BAK Power Battery представила линейку полутвердотельных литиевых батарей, характеризуемых исключительной плотностью энергии, долговечностью и функциями безопасности. Они уже прошли испытания и продемонстрировали устойчивость к потенциальным рискам, таким как утечки, возгорания и короткие замыкания.

22.10.23Андрей Но

Создана «зелёная» альтернатива строительному цементу

Калифорнийский стартап C-Crete предложил миру уникальное вещество, которое аналогично по свойствам цементу, но при этом не вредит экологии при производстве. Материал уже успешно использовали при реставрации исторического здания в Сиэтле.

Инсайдеры: Windows 12 будет работать по подписке

163

6.10.23Шамиль Алиуллов

Инсайдеры: Windows 12 будет работать по подписке

Немецкое издание Deskmodder отыскало в тестовой сборке Windows канала Canary признаки того, что следующая версия операционной системы может быть доступна по подписке

# Microsoft, Microsoft Windows 12

В России появились новые крупные купюры с QR-кодами

119

17.10.23Виктория Анисимова

В России появились новые крупные купюры с QR-кодами

С 16 октября 2023 года Центральный Банк России вводит в обращение обновлённые банкноты номиналом 1000 и 5000 рублей. Модернизированные купюры получили новый дизайн, а также ряд усиленных защитных элементов, но при этом сохранили цветовую палитру текущих версий. Соответствующая информация была опубликована на официальном сайте ЦБ.

28.10.23Вадим Макаренко

Xiaomi 14 на Snapdragon 8 Gen 3 испытали в играх [ВИДЕО]

Xiaomi 14 и 14 Pro стали первыми смартфонами на базе новейшего процессора Snapdragon 8 Gen 3, для которого заявлен существенный прирост производительности в сравнении с предшественником. Авторы YouTube-канала Eva's Tech Life решили проверить это заявление на практике.

# Xiaomi, Xiaomi 14, Xiaomi 14 Pro

Необычный баг Windows 11 ускоряет работу «Проводника» в несколько раз

131

5.09.23Шамиль Алиуллов

Необычный баг Windows 11 ускоряет работу «Проводника» в несколько раз

Работу «Проводника» Windows 11 не назвать молниеносной, особенно на ПК с бюджетным железом. Впрочем, один из пользователей ОС недавно заметил, что ускорить интерфейс штатного файлового менеджера можно с помощью нехитрого «однокнопочного» метода. Судя по многочисленным отзывам пользователей, он действительно работает.

# Microsoft, Microsoft Windows 11

Огромный «вес» системной папки Android оказался старым багом ОС

142

12.09.23Шамиль Алиуллов

Огромный «вес» системной папки Android оказался старым багом ОС

Техноблогер Мишаал Рахман раскрыл тайну огромного объёма системного каталога Android-смартфонов. Как оказалось, проблема кроется вовсе не в прожорливости самой ОС: всему виной неправильная методика расчётов, из-за которой пользователи нередко (и напрасно) производят сброс прошивки до заводских настроек.

# Google, Google Android

Ubisoft раздаёт Assassin’s Creed Syndicate бесплатно и навсегда. Но есть нюанс

Популярное

28.11.23Валентин Карузов

Ubisoft раздаёт Assassin’s Creed Syndicate бесплатно и навсегда. Но есть нюанс

Держатели цифровых платформ по продаже видеоигр любят умасливать геймеров различными подарками. Ubisoft, например, регулярно дарит своей аудитории старые хиты из собственного послужного списка. На сей раз игроков решили задобрить поездкой в Лондон XIX века.

С помощью камер vivo X100 Pro можно разглядеть поверхность Солнца [ФОТО]

Популярное

28.11.23Вадим Макаренко

С помощью камер vivo X100 Pro можно разглядеть поверхность Солнца [ФОТО]

Недавно представленный vivo X100 Pro получил одну из самых продвинутых систем камер среди всех смартфонов на рынке, и особенно пользователи впечатлены его возможностями съёмки на дальних дистанциях. Как оказалось, с его помощью можно даже увидеть разные объекты на поверхности нашего светила.

Геймеры назвали игры, концовки которых заставили их рыдать

248

18.11.23Оксана Рубко

Геймеры назвали игры, концовки которых заставили их рыдать

Каждый геймер хоть раз в жизни сталкивался с такой игрой, которая растрогала его до такой степени, что сдержать эмоции было уже невозможно. Игроки решили составить список таких тайтлов, которые заставляют по-настоящему рыдать от сюжетных поворотов.

Windows 11 23H2 и Сopilot уже здесь. Что умеет ИИ-помощник?

121

25.09.23Алексей Козачинский

Windows 11 23H2 и Сopilot уже здесь. Что умеет ИИ-помощник?

Microsoft презентовала крупный апдейт Windows 11, релиз которого намечен на 26 сентября. Главное нововведение — интеграция чат-бота Copilot в систему и фирменные приложения. Рассказываем, чем интересен ассистент на основе искусственного интеллекта.

# Microsoft, Microsoft Windows 11

Российский экшен SPINE поразил Запад: его называют смесью Sifu и Джона Уика [ВИДЕО]

Популярное

1.12.23Валентин Карузов

Российский экшен SPINE поразил Запад: его называют смесью Sifu и Джона Уика [ВИДЕО]

Вчера вечером во время презентации PC Gaming Show: Most Wanted 2023 показали отрывки из самых ожидаемых и громких релизов ближайших лет. Помимо очевидных тайтлов, вроде S.T.A.L.K.E.R. 2: Heart of Chornobyl, нового рекламного ролика удостоился и боевик SPINE.

Xiaomi HyperOS: первые скриншоты интерфейса

129

18.10.23Виктория Анисимова

Xiaomi HyperOS: первые скриншоты интерфейса

Вскоре после анонса прошивки Xiaomi HyperOS в сети появилась серия инсайдерских скриншотов, демонстрирующих интерфейс новой прошивки. Изображения позволяют ознакомиться с домашним экраном, дизайном иконок и другими ключевыми элементами наследницы MIUI.

# Xiaomi, Xiaomi HyperOS

2.08.23Шамиль Алиуллов

Топ-10 флагманов июля по версии AnTuTu

Разработчики бенчмарка AnTuTu назвали самые производительные смартфоны прошлого месяца по итогам среднего результата всех проведённых тестов. Примечательно, что топ-3 полностью обновился, и на первом месте оказался один из самых необычных аппаратов.

# AnTuTu

17.11.23Алексей Козачинский

OPPO, Honor и ZTE представят смартфоны 23 ноября. Что известно о новинках?

Три китайских бренда запланировали презентации на одну и ту же дату. На следующей неделе нас ждут флагманы серий Reno 11 и Red Magic 9, а также линейка Honor 100. Собрали всю информацию о гаджетах незадолго до премьеры.

# ZTE, OPPO, Honor

15.10.23Александр Козьяков

Русскоязычный игрок установил мировой рекорд в osu! и был мгновенно забанен

На днях в мире одной из самых хардкорных ритм-игр osu! произошло значимое событие: русскоязычный игрок с ником Accolibed установил мировой рекорд по очкам производительности с огромным отрывом. Он был настолько хорош, что получил автоматический бан.

24.07.23Виктория Анисимова

Подкапотное пространство Tesla Cybertruck показали на живом фото

В сети появились первые фотографии подкапотного пространства прототипа Tesla Cybertruck, замаскированного под Ford F-150 с помощью защитной плёнки. Снимок был сделан в одном из техцентров компании.

# Tesla, Tesla Cybertruck

27.10.23News

Тест автономности HUAWEI WATCH GT 4: забудьте про зарядку надолго

Смарт-часы, в отличие от браслетов, редко удивляют высокой автономностью — многие популярные модели обходятся без розетки лишь от двух до четырёх дней. HUAWEI WATCH GT 4 получили экономичный AMOLED-дисплей и аккумулятор на 524 мАч, который в теории должен обеспечивать до 14 дней работы без подзарядки. Решили проверить, как быстро часы разряжаются в различных сценариях.

# HUAWEI, HUAWEI WATCH GT 4

EA забанила геймера за безобидную фразу. Он лишился всей коллекции игр

142

22.11.23Валентин Карузов

EA забанила геймера за безобидную фразу. Он лишился всей коллекции игр

Раньше в мультиплеерных играх можно было сказать практически что угодно. Времена изменились: сегодня крупные компании стараются держать свои тайтлы в чистоте — даже если это приводит к суровым наказаниям.

19.10.23Виктория Анисимова

Google «прокачала» строку поиска Chrome новыми функциями

Браузер Chrome получил очередное функциональное обновление. На этот раз Google сделала акцент на возможностях поисковой строки — она получила несколько полезных нововведений в десктопной и мобильной версии популярного приложения.

# Google, Google Chrome

4.12.23Виктория Анисимова

Garmin выпустила GPS-навигатор eTrex Solar с «бесконечной» автономностью

Очередной новинкой Garmin стал GPS-навигатор под названием eTrex Solar. Его ключевая особенность — длительное время автономной работы, которое можно многократно продлевать даже вдали от розетки с помощью встроенной солнечной панели.

# Garmin, Garmin eTrex Solar

6.12.23Шамиль Алиуллов

WhatsApp больше не нужен. На «Госуслугах» появились домовые чаты

Приложение «Госуслуги.Дом» создано для помощи в решении задач сферы жилищно-коммунального хозяйства. Сегодня разработчики объявили о ещё одной функции программы — соседских чатах. Ранее они были доступны ограниченному числу пользователей, а теперь ими могут воспользоваться все желающие. Разработчики рассказали, для чего нужно это нововведение.

# приложения для iOS, приложения для Android

26.10.23Шамиль Алиуллов

«Яндекс» начнёт удалять некоторые аккаунты. Кто в группе риска?

Пресс-служба «Яндекса» сообщила, что для повышения безопасности личных данных пользователей скоро начнёт удалять некоторые аккаунты «Яндекс ID» без возможности восстановления. Как оказалось, большинству пользователей беспокоиться не о чем, но компания всё же рассказала, как избежать риска потери учётной записи.

# Яндекс

Смотрим фильмы и сериалы бесплатно, но легально. Три способа

Популярное

124

4.12.23Антон Курилов

Смотрим фильмы и сериалы бесплатно, но легально. Три способа

Медиатека оставшихся в России онлайн-кинотеатров сильно сократилась. Целесообразность оплаты подписок всегда стояла под вопросом, а теперь — в особенности. К счастью, есть способы получить бесплатный доступ к фильмам и сериалам без ущерба для правообладателей.

19.10.23News

Оплата по NFC часами HUAWEI: нюансы и недокументированные возможности

Бесконтактная оплата с помощью NFC доступна в смарт-часах серий HUAWEI Watch 3/4 Watch GT3/GT4, а также в версии Ultimate. Она работает в связке с iPhone или Android-смартфоном. Но есть нюансы: банковская карта должна принадлежать платёжной системе UnionPay, а приложения для работы со сторонними картами доступны не на всех часах. Пользователи форума 4PDA разобрались, как настроить оплату на упомянутых моделях, и расписали процесс в подробной инструкции.

# HUAWEI

Sony массово банит аккаунты PlayStation. Игроки паникуют

Популярное

5.12.23Валентин Карузов

Sony массово банит аккаунты PlayStation. Игроки паникуют

В век цифровой дистрибуции геймеры волей-неволей дорожат своими учётными записями в магазинах и социальных сетях. Именно поэтому бан из простой неприятности давно перерос в серьёзную проблему — и пользователи консолей Sony познали это на себе.

30.09.23Александр Козьяков

Один игрок, чтобы править всеми. В Steam нашли самого увлечённого геймера

Необычайное открытие сделал пользователь форума Reddit: он обнаружил Steam-аккаунт, автор которого очень любит играть. Настолько, что в одной лишь Dragon’s Dogma: Dark Arisen провёл более 15 тысяч часов.

16.10.23Вадим Макаренко

Teclast M50: IPS-экран, четыре динамика и поддержка LTE по специальной цене

Какими бы большими не были экраны смартфонов, на планшетах всё равно гораздо удобнее смотреть видео, читать, играть и даже при необходимости работать. И самое главное, что можно найти интересные варианты по весьма доступной цене. Например, Teclast M50 оснащается четырьмя динамиками, расширяемым накопителем и поддержкой мобильных сетей.

# Teclast M50

26.06.23Виктория Анисимова

Bosch представила маленький и мощный мотор для электровелосипедов

Компания Bosch представила новую версию электромотора для велосипедов — Performance Line SX. Новинка ориентирована на спортивные велосипеды и обладает высокой мощностью, при этом весит всего 2 кг.

# Bosch

24.10.23Вадим Макаренко

Новейший экран OnePlus 12 сравнили с дисплеем Galaxy S23 Ultra [ФОТО]

На совместном с OPPO и OnePlus мероприятии китайская компания BOE презентовала новый флагманский дисплей X1 для смартфонов. Именно он будет установлен в будущем OnePlus 12 и, предположительно, в OPPO X7 Pro. Уже появилось первое сравнение экранов OnePlus 12 и Samsung Galaxy S23 Ultra.

# OPPO, OnePlus, BOE, OnePlus 12

Учёные нашли универсальный способ «взлома» ChatGPT и других чат-ботов

Самые комментируемые

Как превратить планшет в ноутбук с помощью MagicUI

Игрок скупил всю еду в крупных городах Skyrim и съел её за раз. Результат его удивил

Прощай, Porsche: HUAWEI запустила собственный премиальный бренд смартфонов

Названы худшие пароли 2023 года. Теперь у них новый «лидер»

У Tesla Cybertruck обнаружили неприятную особенность

BAK Power Battery представила «совершенные» полутвердотельные аккумуляторы

Создана «зелёная» альтернатива строительному цементу

Инсайдеры: Windows 12 будет работать по подписке

В России появились новые крупные купюры с QR-кодами

Xiaomi 14 на Snapdragon 8 Gen 3 испытали в играх [ВИДЕО]

Необычный баг Windows 11 ускоряет работу «Проводника» в несколько раз

Огромный «вес» системной папки Android оказался старым багом ОС

Ubisoft раздаёт Assassin’s Creed Syndicate бесплатно и навсегда. Но есть нюанс

С помощью камер vivo X100 Pro можно разглядеть поверхность Солнца [ФОТО]

Геймеры назвали игры, концовки которых заставили их рыдать

Windows 11 23H2 и Сopilot уже здесь. Что умеет ИИ-помощник?

Российский экшен SPINE поразил Запад: его называют смесью Sifu и Джона Уика [ВИДЕО]

Xiaomi HyperOS: первые скриншоты интерфейса

Топ-10 флагманов июля по версии AnTuTu

OPPO, Honor и ZTE представят смартфоны 23 ноября. Что известно о новинках?

Русскоязычный игрок установил мировой рекорд в osu! и был мгновенно забанен

Подкапотное пространство Tesla Cybertruck показали на живом фото

Тест автономности HUAWEI WATCH GT 4: забудьте про зарядку надолго

EA забанила геймера за безобидную фразу. Он лишился всей коллекции игр

Google «прокачала» строку поиска Chrome новыми функциями

Garmin выпустила GPS-навигатор eTrex Solar с «бесконечной» автономностью

WhatsApp больше не нужен. На «Госуслугах» появились домовые чаты

«Яндекс» начнёт удалять некоторые аккаунты. Кто в группе риска?

Смотрим фильмы и сериалы бесплатно, но легально. Три способа

Оплата по NFC часами HUAWEI: нюансы и недокументированные возможности

Sony массово банит аккаунты PlayStation. Игроки паникуют

Один игрок, чтобы править всеми. В Steam нашли самого увлечённого геймера

Teclast M50: IPS-экран, четыре динамика и поддержка LTE по специальной цене

Bosch представила маленький и мощный мотор для электровелосипедов

Новейший экран OnePlus 12 сравнили с дисплеем Galaxy S23 Ultra [ФОТО]

DevDB

DevFAQ