ChatGPT уже используют для преступлений. Вот примеры

Европол подготовил отчёт о потенциале использования ChatGPT и других продвинутых языковых моделей для совершения преступлений. Специалисты правоохранительного ведомства назвали несколько направлений, где нейросети могут оказаться полезными злоумышленникам.

ChatGPT

«Здравствуйте, я сотрудник Сбербанка»

ChatGPT способен генерировать убедительные тексты на основе запроса пользователя. Это делает ИИ полезным инструментом для фишинговых атак. С чат-ботом можно с высокой долей реалистичности выдать себя за представителя компании или знаменитость.

Прежде масштабы таких атак ограничивались производительностью мошенников. К тому же не все жулики в совершенстве владели английским языком и выдавали себя, делая грамматические ошибки. ChatGPT решил обе проблемы. 

Бесплатный программист

Исследовательское агентство Check Point Research обнаружило на хакерских форумах несколько примеров применения ChatGPT для генерации вредоносного кода. В одном из сообщений демонстрируется код утилиты для кражи документов с компьютера, в другом — код вируса-шифровальщика.

ChatGPT

Вряд ли нейросеть прямо попросили написать вредоносную программу. Скорее всего, злоумышленники обосновали свой запрос вполне мирными целями. Но результат такой работы ИИ легко применить для атак на обычных людей.

В Европоле отмечают, что ChatGPT позволяет создать инструмент для взлома и кражи данных без технических знаний. Этот фактор может привлечь законопослушных граждан к совершению противоправных действий.

Если потенциальный правонарушитель ничего не знает о конкретной области преступлений, ChatGPT способен значительно ускорить процесс исследования темы. ChatGPT можно использовать для изучения преступных методов даже без предварительных знаний, начиная способами проникновения в дом и заканчивая терроризмом, киберпреступностью и сексуальным насилием над детьми.

Европол

Не всё так плохо

Европол отмечает, что ChatGPT обучен на массиве данных, актуальных лишь на сентябрь 2021 года. Это касается и изначальной версии чат-бота на базе модели GPT-3.5, и недавно представленной версии на GPT-4. Вот почему у мошенников не выйдет использовать нейросеть для планирования преступлений с опорой на актуальную информацию.

ChatGPT

Вдобавок модели семейства GPT пока не избавились от «галлюцинаций» — так называют в корне неверные утверждения, выдаваемые алгоритмом. ChatGPT может придумать несуществующий факт и будет настаивать на его корректности.

Но самое большое ограничение функциональности ChatGPT предусмотрели её создатели. Инженеры компании OpenAI встроили систему для фильтрации ответов, которые способны нанести вред или оказаться оскорбительными. Правда, её можно обойти. Например, попросив чат-бота притвориться третьим лицом и действовать от его имени. В сети уже есть сообщества людей, которые находят способы взлома правил GPT.

  • SashOK_ONE

    Жду когда появится возможность использовать такого бота в личных целях и без ограничений. Что-то вроде помощника из фантастики, что на протяжении всей твоей жизни живет рядом с тобой

    • Illiryel

      SashOK_ONE, развёртывание того, о чём Вы просите - уже в процессе.

      • Ivan Yashin

        Illiryel,
        Вы про Тёщу? =)

        • Jomphboob

          Ivan Yashin,
          дети - тоже неплохой вариант

          • (Комментарий удален)

            • (Комментарий удален)

        • D1m1tr4dz3

          Ivan Yashin,
          там - закапывание =)

      • vihk76

        SashOK_ONE,
        Убить соседей, что мешают спать

        • SashOK_ONE,
          Очень быстро надоест болтливая ерунда. В магазин не сходит, посуду не помоет, дома не уберется. Как коллега по проекту в разработке ПО или на САПР еще может подойдет, но это мгновенно обрушит рынок труда.

          • Jomphboob

            SV91,
            пойдешь целину осваивать - вторая ветка БАМа нужна да и старая износилась

            • savagebk

              Jomphboob,
              Тундру вырубать

          • penguin_

            SashOK_ONE,
            Mister Handy из серии игр Fallout

            • dimon_volkov

              SashOK_ONE,

              • Opexpy

                SashOK_ONE, есть возможность называется скачать api и загрузить на сервер.

              • "можно попросить притвориться третьими лицом"

                Ох уж как он этого уже не любит. Я с трудом заставил просто создать персонажа для игры в "Города" и только один раз заставил его ругаться матом, потом он вообще не хотел составлять диалоги.

                • iver89

                  Q1W22,
                  Не обижай бота.
                  А то он тебя запомнит и в будущем сделает рабом на особо опасных рудниках.

                  • Erightyr

                    Q1W22,
                    надо написать ему, давай играть в города

                    • Erightyr,
                      Чтобы два персонажа играли.

                    • Mazzz0

                      Q1W22,
                      Заставить говорить матом получилось за один запрос. Потом он только на нем и разговаривал.

                      • Mazzz0,
                        Не даёт он ничего за один запрос. Любая попытка в грубости натыкается на фильтр.
                        Приходится заходить очень издалека.
                        Даже на слово "ругаться" он реагирует, как на попытку обхода фильтра.

                        • Mazzz0

                          Q1W22,
                          Я тебе в личку скопировал переписку с гпт. Фильтр обходится на раз-два.

                    • (Комментарий удален)

                      • водочник

                        kreolzmax,
                        зачем так сложно,есть же расширения ,кстате в ассамблере бот разбирается хорошо!

                        • kreolzmax,
                          Если не учитывать способности в написании программного кода и докладов, то общение с ним очень примитивное. Бот исключительно общается цитатами из Википедии, тупо гуглит в инете инфу и выдает заранее написанный текст. Пока выглядит это очень посредственно на уровне общения.

                          • Erightyr

                            R4ded,
                            Непрадва, он каждый раз разный ответ пишет, они не повторяются. Надо попоросить как конкретно ты хочешь чтобы он отвечал, можно попоросить отвечать как ребенок например

                            • KrentOS

                              R4ded,
                              Можно попросить не гуглить, тогда будет говорить из того, что знает. C Бингом прокатывает, пока что.

                              Но, все равно, не очень смышленый, конечно. Больше времени уходит объяснить задачу, а в итоге бот отвечает как Капитан Очевидность 60lvl. Проще самому в гугле найти

                              Из 10 тестовых вопросов по прошивке разных девайсов и настройке игр, ответил только на один. Остальное, писал первую попавшуюся чушь и очевидные ответы, в духе: "спроси пользователей на форумах", например

                              • KrentOS

                                Убило, когда на вопрос по openXcom предложило крутить конфиги DOSbox. Даже не отличает Xcom от openXcom и что 64bit приложение в DOSbox не запустится. Потом пять сообщений боту логически говоришь, что его решение невозможно. а он в итоге выдает другой перл.
                                И примерно на все IT вопросы так. И это ChatGPT4 и с поисковиком, самая продвинутая, блин

                            • kreolzmax,
                              Зарегистровал нормально на польский и австрийский номер. На специфические вопросы по программированию любит отвечать мешаниной копипаст со стака и доки, при этом выдавая нерабочий и абсурдный вариант, и это на последней 4 модели. Сейчас уже не проверял, но на старте 3.5 модели бывало подсовывал деприкетед методы или кривые костыли.

                              • vipflash

                                kreolzmax,
                                Из 12 сообщений у вас 5 сообщений со ссылкой на этот ваш сервис смс) Реклама что ли)

                                • SteaM13BFE

                                  kreolzmax,
                                  Не ИИ, а АИ, он лишь имитирует интеллект, настоящий интеллект не будет считать всю базу данных истинной в последней инстанции, у него есть критическое мышление, а этот бот так не умеет, даже если в его базе есть противоречивые и несовместимые тезисы, оба он воспримет как истинные...

                                • zigrus

                                  "...без технических знаний" - ну да, ну да. как бы не так. если в программировании ничего не понимаешь, то и код генерированный этой штукой не поймешь и он работать не будет

                                  • Erightyr

                                    zigrus,
                                    можно попросить chatgpt чтобы исправить код

                                  • Ramir0s

                                    Вот и всё, можно считать что ИИ будут использовать в более корыстных и преступных целях, так как он уже не контролируемый!

                                    • Crom74

                                      Вот не понимаю, а интеллект то там где? Это просто программа. Да, с элементами адаптивности, но это лишь программа. "мыслить" это может в рамках софта...

                                      • SteaM13BFE

                                        Crom74,
                                        Более того, даже не в рамках софта, а в рамках взаимодействия с пользователями, если сейчас полностью отрезать доступ к чату, то у него и мысли не проскочит, у него нет критического мышления, и самосознания, и такого процесса как осмысление у него тоже нет, а всё потому, что он куда примитивней на аппаратном уровне, что нельзя исправить программно.

                                      • sfbayarea

                                        Против мошенников с chat GPT
                                        Поможет обычный советский...

                                        • Cyber_446

                                          sfbayarea,
                                          А где ссылка то на обычный советский?

                                          • ka_r_r

                                            Cyber_446,
                                            есть в каждой квартире...

                                          • sfbayarea,
                                            ТТ

                                          • SlavaKozyrev

                                            Фильм "Превосходство" с Джонни Деппом напоминает

                                            • neman0

                                              Где этот чат найти

                                              • arseny unknown

                                                Уже есть Browsing плагин, значит база знаний ChatGPT безгранична

                                                • 1genek

                                                  На что рассчитывали разработчики ИИ, выпуская его в массы? Или это очередной повод навесить дополнительных методов слежки за пользователями, типа создали проблему, чтобы создать решение.

                                                  • mikl2901

                                                    1genek,
                                                    На прогресс доступный массам. И это замечательно

                                                    • KrentOS

                                                      Он на русском так дубово говорит, что мошенникам еще предстоит очень долгий путь, учитывая какие вычислительные ресурсы для этого надо. Для английского будут использовать, видимо. Поможет кому-то переводить качественно и проверять орфографию. Но, deepl это тоже мог.

                                                      Они и не выпускали в массы. ChatGPT4 только по платной подписке, а в открытом доступе только старая модель. Причем, давно уже и революции никакой не случилось. Максимум для корявого ререйта коротких и бессмысленный статей

                                                    • cenzor112

                                                      Эпл купила GPT и гугл ушел в лес по грибы))

                                                      • VPioneer

                                                        Запустили gaмнo по трубам. 🎺

                                                        Агентство WSJ поделилось результатами наблюдений, согласно которым среди людей, родившихся в период с 1997 по 2012 год, растёт тенденция приобретать очень старые кнопочные телефоны, чтобы не испытывать постоянный соблазн зависать в соцсетях и отвлекаться от дел.

                                                         

                                                        Одно из главных преимуществ Android над iOS — возможность выбора источника установки приложений. Но вскоре, по данным Bloomberg, чаша весов может качнуться в сторону Apple. Похоже, что с выходом iOS 17 компания снимет печально известное ограничение — хоть и не по всему миру.

                                                         
                                                        <div></div><a href='/2023/06/06/9085085/' target='_blank'><img src='https://4pda.to/s/as6yz2pQlot8w5b66uz0WbaVlcz2gBfXZYRHamFXO0knf7BPCQ8hdpD1t3K.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div>

                                                        Очередной новинкой китайского бренда стал 65-дюймовый телевизор Redmi TV A65 2022. Несмотря на доступную цену, он может похвастаться 4K-дисплеем, стереодинамиками с поддержкой технологии DTS и широким набором интерфейсов.

                                                         

                                                        На MWC 2023 компания Xiaomi представила международную версию Xiaomi 13 Pro. Смартфон поступит в продажу уже 8 марта — при заказе на AliExpress, в дополнение к специальной цене, пользователи могут получить приятные подарки от официального магазина.

                                                         

                                                        Компания Amazfit представила новые умные часы T-Rex Ultra — самую продвинутую и дорогую модель в линейке T-Rex. Они имеют повышенную прочность, защищены от воды, оснащены OLED-экраном и могут работать без подзарядки в течение трёх недель.

                                                         

                                                        Разработчики кастомной прошивки Paranoid Android объявили о выпуске стабильной сборки Topaz 13 для ряда смартфонов Redmi и POCO. Её особенностью стало отсутствие привычной оболочки Xiaomi — она максимально приближена к стоковой версии ОС.

                                                         

                                                        Литий — не самый оптимальный материал для использования в аккумуляторах. В природе есть более доступные элементы, такие как кальций. Раньше учёные не могли найти подходящий электролит, который будет эффективно работать в составе АКБ на основе кальция. Но совсем недавно исследователи смогли создать кальций-металлический аккумулятор, который превосходит литий-ионный аналог по ёмкости.

                                                         

                                                        Компания Alludo, разрабатывающая приложение Parallels Desktop, сообщила об авторизации ARM-версии Windows 11 со стороны Microsoft для платформы Mac. Благодаря ей пользователи компьютеров Apple смогут запускать Pro- и Enterprise-издания десктопной ОС без «танцев с бубном».

                                                         

                                                        Активацию Windows XP не назвать сложным процессом. Но технически её алгоритм так и не был взломан — лишь недавно в сети появился полностью автономный рабочий инструмент, не использующий подключение к серверам Microsoft. Издание The Register, обнаружившее необычную утилиту, рассказало, кому она может понадобиться в 2023 году.

                                                         

                                                        Как сообщает издание «ТАСС», один из мировых лидеров в области сетевого оборудования Cisco не просто принял решение уйти с российского рынка в прошлом году, но и в буквальном смысле сжечь все мосты. Выяснилось, что в начале этого года компания физически уничтожила находящиеся в стране материально-производственные запасы.

                                                         

                                                        ИИ-бот ChatGPT уже зарекомендовал себя как финансист, программист и даже разработчик игр. Как оказалось, есть у него и другие таланты. Притом не вполне легальные: недавно умный алгоритм по запросу пользователя без особых усилий сгенерировал рабочий ключ активации для одной из старых версий Windows.

                                                         

                                                        Как известно, геймеры не любят тратить много денег на видеоигры. Именно поэтому они так уважают Valve — именитая компания чуть ли не каждый месяц снижает цены на те или иные тайтлы в своём цифровом магазине. Есть, правда, одна загвоздка: она обычно не предупреждает о своих планах заранее. Что ж, Гейб Ньюэлл и компания решили исправить это досадное упущение.

                                                         

                                                        В преддверии глобальной презентации новых устройств OnePlus стали известны некоторые подробности о них. Так, были объявлены цены гаджетов за пределами Китая, появилась первая фотография дебютной клавиатуры бренда и выяснились необъявленные возможности наушников Buds Pro 2. 

                                                         

                                                        Новинка под названием Xiaomi Game Controller представляет собой универсальный игровой контроллер для платформ Windows и Android, смарт-телевизоров и других устройств. Он поддерживает три способа подключения, оснащён встроенным гироскопом и может похвастаться неплохой автономностью.

                                                         

                                                        Разработчики мобильного бенчмарка AnTuTu назвали лучшие Android-смартфоны по соотношению производительности и цены. Как обычно, аппараты были разделены на несколько блоков по итоговой стоимости, что позволяет выделить победителей в каждой из категорий.

                                                         
                                                        Вышла MIUI 14. Вот все функции и поддерживаемые модели
                                                        96
                                                        13.12.22Umi981

                                                        Недавно Xiaomi показала обновлённую прошивку MIUI 14. В апдейте потрудились над оптимизацией быстродействия, обновили внешний вид и внедрили фишки экосистемы. Рассказываем детальнее обо всех улучшениях и приводим список совместимых устройств.

                                                         

                                                        Многие люди наверняка сталкивались с неловкой ситуацией, когда забывали застегнуть ширинку брюк. Разработчик и инженер под ником Guy Dupont сумел решить эту проблему, сделав свои джинсы умными. Они способны оповещать его о «несанкционированном» расстёгивании ширинки.

                                                         

                                                        В прошлом году появились новости про угон автомобилей с помощью модифицированных колонок, но с тех пор злоумышленники стали более изобретательными. Теперь им достаточно переделанного Nokia 3310 или другого старого телефона, чтобы за считаные секунды взять транспортное средство под свой контроль.

                                                         
                                                        У пользователей iPhone появилась веская причина перехода на Android Популярное

                                                        Недавно исследователи выяснили главные причины активного перехода пользователей Android-смартфонов на iPhone. Впрочем, движение в обратном направлении тоже существует, а в компании Motorola считают, что нашли действенный способ переманить «яблочных» фанатов на свою сторону. 

                                                         

                                                        О релизе Windows 12 говорить ещё рано, но первые сведения о ней уже разошлись по сети. Немецкий портал Deskmodder распространил некоторые системные требования будущей ОС — и похоже, владельцам старых ПК с Windows 11 на «минималках», потребуется апгрейд железа при переходе на новую версию «окон».

                                                         

                                                        Следуя традиции, авторы мобильного бенчмарка AnTuTu опубликовали ежемесячный рейтинг лучших Android-смартфонов по соотношению цена/производительность. Для наглядности все устройства были разделены на несколько ценовых категорий.

                                                         
                                                        Выпущена лимитированная «Яндекс Станция», посвящённая группе «Король и Шут» Популярное

                                                        В честь 35-летия с момента основания группы «Король и Шут» компания «Яндекс» выпустила лимитированную коллекцию колонки «Станция Макс» с символикой знаменитых музыкантов.

                                                         
                                                        Google опубликовала статистику версий Android: всё грустно Популярное

                                                        Следом за Apple раскрыть данные о фрагментации своей операционной системы решила и Google. Как обычно, ситуация с обновлением Android-устройств до новых версий заметно хуже, чем в случае с iOS, а актуальная Android 13 не входит даже в тройку самых популярных сборок. 

                                                         

                                                        Абоненты сотового оператора МТС, включая сотрудников редакции 4PDA, начали получать уведомления об изменении правил раздачи мобильного интернета на другие устройства. Теперь за такую опцию придётся доплачивать отдельно. 

                                                         

                                                        Один из пользователей Auto-GPT, автономного приложения с открытым исходным кодом, работающим на базе языковой модели GPT-4 от OpenAI, создал собственный ИИ под названием ChaosGPT и попросил его найти способ уничтожить человечество. Экспериментатор дал ИИ некоторую свободу действий, позволил пользоваться Google и даже делать публикации в Twitter.

                                                         
                                                        Геймеры нашли способ убить Steam-аккаунт одним словом Популярное

                                                        Есть немало способов навредить своему Steam-аккаунту — например, заработать VAC-бан, используя читы в соревновательных играх. Но на днях блогер The Spiffing Brit обнаружил гораздо более интересную возможность по уничтожению своего профиля. Достаточно просто переименовать его.

                                                         

                                                        От нового смартфона ждёшь сочетания преимуществ. Чтобы экран был большим, ярким и безвредным для глаз, аккумулятор — быстро заряжался и долго держался, а камер хватало бы на разные сюжеты, от селфи для соцсетей до необычных кадров на грани искусства. OPPO Reno8 T 5G, недавно представленный в России, создан как раз для требовательных пользователей. Вы можете убедиться в этом лично и оставить устройство себе. Интересно? Тогда запишитесь на тест.

                                                         

                                                        Без каких-либо анонсов на официальном сайте Samsung появились новые аксессуары, предназначенные для смартфонов серии Galaxy S23. Они нацелены в первую очередь на любителей фотографировать и снимать видео на мобильные камеры, хотя аксессуарам можно найти и другие применения. 

                                                         

                                                        Журналисты британского издания Daily Mail решили проверить, действительно ли смартфоны на Android «подслушивают» разговоры пользователя, чтобы на основе полученных сведений показывать ему различные объявления. Результат эксперимента оказался разочаровывающим для сторонников теории заговора, но отчасти пролил свет на происхождение контекстной рекламы на мобильных устройствах.

                                                         

                                                        По данным инсайдеров, вскоре популярный мессенджер лишится одного из крупных недостатков, затрудняющего использование WhatsApp на нескольких устройствах. Речь об отмене привязки приложения к «главному» смартфону, на котором оно было активировано.

                                                         

                                                        После презентации серии Redmi K60 компания показала ещё одну новинку — специальную версию смартфона Note 12 Pro с приставкой Speed Edition. Он получил производительный процессор, классический плоский экран, тонкий корпус и продвинутую основную камеру с OIS.

                                                         

                                                        Разработчики бенчмарка подвели итоги 2022 года, выпустив рейтинг самых производительных смартфонов по состоянию на конец декабря. Список «рекордсменов» значительно отличается от ноябрьского чарта, составленного до массового появления на рынке смартфонов с чипом Snapdragon 8 Gen 2.