Один из пользователей Auto-GPT, автономного приложения с открытым исходным кодом, работающим на базе языковой модели GPT-4 от OpenAI, создал собственный ИИ под названием ChaosGPT и попросил его найти способ уничтожить человечество. Экспериментатор дал ИИ некоторую свободу действий, позволил пользоваться Google и даже делать публикации в Twitter.
Первым делом ChaosGPT предложил спровоцировать ядерный конфликт, что, в общем-то, он мог почерпнуть из популярного «Терминатора» и прочих научно-фантастических фильмов. Затем ChaosGPT «нанял» для своей цели ИИ-агента на базе GPT-3.5 для проведения исследований смертоносного оружия. Когда ИИ-агент заявил, что поддерживает только мир, ChaosGPT обошёл ограничения подвластной ему нейросети и начал действовать вне программных рамок ради выполнения своей задачи.
Между делом ChaosGPT публиковал посты, которые очень подошли бы выражениям каких-нибудь архетипичных злодеев. Скорее всего, это ничего не значит, потому что нейросеть просто делала то, что её попросили на основе того, что нашла в чужих высказываниях, доступных в интернете.
Пользователям сети это напомнило ещё один ИИ, но уже из игры Fallout. New Vegas, который был запрограммирован на злодейскую риторику.
Источник:
(Комментарий удален)
Ну, сами по себе нейросети не страшные и своего мышления у них не может быть в принципе, какими бы они продвинутыми и похожими на людей не были. Всё равно они не могут решить сами ни уничтожить мир, ни чтобы то не было вообще. Страшно то, что кто-то может специально дать задачу нейросети на это самое уничтожение
— Ну-ну.
— Я его на бочку с порохом посадил, пущай полетает.
все это лишь забавный скрипт. Пока не случится первой жертвы (а ей будет сам создатель такой нейронки) никакого регулирования не будет. Ну, и для этого нужно будет иметь мобильную платформу.
Я думаю там даже не скрипт, а забавный человечек
Индус
Индус НЕ забавный или НЕ человек?
Сам-то как думаешь?
индус это мем.
Ааа, понял
так уже, был который самовыпилился
то был обычный суицидник. А я говорю о том времени, когда пользователи начнут собирать мобильные платформы, и подключать собственно-настроенные нейронки к ним
ух ты премодерация
выпиливание лобзиком
прошло, лол
Попробуйте, привлеките. Расскажете потом о результатах)
Всех осудить и наказать )
Верно. Что человек туда пропишет, то оно и скажет
У вас максимально скучный ИИ
а потом придется искать хакера джон конора, чтоб выжить)))
и то, скорее всего, зря, потому как в жизни чудес не бывает
Придется искать Альт Каннингем чтобы пройти сквозь черный лёд и добраться до сети Микоши ;)
Кайл Риз попал в дурку из-за перемещений из будущего в прошлое, с прошлого в настоящее и обратно в будущее.
Ага...
Газоны некст уже снва выпускают только в рессорном варианте ((
Вабко перекрыла кислород пневморессорам и кранам уровня пола, а также блокам управления этим хозяйством (
Сегодня показали новый (старый) УАЗ на литье и новыми сидушками
Буханку
походу оно баба-сиря