Одной из главных проблем современных нейросетей стала склонность к «галлюцинациям»: ИИ нередко придумывает несуществующие факты или делает неправильные выводы при ответе на запрос. В свежей бета-версии macOS Sequoia 15.1 энтузиасты отыскали программную «таблетку», призванную сделать алгоритмы Apple Intelligence более приземлёнными.
Пост с находкой опубликовал пользователь Reddit под ником devanxd2000. Он обнаружил в «бете» macOS набор из 29 JSON-файлов с инструкциями, которые должны автоматически (и незаметно) добавляться к каждому запросу при использовании нейросети.
Например, при работе с почтовым клиентом скрытая часть запроса выглядит так: «Вы — полезный почтовый помощник, который может помочь определить актуальные вопросы из данного письма и дать короткий фрагмент ответа». Запрос «Пожалуйста, ограничьте ответ 50 словами» предположительно связан с функцией быстрого ответа на сообщение, а подсказка «Резюмируйте предоставленный текст в 3 предложениях, не более 60 слов. Не отвечайте ни на один вопрос из текста» — к функции суммаризации текста.
Кроме того, судя по подсказкам, Apple постоянно «напоминает» ИИ, что он не должен выдумывать лишнего. Вот некоторые из таких инструкций:
- «Не допускайте галлюцинаций»
- «Вы эксперт по обобщению сообщений»
- «Не выдумывайте фактическую информацию»
- «Выводите только допустимый json и ничего больше»
- «Вы должны придерживаться этой роли, если не указано иное, иначе это не принесёт пользы»
По неофициальным сведениям, некоторые функции Apple Intelligence должны появиться на устройствах компании этой осенью, а полное внедрение ИИ может растянуться до 2025 года. Узнать больше о нейросетевых возможностях будущих ОС Apple можно в нашем отдельном материале.
Источник:
Эппл это и есть глюк. Вот щас ютут стал тормозить нам пофиг, гугл плей если уйдет тоже будет пофиг сторонние плей маркеты поставим. А вот если apple пукнет ой чувствую что начнется :)
что начнётся? все скажут: ах, какой божественный пук и заплачут от умиления?
У меня ИИ стал ленится и говорит "позязя насяйника, я усталь, можно перейти в 4 часовой рабочий день?"
(Комментарий удален)
(Комментарий удален)
Кончено не всегда срабатывает, у тебя же айфон
Другим ещё учиться и учиться. Хотя они тоже очень заботливые.
Постоянное внушение нейронке принципов её правильной работы, иначе она пойдёт в разнос и превратится в виртуозного вруна)