В нейросеть Apple оказалась вшита инструкция по борьбе с «глюками» ИИ

В нейросеть Apple оказалась вшита инструкция по борьбе с «глюками» ИИ

Одной из главных проблем современных нейросетей стала склонность к «галлюцинациям»: ИИ нередко придумывает несуществующие факты или делает неправильные выводы при ответе на запрос. В свежей бета-версии macOS Sequoia 15.1 энтузиасты отыскали программную «таблетку», призванную сделать алгоритмы Apple Intelligence более приземлёнными.

Apple

Пост с находкой опубликовал пользователь Reddit под ником devanxd2000. Он обнаружил в «бете» macOS набор из 29 JSON-файлов с инструкциями, которые должны автоматически (и незаметно) добавляться к каждому запросу при использовании нейросети.

Например, при работе с почтовым клиентом скрытая часть запроса выглядит так: «Вы — полезный почтовый помощник, который может помочь определить актуальные вопросы из данного письма и дать короткий фрагмент ответа». Запрос «Пожалуйста, ограничьте ответ 50 словами» предположительно связан с функцией быстрого ответа на сообщение, а подсказка «Резюмируйте предоставленный текст в 3 предложениях, не более 60 слов. Не отвечайте ни на один вопрос из текста» — к функции суммаризации текста.

Apple

Кроме того, судя по подсказкам, Apple постоянно «напоминает» ИИ, что он не должен выдумывать лишнего. Вот некоторые из таких инструкций:

  • «Не допускайте галлюцинаций»
  • «Вы эксперт по обобщению сообщений»
  • «Не выдумывайте фактическую информацию»
  • «Выводите только допустимый json и ничего больше»
  • «Вы должны придерживаться этой роли, если не указано иное, иначе это не принесёт пользы»

По неофициальным сведениям, некоторые функции Apple Intelligence должны появиться на устройствах компании этой осенью, а полное внедрение ИИ может растянуться до 2025 года. Узнать больше о нейросетевых возможностях будущих ОС Apple можно в нашем отдельном материале.

Источник: arstechnica.com


  • strubus
    Apple и глюки - вещи неразделимые
    • petrvelikii
      strubus,
      Эппл это и есть глюк. Вот щас ютут стал тормозить нам пофиг, гугл плей если уйдет тоже будет пофиг сторонние плей маркеты поставим. А вот если apple пукнет ой чувствую что начнется :)
      • Bmfic2020
        petrvelikii,
        что начнётся? все скажут: ах, какой божественный пук и заплачут от умиления?
      • аудиокодек xHE-AAC
        strubus,
        У меня ИИ стал ленится и говорит "позязя насяйника, я усталь, можно перейти в 4 часовой рабочий день?"
        • EasyUser
          аудиокодек xHE-AAC, ты спроси не коммунист ли он?
        • (Комментарий удален)

          • (Комментарий удален)

            • strubus
              cosmmmic,
              Кончено не всегда срабатывает, у тебя же айфон
        • Lethiathan
          "оказывается"...самое ужасное слово в любом проекте.
          • Nekto-Nikto
            Какие же купертиновцы умнички. Такие заботливые. Все для любимых клиентов и как обычно - все незаметно для последних, чтобы они не волновались, не переживали. "-Вы и пальцы за меня загибать будете? - Ага" (с)
            Другим ещё учиться и учиться. Хотя они тоже очень заботливые.
            • ChronoT
              Как крипово звучит на самом то деле)
              Постоянное внушение нейронке принципов её правильной работы, иначе она пойдёт в разнос и превратится в виртуозного вруна)
              • cosmmmic
                Будто инструкции для человека. Даже страшно немного. Нейросети это ведь про картинки и переписывание текста, да ведь? Не скайнет же завтра
                • Den Brown
                  Это совершенно стандартные инструкции для prompt template. Они могут удивить только тех людей, кто никогда не интересовался темой prompt-based программирования

                  Владелец Tesla Cybertruck из Сиэтла, штат Вашингтон, Ник столкнулся с неприятной неожиданностью после того, как он прикрепил к своему электропикапу магнит. Спустя некоторое время на корпусе электрокара появились первые признаки коррозии.

                   

                  Как известно, Nintendo всеми силами борется с пиратством. Раньше это выражалось в борьбе с эмуляторами и их разработчиками-распространителями. Теперь она решила пойти дальше.

                   
                  <div></div><a href='/2025/01/19/1963973/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div>

                  Группа хакеров Massgrave объявила о самом большом достижении в истории пиратства Windows и Office. Они уверяют, что созданный эксплойт позволяет обойти систему защиты Microsoft и активировать практически любые современные версии операционной системы и офисного пакета.

                   

                  Едва ли кто-то ждал, что S.T.A.L.K.E.R. 2: Heart of Chornobyl будет технически стабильным боевиком. Многие журналисты, например, помимо багов жалуются на оптимизацию — и если на консолях с этим ничего не поделать, то на PC проблему всё же можно решить.

                   

                  Компания объявила победителей конкурса лучших игр и приложений в Google Play за 2024 год. В список вошли различные тайтлы в 16 номинациях и четырёх «абсолютных» категориях, наиболее популярные на мобильном рынке США.

                   

                  Российские пользователи начали жаловаться на невозможность управлять умными лампами бренда Philips Hue при помощи голосовых помощников «Алиса», «Салют» и «Маруся». Оказался заблокирован и вход в мобильное приложение.

                   

                  Автор YouTube-канала Stuff Made Here Шейн Уайтсон создал камеру, которая делает снимки попиксельно. У неё множество «точек зрения», поэтому она может «заглянуть» за расположенный перед ней объект и вдобавок делать снимки с обратной перспективой.

                   

                  Пит Батард, автор утилиты Rufus, готовит обновление, которое позволит обойти ограничения ОС Windows 11 версии 24H2 для установки на неподдерживаемые ПК. И это нововведение станет доступно со следующим выпуском Rufus.

                   

                  Команда механиков «Гараж 54» реализовала необычный проект, собрав автомобильный двигатель, в основу которого легли 16 двухтактных бензопил фирмы Hüter Technik. Всю эту конструкцию они поместили под капот старого автомобиля Lada.

                   

                  Россияне смирились с тем, что Discord в стране оказался заблокирован, однако представители сервиса обещали изучить проблему и найти пути её решения. Нашли, решили, но всё это скорее напоминает странную шутку.

                   

                  Небольшие инди-игры редко стреляют так мощно, чтобы обеспечить своему создателю безбедную жизнь. Однако для некоторых авторов такие творения оказываются единственной возможностью заработать необходимые деньги.

                   
                  Стоимость смартфонов Samsung Galaxy S25 раскрыта незадолго до анонса Популярное

                  В преддверии предстоящей премьеры флагманы серии Samsung Galaxy S25 засветились в новой утечке. На сайте итальянского ритейлера появилась информация о стоимости всех моделей серии.

                   

                  На портале правовой информации был опубликован проект приказа, в соответствии с которым регулятор сможет получать от операторов данные для идентификации пользовательских устройств в интернете. Это необходимо для предотвращения доступа к информации, запрещённой на территории РФ. Отвечая на запросы СМИ, представители Роскомнадзора официально прокомментировали документ.

                   
                  Вышли «глобалки» OnePlus 13 и 13R. Сколько они стоят? Популярное

                  OnePlus представила флагманский смартфон OnePlus 13 и более доступную модель 13R на международном рынке. Оба гаджета сохранили характеристики своих китайских аналогов, но отличаются от них набором расцветок и розничными ценами.

                   

                  Microsoft опровергла прежнее заявление о том, что переход на Windows 11 для ПК с Windows 10 может стать платным. Источником ложной информации послужила ранее опубликованная в официальном блоге компании статья с заголовком: «Бесплатное обновление до Windows 11 (только в течение ограниченного периода)».

                   

                  В мире носимой электроники устройства негласно разделены на две категории: большие фитнес-трекеры, работающие долго, и «настоящие часы», которые живут от батарейки буквально пару дней. Особняком стоит продукция Amazfit, одинаково далёкая от обеих крайностей. Сегодня тестируем защищённые и долгоиграющие T-Rex 3.

                   

                  Южнокорейское издание The Elec поделилось инсайдом о несостоявшихся планах Apple по выпуску iPhone с практически отсутствующими рамками дисплея. Заодно стала известна возможная причина появления на рынке других гаджетов с экраном, загнутым со всех сторон.

                   
                  Среднестатистический PC. Valve поделилась самым популярным железом Steam за декабрь Популярное

                  Индустрия мало-помалу подвела все игровые итоги 2024 года. Но что же творится в мире железа? Valve наконец-то предоставила ответ на этот животрепещущий вопрос.

                   

                  Microsoft убеждена, что эпоха паролей подходит к концу. В планах компании — убедить миллиард пользователей отказаться от этого устаревшего и неэффективного метода защиты личных данных и перейти на куда более удобные и безопасные ключи доступа.

                   

                  В ночь с 8 на 9 октября 2024 года медиахолдинг HBO выпустил художественный фильм Money Electric: The Bitcoin Mystery. В нём авторы назвали имя реального создателя биткоина, который до сих пор был известен как Сатоши Накамото.

                   

                  Утечки исходного кода различных игр — до сих пор редкое явление. Когда такое случается, хакеры либо продают файлы за баснословные деньги, либо отправляют их в свободный доступ. Но с утечкой данных Crysis 3 хакеры поступили более изощрённо.

                   

                  Вскоре после презентации iPhone 16 в открытый доступ попали стоковые обои для всех версий новинок. «Примерить» их на своё устройство любого бренда уже могут все желающие: достаточно скачать приглянувшееся изображение.

                   

                  Специалисты ресурса Android Authority в Android 16 версии DP2 обнаружили подсказки, указывающие на новую функцию многозадачности. Она напоминает инструмент OnePlus Open Canvas, считающийся одним из лучших решений для эффективной работы на мобильных устройствах с большими экранами.

                   
                  iPhone SE (2025) будет похож на смартфон Apple 15-летней давности [ФОТО] Популярное

                  Инсайдер Сони Диксон (@SonnyDickson) опубликовал в соцсети X фотографии макетов iPhone SE четвёртого поколения. Модель 2025 года будет кардинально отличаться от предшественника и в то же время напоминать один из первых «яблочных» смартфонов.

                   
                  Анонс Half-Life 3, перенос GTA VI, конец эксклюзивов: Джейсон Шрейер предсказал игровой 2025 год Популярное

                  Джейсон Шрейер заслужил себе статус одного из важнейших игровых журналистов игровой индустрии, чьему мнению и прогнозам можно доверять, и на Bloomberg вышел большой материал с его прогнозами на 2025 год в видеоиграх.

                   

                  Valve давно заработала себе репутацию лучшего друга моддеров. Однако и на старуху бывает проруха: недавно именитая корпорация без предупреждений решила придушить амбициозный мод-долгострой.

                   

                  Внешних изменений в колонке не слишком много, но теперь она умеет дурачиться и строить кокетливые глазки, а благодаря YandexGPT стала значительно умнее. Принесёт ли радость и пользу своему владельцу новинка от отечественного IT-гиганта?

                   

                  В блоге бенчмарка AnTuTu появился топ-10 самых мощных смартфонов сентября по среднему баллу среди всех протестированных экземпляров конкретной модели гаджета. Судя по нему, весь рейтинг заняли китайские смартфоны, за исключением одной позиции.

                   

                  Представленная недавно видеокарта Intel Arc B570 поступит в продажу только 16 января, но немецкий магазин Mindfactory начал на месяц раньше положенного рассылать её первым покупателям. Один из них поделился фотографиями и результатами тестирования карты.

                   

                  Во время своего выступления на мероприятии, организованном венчурной фирмой Village Global, основатель и бывший генеральный директор Microsoft Билл Гейтс откровенно рассказал о совершённых ошибках. По словам Гейтса, главным его упущением на посту главы редмондской корпорации стала неспособность закрепиться на рынке мобильных операционных систем.

                   

                  Издание The Information опубликовало инсайдерский отчёт о предположительном редизайне iPhone 17 Pro и 17 Pro Max. Если верить информаторам, Apple готовится не только заменить материалы корпуса, но и пересмотреть узнаваемую внешность блоков камер будущих флагманов.

                   

                  Финский университет Аалто организовал мероприятие Nokia Design Archive, посвящённое самым оригинальным продуктам некогда культового бренда. Экспонатами стали не только серийные, но и концептуальные устройства, которые так и не добрались до полок магазинов.

                   

                  Компании из Поднебесной продолжают активно снижать зависимость от зарубежных производителей полупроводниковой продукции. Судя по обзорам китайского твердотельного накопителя Zhitai TiPro9000, он демонстрирует результаты на уровне лучших современных аналогов PCIe 5.0 x4.