Исследователи Массачусетского технологического института пришли к выводу, что генеративные модели, такие как GPT компании OpenAI, хотя и могут создавать осмысленные выражения, в действительности не понимают реальный мир и его закономерности. Эти модели впечатляют в предсказании текста, однако при столкновении с изменениями в реальных задачах, например, в навигации или играх с правилами, они ошибаются.
Авторы эксперимента использовали задачи по навигации в Нью-Йорке и игру «Отелло», чтобы проверить, способны ли модели воспринимать и соблюдать установленные правила. В стабильных условиях они успешно ориентировались по маршруту и выбирали допустимые ходы в игре.
Но стоило исследователям добавить объезды или изменить доступные маршруты, модели начинали ошибаться, предлагая ходы или направления, не соответствующие реальной ситуации. Это указывает на то, что модели лишь создают видимость понимания, но не могут полностью улавливать изменения или понимать последствия своих действий.
Исследователи предлагают создавать новые методы тестирования, чтобы определить, понимают ли ИИ реальные системы или просто повторяют заученные паттерны. Технологии генеративного ИИ продолжают развиваться, и сейчас MIT видит перспективу в улучшении их возможностей, но подчёркивает важность реальной оценки интеллекта таких систем.
Источник:
(Комментарий удален)
Машину алгоритмов красиво обозвали. Маркетинг.
Как обозвали? Мозгом?
взяли бы айтишника, закрыли бы его в коробке - вот вам готовый ии!
Амазон так уже делает давно. 100000 индусов дешевле в любом случае.
и не будет никогда.
Но прошу заметить, что стихи и поэзию он уже выдаёт, и её не могут отличить от той что написана реальными людьми.
Ну или нас опять где то нае.. обманули.
Если для вас стихи, написанные ИИ, неотличимы от живых, мне вас жаль. Сколько раз не перебирал подобные сервисы, они такую дичь пишут.
Пока нет. Создание полноценногл ИИ неизбежно, технический прогресс неумолим. А нам предстоит ещё большая работа: понять, что мы будем делать, когда у нас появится буквально ещё одна раса, которая матери счастью нашей обыденной жизни.
Сначала опишите, что такое разум и сознание.
Сложно сказать однозначно, конечно.
Разум - это способность мыслить, размышлять, способность анализировать данные и приходить к собственным выводам.
А сознание - позволяет существу ориентироваться в мире и самостоятельно регулировать свою деятельность. То есть оно уже само выбирает, как поступить, что делать в той или иной ситуации.
Но у сознания есть отдельная часть - самосознание. И вот это уже вышка, когда ИИ поймёт, что он ИИ, увидит самого себя и свою роль в этом мире.
В этом то и проблема, это основная критика и сомнение о возможности создания ИИ: мы не знаем и не понимаем, что такое сознание и разум. У нас у всех есть интуитивное понимание, что такое сознание и разум, но мы не можем его измерить, локализовать и т.п.
Покуда не будет ясно, откуда в мозге берётся сознание и разум, мы не сможем по аналогии что-то повторить в искусственной среде.
Ведь даже gpt это просто предсказательная машина для формирования текста. А нам нужна универсальная предсказательная машина, коим является мозг и это только, скорее всего, лишь первый шаг в формировании ИИ.
Мне нравится, как всё это обыгрывается в Mass Effect: то, что мы называем ИИ там называется ВИ (виртуальный интеллект), как бы подчёркивая, что это имитация интеллекта, а не реальный разум, а собственно ИИ там существует и находится под запретом.
Пример из Mass Effect очень в тему. Да и игра - шедевр)
Я согласен. Наше самосознание, то есть вот это "я есть", базируется на самом факте нашего существования - мы и являемся этим "я есть".
И как вы правильно сказали, пока мы можем лишь сымитировать сознание. Я это вижу примерно как обучение ребёнка. Начать загружать в ИИ данные по типу: "Ты искусственный интеллект", "мы - люди", "мы тебя создали", "мы хотим тебя использовать" и т.д. То есть придётся загрузить в него вообще всю информацию. И неизвестно, если мы где-то умолчим, не помешает ли это созданию имитации разума.
Плюс, он должен уметь задавать вопросы, на которые нет ответа, и записывать их в свою базу. "Почему небо голубое?" - Записал. "Кто меня создал" - записал. Да, это будешь лишь имитация, но это будет уже часть.
В настоящий момент у ИИ нет как такового ядра, это просто сеть данных. Нет своего рода главного решателя. Может, этим и является "Я".
Бро. На базе фоннеймановской логики, на которой строятся все компы - полноценного ИИ, сопоставимого с разумом не создадут - НИКОГДА. Читай Пенроуза. Нобелевский луареат если чо. Там есть глобальные проблемы непреодолимые именно из-за архитектуры. На базе квантовых компов еще может быть, но там свои траблы. Там что я бы не был столь оптимистичен. Текущий ИИ суть хороший инструмент но в название "интеллект" там точно лишнее.
(отредактирован)
вначале нужно ,научить эту бандуру понимать услышанное,потом увиденное,а уж после этого научить бандуру понимать сразу и увиденное и услышанное ,и на базе этого нау чить мыслить
Вопрос тебе: вспоминая Detroit become human - стал бы ты на сторону ИИ признав андроидов новой расой или это всего лишь машины?
Спасибо за напоминание) Купил, теперь вот прохожу, очень нравится 😌
Раньше я был уверен, что человек, как вид, однажды эволюционирует в ИИ. Теперь, наблюдая за тенденциями, больше склоняюсь к тому, что ты спросил: появится ещё одна раса.
Это просто неизбежно. Когда-то на нашей планете были одноклеточные, потом многоклеточные, потом... И так далее. Постепенно мы движемся к искусственному разуму, он позволит одежды в принципе существовать. А так как они будут совсем другими, это будет отдельная "раса"
"которая матери счастью нашей обыденной жизни."
Этот пост тоже написан chatgpt?
Да бесит, что приложение не даёт возможности редактировать свой комментарий ))
"Которая станет частью нашей обыденной жизни"
Есть. Искусственного разума нет, а интеллект вполне себе существует, и делает неплохие вещи. Но думать он не умеет. Лишь вычислять
В таком случае это не искусственный интеллект, а просто "прокаченный калькулятор с обширной базой данных"
так так и есть, но этот калькулятор упорно называют ИИ, что гениально для привлечения инвестиций от хомяков с баблом. Термины когда начнут применять не ассоциированные с человеком тогда и станет все на свои места, но денег давать не будет столько.
Многие ничего не понимают, даже Strubus и Shinzon , но при этом ИИ из них неплохой
некоторые ее понимают даже хуже генеративных моделей, и ничего, живут как-то)
смысл жизни - понять смысл жизни! @парадокс вселенной
42
В этом и дело. То есть суть :)
а Вы точно уверены что Ваши мысли "осмыслены"? Я вот убедился на собственной шкуре что многое зависит от ситуации, иначе не было бы стресса, ПТСР и психических расстройств.
Так-то не все люди живут осмысленно, а тут нужно, чтобы нейросеть осмысленно понимала суть вещей.
Дык выяснили вроде, что человек находится в сознанке процентов 5 всего времени бодрствования, все остальное время на автопилоте
Как бы да, достаточно просто на аббревиатуру gpt посмотреть.
чтобы проверить границы применимости
Без изначального обучения, по быстрому, как хотят сейчас, ничего не выйдет. Что бы научить человека тратят от 13-ти, до 30-ти лет. Глупо предполагать, что ИИ тоже самое дастся очень на много проще. Пока не изменят подход к обучению ИИ, область их применения, только развлекалово масс, не более.
это не обучение в том смысле, как обучают человека. Это генеративные нейросети, этим все сказано.
Я к тому, что перед "генерированием" недостаточно просто слить им кучу изображений, например, и мол, генерируй дальше, как хочешь. Необходимо задавать алгоритм генерации. Тоесть правила, как и что применять. Опять же, залив кучу разных изображений, по сути, им даются лишь стили отображения. А как именно эти стили применять им неизвестно. Они не знают ни физики, ни анатомии. А после, проводят тесты, как указанные в посте, мол они не понимают сути вещей. Так им их не дали. Не задали алгоритм применения. Не обучили этому.
Это немного не так работает
Потому что теоретически ИИ должен гораздо быстрее адаптироваться к новому, чем человек. Но раз пока ни у кого нет никакого ИИ, то и получается, что это не так
Не совсем так. Почему ИИ косячит с формами объектов, рук, например, тенями на генирируемых изображениях? Потому что его обучили на других изображениях, но не научили что из себя представляют объекты на изображениях. Художник же, что бы научиться рисовать, изучает анатомию, строение тела, и прочее. Это всё равно, что требовать от ребёнка, которому показали кучу чужих каляк, нарисовать не каляку, а правильно построенную перспективу и верное наложение и расположение теней.
Так-то да, в целом у машины должны быть все знания всего человечества обо всём, только тогда и будет толк
Скажем так. Как по мне, многие люди, а в данном случае те, кто обучает ИИ, недостаточно понимают сути знаний, как таковых. Знания, это не только информация, о полном доступе к которой вы говорили выше. В детстве, мой отец (инженер строитель) на мои максималистские заявления, что я тоже могу рассчитать что бы то ни было, просто прочитав нужный учебник/книгу. Ну отец и дал мне задание расчитать балку на кручение по заданным параметрам. В то время интернета не было. Зато у нас была обширная библиотека, включая учебники и научные работы по строительству. Но это мне не помогло. Потому что меня не научили, что это такое. Соответственно не знал, что именно искать. Тогда отец упростил мне задачу и просто выдал книгу, где описано, как это делается. Но как оказалось, кроме формулы нужны знания о марках бетона, вязке арматуры и всякого прочего. И опять же, найти это и тем более применить без чьей-то помощи, иными словами обучения, в общем-то нереально. Я это к тому, что сами знания, это не только сами по себе знания, но способ их применения и понимание того, где их возможно применить. По сути, обучение человека, это не заставление его зазубривать знания, а постоянное развитие его кругозора. Тоесть обучение тому, как бывает и что из себя представляет. И уже обладая этим пониманием он сам возьмёт нужную книгу с полки. Как по мне, тот же подход необходимо применять и к ИИ. Но на данный момент всё сводиться, как я понимаю, к ринципам программирования. Зазубрить код и что-то с него лепить. Не слепилось - придумать костыль, что бы было похоже хоть на что-то. Это слишком узконаправлено и по факту, в жизни ничего так не работает. Пихают им миллионы текстов. Они начинают говорить о чём-то неверном, неудобном или дают неверную информацию, и вместо расширения их кругозора и области знаний они жёстко им прописывают запреты на определённые темы, например.
А сейчас кажется, что нет ничего сложного в том, чтобы рассчитать балку на кручение.
Ну типа того. :)
(отредактирован)
Тем не менее, раз они стремятся что бы оно сравнилось с человеком, то стоит изменить и принципы обучения. Иначе, кроме как генерить кадры на видяхе, да пикчи с видосиками с косяками для широкой публики, они ни на что никогда не сгодятся.
(отредактирован)
Изначально не заставлять "выявлять закономерности". А то выходит, как у психиатра. Задание ответить, что общего между изображёнными вещами/предметами/явлениями. Нормальный человек не должен находить между ними никаких связей. Так и тут. Изначально необходимо заложить эти закономерности в них. Тоесть, что бы оно изображало человека, необходимо влить в них хотя бы базовые знания анатомии и того, как гнутся человеческие и прочие суставы, а как нет. И только после этого они начнут стабильно выдавать необходимый, заданный пользователем результат. И после этого, шесть пальцев на руке появится, только если пользователь попросит об этом.
Ну хз. Вроде как он должен быстрее обучаться, а не адаптироваться. Адаптация, это по сути эволюция. Но вы, как и в посте, имеете ввиду подстраивание под изменение обстановки. Тоесть принятие решений, если что-то изменилось в окружении. Человек принимает такие решения исходя как раз из знаний. Опять же пример. Ребёнок лет семи. Перед ним положили линейку, лист бумаги и карандаш. Дали задание начертить прямую линию, разумеется предварительно научив пользоваться одним и другим. Он это делает. Так повторяют несколько дней подряд. Но в какой-то из дней ему не дают линейку. Как поступит ребёнок, при условии, что с ним в помещении нет никого, нет никаких иных предметов, которые помогли бы ему выполнить задание? В лучшем случае он попытается начертить от руки и если он не обладает натренерованной способностью чертить прямые линии без вспомогательных предметов у него ничего не выйдет. Что бы выполнить это задание ему необходимо обладать знаниями, как это сделать иными способами, но этому его не обучили.
С точки зрения человека, любые умения, опыт это знания, которым его обучили, или он их преобрёл в процессе жизни, тоесть самообучился.
Потому мне и странно, почему к нейронкам применяют в корне иной подход в обучении, лишь пичкая их чем-то одним и узконаправленным. Потому они и не способны уловить ни глобальный контекст, ни суть. Детей улавливать это учат например на литературе, заставляя писать изложения.
(Комментарий удален)
(Комментарий удален)
Суть в ощущениях вызываемыми колебаниями, при произнесении букв, слов)
Он, вроде бы, даже искал по ссылкам на сайте, но в итоге тоже ошибки.
А вы попробуйте человека на улице остановить и попросить аналогичную задачу по памяти решить. Если он ошибки допустит, то тоже скажете, что он суть вещей не понимает?
Ну, как бы, по идее, это может быть для нейросети проще простого, так как она ищет по точно заданным характеристикам на основании открытых источников, то есть может искать также по сайтам. И, такая операция уж точно технически проще, чем более емкая операция понимать суть вещей.)))
Нейросеть - набор виртуальных аналогов нейронов. Никакой детерминированности там нет со всеми преимуществами и недостатками. Как и человека, эту систему можно заставить взаимодействовать с детерминированными системами, но недостатки недетерминированности остаются, хоть и возникают реже.
То есть, вы хотите сказать, что нейронка сама может как бы додумывать и поэтому выдаёт неправильные и неточные ответы?
Но факт остается фактом, даже если нейронка сходит в инет, она как и человек может не правильно что-то проинтерпретировать, где-то что-то забыть, где-то что-то не увидеть и т.д. Тут все эти слова используются условно, так как что происходит внутри нейронки понять крайне сложно. На эту тему проводят исследования (более интеллектуальные чем в статье), но пока каких-то решительных выводов из них нет.
Еще стоит учитывать, что современные нейронки очень сильно ограничены тем, как в них представлены данные. Это приводит к выглядящим очень тупо ошибкам, вроде неспособности посчитать количество букв в слове. Сейчас эту проблему частично решают мультимодальностью (когда один набор весов одновременно работает с текстом, изображениями и звуком), уже есть исследование, что обучение нейронки на картинках повышает ее эффективность при работе с текстом.
Самое неприятное свойство современных нейронок - работа с уверенностью. Среди людей встречаются такие, кто могут адекватно оценивать свой уровень знаний в различных областях и перед ответом на вопрос думать компетентны ли они в нем. С нейронками пока не понятно, как повторить аналогичное поведение.
Не вопрос, остановлю человека, задам вопрос, он полезет в интернет искать ответ если не знает, как это и делают все якобы "ии" только вот помимо интернета им ещё и базу с того же интернета заранее скармливают. Только вот человек будет действовать осознанно, поймёт структуру вопроса и будет искать не только по совпадениям, почитает где то на форумах, пострит формулы что бы попробовать самому решить, в конце концов создаст вопрос где то на котрый ему кто нибудь да ответит. Разница огромная, ии на данный момент не существует ни у кого и сравнивать именно ии с человеком бесполезно, разный подход, разные мощности возможностей, разная скорость обработки и т.д. да же когда появится реальный ии, это будет совсем иное и дыстродумающее.
В одном из исследований, когда OpenAI дали GPT4 банковскую карту и полный доступ в интернет с возможностью не только читать, модель смогла уговорить фрилансера решить за нее каптчу притворившись человеком с проблемами со зрением (без проблем гуглится). Кажется, что похоже на описание вашего сценария с действиями человека.
Так что действия модели в интернете ограничены софтом, который развернут вокруг нее. Сейчас есть эксперименты, чтобы дать модели полноценное управление рабочим столом, и там модель тоже может решать некоторые задачи. Вопрос в том, что с такой функциональностью все компании работают очень аккуратно, потому что есть риски с использованием таких инструментов для вредоносной активности.
Ждём тогда какого нибудь суперзлодея обиженного на мир, котрый замутит свои ии и выпустит его в интернет с полным доступом прав и свободы)
Оно пока сыровато, но ты денежку дай, пожалуйста.
Как то не представляю ситуации, если бы пекарь за заплксневевшую булочку просил деньги, или парикмахер за остриженную половину головы.
Но тут у нас высокие техноЛОХии.
(отредактирован)
Вы путаете тут немного мягкое с тёплым. Вы в целом у примеру можете создать хлеб без каких либо диких вложений, можно самому где нибудь за городом вырастить немного пшеницы без аренды земли, тупо в поле, собрать её, взять пару камней, измельчить, водички набрать с родника, смешать, глины накопать на костре все обжечь с веток да дров из леса и испечь все дело. Или сделать по проще, потратить рублей 150 на муку с водичкой и так же где нибудь воле напечь. Тут же речь о сложной технологии, вы не соберёте в поле процессоры, вы не соберёте в поле материнские платы, сервера, мониторы вы не напишите ос для работы всей техники на глинчной табличке или бересте, тут придётся покупать кучу всего и не дешёвого, снимать помещение, нанимать специалистов котрые потратили не один год на обучение (хлебушек и лепёшки с печеньем к примеру моя дочь уже в 4 года делала без особых навыков и кучи потраченного времени на обучение) а ещё нужно что то кушать занимаясь изучением и созданием того же ии, плюс людей нужно не мало из разных сфер. Да я согласен что развелось этих компашек очень много и каждая просит денег а потом закрывается. Но с другой стороны без действий и вложений не будет результата
Нужно чётко понимать, что ИИ предлагает сублимацию всего человеческого опыта и только это. А отклонения не нужно трактовать как творчество. Это отклонения (в рамках модели) и не более.
(Комментарий удален)
Очень наглядный пример деградации и бессмысленной агрессии данного индивидуума подтверждают, что подобному можно скормить все и он попросит еще добавки.
С лопаты?
Потому что красиво звучит) Это пока прототип, альфа версия. Но однажды он начнёт ориентироваться в нашем мире, начнёт понимать. Это неизбежно. И мы пока к этому совершенно не готовы
Это даже не альфа. Альфа это рабочий образец, да с ошибками, но с возможностью исправления и улучшения. А текущее положение «ИИ» не будет дотягивать до альфа еще несколько десятков лет.
Очень может быть, что такого ИИ нет в широком доступе, а где-то в подземных лабораториях..)
На самом деле, да, всё будет, но когда - неизвестно. Может несколько десятков лет, может раньше, может позже. Лично мне кажется, что это возможно минимум на квантовом компьютере, там совершенно другой способ анализа информации. Работу такого компьютера легко понять на широко известном примере с котом Шрёдингера. Квантовый ПК всегда рассматривает минимум два варианта развития событий, если кот есть и если нет. Он производит расчеты сразу в нескольких "параллельных вселенных". Человеческое мышление без этого невозможно.
Твой текст тяжело воспринимать человеку. Ты необученый пунктуации ИИ?
кровь из глаз от твоего поста
Вы сами себе пример, поняли суть вещи и просите показать такого же для понимания что он есть)
я Вас сильно расстрою если скажу что 99,9999% населения Земли мыслят абсолютно аналогичным образом? Гениев, способных на действительно новые мысли рождается десяток-другой за 100 лет, остальные живут в мире навязанном им "старшими обезьянами", другой вопрос что одни старшие учат как летать на Марс, а другие как подламывать замки на сараях с дровами
Чему научили, то она и делает, а потом условия меняют и удивляются чему-то.
ИИ это инструмент и не более.
живой мозг тоже лишь инструмент для добывания более обильной пищи и оптимального поиска партнера по размножению, все остальное - вторично
ИИ это программа, которая работает по заданному алгоритму, если её запустит человек.
(отредактирован)