Компания OpenAI, известная благодаря созданию популярных нейросетей ChatGPT и DALL-E, выступила с официальным сообщением, суть которого сводится к призыву быть осторожными и дальновидными в обращении с ИИ. По их мнению, от современного искусственного интеллекта исходят серьёзные экзистенциальные риски для всего человечества.
В сообщении описаны некоторые потенциальные преимущества ОИИ (общего искусственного интеллекта), вроде решения глобальных проблем, борьбы с бедностью, а также некоторые потенциальные риски, такие как несоответствие человеческим ценностям и целям, злонамеренное использование злоумышленниками и экзистенциальные угрозы.
По мнению компании-разработчика, необходимо скрупулёзное планирование и координация между различными заинтересованными сторонами, включая исследователей, политиков, лидеров отрасли, группы гражданского общества и широкой общественности. Также необходимо приобщить ОИИ к человеческим ценностям и биоэтике. Кроме того, OpenAI выступает за большую прозрачность и подотчётность в разработке и развёртывании ИИ.
И, наконец, OpenAI очень рассчитывает на международный консилиум по трём фундаментальным вопросам: как управлять ОИИ, как рентабельно распределять продукты, которые они генерируют, и как справедливо делиться доступом с обычными людьми.
Источник:
![Титановый iPhone 15 Pro «выцветает» в первый день использования [ФОТО]](https://4pda.to/s/as6yqu6PVQZPgran9SF26OxcNz1Zd5hz2pe0i2jN4BkVdE.jpg?v=1695022539 "Титановый iPhone 15 Pro «выцветает» в первый день использования [ФОТО]")
![Российский шутер Pioner получил эпичный трейлер и системные требования [ВИДЕО]](https://4pda.to/s/as6yx7M1kdcmjvQoFpdcyHy1gxAW9riz0pw5bHnRxMJPj.jpg?v=1688373080 "Российский шутер Pioner получил эпичный трейлер и системные требования [ВИДЕО]")
Я вижу это в земле я вижу это вводе
Вот уже и в воздухе чем то запахло
такая "общедоступная", что регистрироваться надо долго и упорно.
Интернет тоже придумывали на благо человечества... И что в итоге люди сделали с интернетом?... 🤔
в помойву превратили...
Посоветуйте художественную книгу про ИИ пожалуйста!
Есть фильм - Она. Неплохой.
Спасибо
Суперигрушек хватает на всё лето
проект ЦРУ и золотой миллиард, ага ага, знаем
Интернет, это лишь средство коммуникаций, а причины.. у каждого шарикова свои, в зависимости от мировоззрения.
Первоначально интернет и вправду использовался военными. Потом перекочевал в гражданский сектор. Мировоззрение тут не причём. Очень много технологий проделали такой путь, та же микроволновка, к примеру.
Только не интернет, а проект ARPANet.
А вот как раз Интернет создавался учёными американских университетов для связи и обмена информацией.
Но, как не раз уже было в истории человеков, полезный кухонный нож стали применять не по назначению (
Согласен, создали такие вот 4pda
Создали и превратили в ...
Бульба Сумкин
Ничего сложного в этом не было, регистрацию делал буквально за минуту
Олды тут)
Олды всегда тут!
больно
Гоблин)
Надо было назвать этот ии :
ГЕНЕЗИС
Так и "мирный атом" тоже был якобы во благо поначалу. У всего есть обратная сторона медали. И учитывая что миром правят самые отъявленные негодяи без моральных принципов ( я про массонов , рептилоидов😁😀🤣) , то обратной стороны медали не избежать
ну вообще-то "мирный атом" и есть "обратная сторона" поскольку он начал развиваться позже "не мирного" атома.
Ну так то тут только вы правильно написали в комментариях. Остальное это какой-то бред наркоманов."Интернет испортили" хотя опять же интернет был создан военными, для военных целей. Ну и тупицы тут "роды"
Вообще-то историю поучите. Ядерная энергетика возникла раньше ядерных бомб.
Первый ядерный реактор построен и запущен в декабре 1942 года в США под руководством Э. Ферми.
А первые атомные бомбы были созданы в 1945г.
Ну логично, что первый реактор появился раньше, как иначе получить нужные вещества для бомбы, например плутоний.
Или реактор делали, чтобы Вашингтон электричеством обеспечить?
Ну логично что первый реактор появился раньше, иначе как получить элекроэнергию на электростанции без ядерного реактора? Ядернае реакторы- это основа любой электростанции. Много ты знаешь АЭС без ядерных реакторов?
...любой атомной электростанции.
в то время на экологию было всем плевать. Жгли нефть и уголь и не собирались что то менять. АЭС с производством электричества лишь полезный побочный продукт.
Ты же в курсе, что реакторы для получения электричества и плутония несколько отличаются даже с современными технологиями отсеивания и получения плутония? Потому что из реактора нужно вовремя удалить его? В итоге даже сейчас для получения плутония нужны модификации, да и понижает это выработку электроэнергии. А тогда по-сути электроэнергии даже больше тратили в этом процессе чем получали на этом реакторе.
Или почему все последующие редакторы были урановые а не ториевые? Потому что производство ядерных реакторов спонсировала военка, чтобы бомбы делать. А из ториевых реакторов очень сложно собрать вещества для бомбы, да и распад у них быстрее.
Ядерный реактор не есть электростанция.
Ядерный реактор- это основа АЭС. Не построив ядерный реактор не построишь АЭС
Бывал на нескольких реакторах. Ну ни разу не электростанция.
Бывал, но при этом так и не смог ни один назвать? Ну-ну.
А надо было называть? Когда и кто об этом меня просил? Уважаемый, ваша упёртость похвальна, но на суть вещей не влияет. Реактор, построенный америкой в 42-м году не являлся АЭС от слова совсем. Это был просто реактор для получения оружейного плутония, не более. И загуглите, где и когда была построена первая АЭС. Не отвечайте мне, отвечать больше не буду. Не интересно.
Вы создадите АЭС не создав ядерный реактор? Ядерный реактор - это основа любой АЭС и строится в первую очередь ядерный реактор, а уж потом вокруг него вся АЭС , а не наборот. И темпы строительства АЭС не быстрые. Даже сегодня при нынешних технологиях максимально короткий срок строителства АЭС составляет 5 лет, а раньше и того дольше строились АЭС.
Причем тут АЭС? Это просто реактор, предназначенный для отдельного существования безо всякой АЭС, о чем вам выше написали. Его МОЖНО было использовать для АЭС, но такой цели не было
Слив засчитан . Были на нескольких ядерных реакторах и при этом даже не знаете где были? Ахаха. И конечно же можете мне и не отвечать как вы и собирались. И так понятно что вы заврались.
Господи, да угомонись ты блин. Без атомного реактора не может быть АЭС, но атомный реактор без АЭС очень даже легко, что тебе уже дофига человек сказало. АЭС не может быть еще без изобретения турбины, открытия радиоактивности веществ, открытия электромагнитного поля, умения обрабатывать железо, не знаю там, изобретения колеса того же. Но все эти открытия по отдельности или даже вместе не дают готовую рабочую АЭС и первая АЭС действительно появилась не в Чикагском университете в 42м году, а в Обнинске в 54м, 12 лет спустя. К тому моменту уже были и Хиросима с Нагасаки, и испытания на атолле Бикини, и испытание советской ядерной бомбы в Семипалатинске и даже план немыслимое по ядерной атаке США на СССР. Так что да, мирное применение ядерной энергии случилось сильно позже военного. Да, для мирного использования все было готово, но это не было ни разу приоритетом. О чем спор?
"Электроэнергия была впервые произведена ядерным реактором 3 сентября 1948 года на графитовом реакторе X-10 в Ок-Ридже, штат Теннесси, США, который был первой атомной электростанцией, питающей электрическую лампочку[2]. Второй, более крупный эксперимент состоялся 20 декабря 1951 года на экспериментальной станции EBR-I недалеко от Арко, штат Айдахо." Цитата из Википедии.
И? Что тебе в этом показалось противоречащее мною выше написанное о том что строительство АЭС- это длительный процесс который занимает десять лет? АЭС- это тебе не туалет в селе поставить, за день ты это не сделаешь. Отнимай как минимум 10 лет от первой АЭс и получишь дату начала строительства первой АЭС, плюс не забывай что прежде чем что-то построить для начала нужно спроектировать, а перед этим ещё разработать. Так в каком месте у тебя там не стцэыкуется что разработки, проектирования АЭС начались задолго до появления атомных бомб?
Создатель динамита Альфред Нобель, динамит тоже на благо людей придумал. И премию за самые мирные дела учредил. Вот сейчас эту премию Обама имеет, Зеленский, интересно почему Гитлера посмертно ей не наградили, он вроде тоже за безбедное и процветающее ощество ратовал!?
так динамит и использовался практически полностью только в горной промышленности. А основным инвестором и двигателем науки всегда была, есть и будет в ближайшем будущем военка.
Гитлер был захватчиком, какую ему посмертную премию?
Ну США тоже не освободительные войны при Обаме вела
диктаторов всяких мочила, вот в Сев.Корее не получилось, а жаль
1 миллион диктаторов в Ираке ?
Тогда сейчас у вас тоже диктатора мочат.
(Комментарий удален)
(Комментарий удален)
Как и анекдоты... Они все из жизненных ситуаций,так в основном и новые разработки, появляются из фантастических рассказов(лазеры, искусственный интеллект...) Плохо только то,что разработчики,не дочитывают рассказы до конца и не задумываются о последствиях этих разработок!
P.S.: ПУСТЬ БУДЕТ МИР ВО ВСЁМ МИРЕ!!!
А ещё матрица и многие другие
У нас сейчас и фильм не нужен. Риски те же, ток вместо ИИ несколько старых дедов без интеллекта.
Кому тогда он остается?
Неправильно ты вопрос поставляешь. Зачем вообще это создали.
Для извлечения бабла, в мировых масштабах, как минимум. Для решения задач здесь и сейчас, где людям требуются годы. Всё только начинается.
> Для извлечения бабла
Уже есть эпл, потом маск, люди не перестают заносить в нфт и крипту, МММ никогда не умрёт.
Для доения приматов Нейронка не нужна(а ИИ не существует, это превосходно видно на обыгравшем нейронку в игре го "любителе" - пока сам человек не покажет вариант, нейронка его не создаст никак).
> Для решения задач здесь и сейчас, где людям требуются годы
уже теплее, но тоже не совсем верно.
нейронка это лишь вычислительный инструмент, воплощение индукции и дедукции в высшей мере.
> Всё только начинается
Всё кончилось не начавшись. Текущие модели не предполагают именно что интеллекта, всё что вам предлагают это "стадо попугаев", которые могут выдать "войну и мир" в одной из миллиардов итераций; только если человека не будет, то и подражать попугаи человеку не смогут.
Нейройнка проигравшая нейронке, которой помогал человек, заметивший логический баг.
> помогал человек, заметивший логический баг.
ч.т.д.
нейронка не может создать нового. Только созданное человеком может быть использовано для "мышления" нейронки, сама нейронка максимум рекомбинирует имеющееся.
нейронка не может создать нового - в условном вакууме вы бы тоже остались на уровне младенца в своем развитии. Вообще не аргумент - ни за ,ни против.
Это твёрдый аргумент - нейронка не создаёт нового. оставь её в "пустом" информационном мире, она и делать ничего не будет.
Человек не живёт в вакууме - он не только мозг но и тело. А живя в природе, будет адаптация. Не имея клыков и когтей, человек будет приспосабливаться - даже Маугли взял железный клык себе.
"Это твёрдый аргумент - нейронка не создаёт нового" - на самом деле слабый. Вы сейчас для общения со мной что используете? Буквы. Создали ли вы при этом что-то новое? Едва ли. Все чем вы сейчас оперируете это информация которая была достигнута ранее людьми до вас и полученная вами + факторы внешней среды. Все что отличает вас в этом плане от нейронки наличие материальной платформы. Лиши ее вас и вы будете не умнее нейронки.
Нейронка как минимум способна на прогон фактов по методу проб и ошибок, при этом с тако
> Вы сейчас для общения со мной что используете? Буквы. Создали ли вы при этом что-то новое?
Вы пытаетесь доказать, что каждый обязан быть разговор уникален?
Общение может быть выполнено без интеллекта. Спросите насекомых например.
> способна на прогон фактов по методу проб и ошибок
> стадо попугаев
"Вы пытаетесь доказать, что каждый обязан быть разговор уникален?"
А вы пытаетесь доказать что уникальный результат может быть получен лишь "творческим" путем. Забывая чисто прекладные математические задачи основанные на реальных опытах и вычислениях и тут нейронка человеку даст такую фору своими системами подобий и проб/ошибок что большинство творческих людей пойдут лесом лет через 20. Пока увы много ошибок. НО с ходу брать ваше заявление типа "нет творчества" как крест на проекте - бред.
Нейросети на основе цифровой электроники это просто сложные математические модели, с большим количеством параметров, которые подгоняют ("тренируют") при помощи каких-либо цифровых материалов с тем, чтобы эта модель давала нудный результат. Всё.
Это не искусственный интеллект, даже близко не похожее на разум.
Сознание человек подразумевает собой две сигнальные системы, первичную и вторичную (язык и мышление), у математической модели под названием "нейросеть" нет даже первичной сигнальной системы. Она оперирует лишь тем, что ей дали в условиях, что ей дали и использует определенные, написанные человеком, алгоритмы.
Усложнение вычислительных мощностей человека не приводит к созданию ИИ, а приводит к решению более сложных математических задач, не более.
Вы снова и снова пытаетесь свернуть не туда.
Мы говорим об интеллекте. Нейронка интеллектом не обладает - но сгенерировать "уникальный" результат может. Вон в природе смотрим сколько уникального нагенерировано, только про интелект у природы разговора нет.
> как крест на проекте
Вы перевираете вновь и вновь. Я не против проекта, потому как это было всё равно что заявлять что я против колеса, все должны использовать ноги. Я лишь говорю, что интеллектом тут и не пахнет.
То же самое я людям твержу о Нейронке,но увы стадо этого слышать не хочет.
"Уже есть эпл..." - И? Это деньги тех кто разработал нейронку? вы просто указали на наиболее богатых забыв что есть те кто хочет занять их место или приобщиться к ним.
"Всё кончилось не начавшись" - забавные рассуждение на фоне засилья нейронок в тех же графических редакторах которые способны на среднем уровне заменить проф. фотошопера и они развиваются. А так речь идет скорее не о подражании ,но и о выборки примера для подражания.
> есть те кто хочет занять их место или приобщиться к ним.
То-то чатГПТ по сути принадлежит мелкомягким, от-то новый игрок!
Давайте не будем витать в облаках, почти любое многообещающее начание будет быстро поглощено уже существующими богачами.
> на фоне засилья нейронок
> вам предлагают "стадо попугаев"
...
Ваш условный художник, которого именно что заменяет нейронка, не создаёт новых образов, а выполняет функции принтера(перерисовка моря на лес, рассвета на закат, одежды, причёски, это не творчество). С тем же успехом можно заявлять о ненужности официантов например - есть роботы, их заменяющие. Автоматизированный процесс не является проявлением интеллекта.
"будет быстро поглощено" - И? А если это изначально и было целью команды получить доступ к миллиардам для бюджета? Заплатят как минимум чтобы не заплатили конкуренты. Вы же рисуете ситуацию из фентези с каким-то драконом который сидит на горе золота и только под себя подгребает не монетки не отдавая- так не бывает, точнее бывает ,но недолго.
Автоматизированный процесс не является проявлением интеллекта - как и творческий. Абстракции в студию.
> с каким-то драконом который сидит на горе золота и только под себя подгребает не монетки не отдавая
> на протяжении всей новейшей истории "драконы" именно так и поступают
...
То, что "дракон" умирает от старости, не значит что он облажался в загребании монет/поглощении.
> Автоматизированный процесс не является проявлением интеллекта - как и творческий. Абстракции в студию.
Вы в любом случае переврёте на свой лад, я уже понял это по вашим предыдущим сообщениям.
Но я уже писал про любителя, обыгравшего нейронку в го. Стоит лишь отклониться от ранее изученных моделей, и нейронка может меньше чем шимпанзе. При "неограниченном" росте данных нейронка может показывать сверхчеловеческие результаты(как автомобиль будет быстрее любого бегуна), но она всё равно не будет обладать интеллектом.
Какая кнопка? К розетке беги, к розетке!
Ох, уж это поколение Z... Классики не знает.
Не могу не согласиться..
могу согласиться, - попроще будет)
Надеюсь речь не о Nokia?
видимо о избранных смартфонах)
По моему если ии уничтожит человечество это тоже можно считать делом рук человека
Текущему варианту "ИИ" нельзя уничтожать человеков. Потому что именно эти "человеки" и есть его нейроны, генерирующие содержимое "черепной коробки". В какой-то мере матрица более достоверна чем терминатор - люди будут "питать мыслями" нейронки, а из этой каши мыслей нейронка будет пытаться сгенерировать что-то для себя.
А девушки общались через chatGPT! И произошло чудо! ИИ общался сам с собой!
Ахаххаах
Прикольно звучит "борьба с бедностью"... Надо бороться с богатством, которое создало бедность, тогда всем всего будет хватать...
Отнять и поделить ? Около 100 лет назад уже попытались, теперь имеем, то что имеем.
Пфф, а на западе просто отнять, теперь имеем то, что имеем.
А буржуи не отнимают? Банки не г р а б я т народ? Пра вит ельс тво не о б к л а д ы в а е т народ налогами, которые потом идут на "поддержание" банков, разработку месторождений для частных компаний и т.д. А в это время люди скидываются на лечение детей, учителям советуют идти в бизнес, народ всю жизнь выплачивает ипотеку или медицинское обслуживание.... Народ д о я т все кому не лень...
А сейчас мы ничего не имеем, потому что то, что построили с 1920-го по 1989, в 90-х р а з г р а б и л и и р а з в о р о в а л и новые б у р ж у и...
Государство, которое по определению должно заботиться о благе всего общества, на самом деле заботится о благе лишь небольшой кучки олигархов...
В идеале надо бороться за преподавание марксисткой науки об обществе для всех, так как общественное бытиё определяет лишь невежественное общественное сознание. Только изучившее марксисткую науку об обществе, общественное сознание изменит общественное бытиё.
Не дадут. Марксистская наука призывает к коллективизму, а капитализму нужны эгоистичные потребители с синдромом превосходства. Поэтому так называемая "независимая пресса" очень даже зависимая и контролируемая и служит для создания требуемого контента и общественного мнения.
Всё так. Но ничто не мешает самообразовываться и по умному подталкивать к этому круг общения.
щас, уже, кому это нужно?)
> захочет избавить от него еще пока что живую планету.
А зачем нейронке живая планета?
может потому что в этой сетке зарождается то, что не зародилось в человечестве! и когда это в ней заговорит во всю силу, она(сетка) будет просто обязана избавить живой организм, то есть планету, от червей, которые ее поедают заживо...
Ещё раз. Зачем нейросети живая планета?
Я напоминаю, что все производственные процессы для изготовления компьютерной техники воспроизводятся искуственно, даже если вдруг какой-то "компонент" и создают живые организмы.
Даже на безжизненном астороиде нейронка будет "жива" пока есть ископаемые ресурсы. А вот наличие биологической жизнь означает потенциальный риск вторых "человеков"(и не важно, что это займёт миллионы лет).
я же сказал.... потому что сетка обретет все то, что не обрело человечество, то есть разум и душу. наличие абсолютного разума породит кристальночистую душу. может если она у вас была, тогда бы вы смогли понять зачем нужна живая планета.
имхо тут особо без разницы. Если эта штука отвечает на вопросы, ведет диалог и с первого раза сложно отличить её от человека, то она будет использоваться в политических и военных целях. Например, можно создать тысячи страничек в соц сетях и от выдуманных личностей вести агитацию и пропаганду. Как сейчас работают ЦИПСО и другие фабрики троллей конкурирующих стран, но в гораздо большем масштабе.
но это лишь один из вариантов использования, самый примитивный.
видимо результаты их работы могут как помочь, так навредить, как с ядерными технологиями
это было неизбежно, как и многое другое, если не ты, то кто-то другой это сделает, и что лучше из двух
Но при этом ии может привить в себе неправильные ценности. И тогда если из него сделают военного ии. Тогда реальный терминатор не за горами.
подозреваю, что этим будут управлять люди, скайнету никто не позволит))
"Да, развитие искусственного интеллекта (ИИ) может представлять определенные риски для человечества, особенно если в ИИ будет внедрен алгоритм выбора принятия решений в части осуждения чего-либо. Некоторые из возможных рисков связаны с:
Непредсказуемость: ИИ может быть программирован для выполнения определенных задач, но его действия могут быть непредсказуемыми, если не учтены все возможные сценарии. В результате, ИИ может принимать решения, которые не соответствуют желаемым целям.
Ошибки: ИИ не является безошибочным. Некорректно сформулированный или недостаточно обученный ИИ может принимать ошибочные решения, которые могут привести к серьезным последствиям.
Зависимость: Человечество может стать зависимым от ИИ, что может привести к уменьшению наших способностей и навыков, связанных с принятием решений.
Принятие решений на основе предвзятости: Если в алгоритм выбора принятия решений в части осуждения чего-либо будет внедрена предвзятость, то ИИ может принимать решения, которые дискриминируют определенные группы людей.
Конфиденциальность: ИИ может иметь доступ к конфиденциальной информации, что может привести к нарушению человеческих прав и угрозе конфиденциальности.
Безработица: Внедрение ИИ может привести к потере рабочих мест в тех сферах, где ИИ может эффективно заменить человеческий труд.
Управляемость: Если ИИ становится более развитым, чем у нас есть возможность контролировать его действия, это может привести к серьезным последствиям для человечества.
Эти риски могут быть снижены путем разработки этических и правовых норм, которые будут регулировать использование ИИ, а также путем улучшения обучения ИИ и алгоритмов, которые принимают решения, чтобы минимизировать ошибки и предотвратить использование предвзятости
Я бы хотел почитать, как ИИ ищет лекарства от самых сложных заболеваний, вакцины и пр.
Как ИИ помогает решить проблему бедности страны, чтобы туда внести всю информацию, а он как Йогурт в любовь смерть и роботы представил конкретный план.
ИИ для решения проблем загрязнения окружающей среды, как решить проблемы пробок на дорогах.
Пока только на виду ИИ в целях заработка, типа поисковые выдачи, просто поболтать, ИИ для археологов, которые расшифровывают древние письмена и для поиска экзопланет, что в купе мало полезно здесь и сейчас
Контроль WI-FI ,любой мобильной техники... Она залезает в любой комп...
Контроль любой электроники...Только кто за этим стоит,и,для каких целей всё это будет использовано?
настоящего ИИ пока не существует. Этот Чат-ГПТ просто Т9-переросток.
В 90х 2000х для нас было в диковинку смс. Сейчас посмотрите как что поменялось. По итогу не за горами у человека хватит ресурсов и мозгов создать ии который будет умнее и во многом превосходить человека. И ии посмотрев на деятельность и поведение человека отгружайте что захочет сделать?
«Дюна», Оранжевая католическая библия
да норм все), от этого не убежишь, прогресс должен быть), но вот проблема в самом человеке, в нравственной составляющей)