Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

На Reddit развернулось активное обсуждение крайне странной работы нейросети Stable Diffusion 3 Medium после очередного апдейта. Пользователи размещают в сети изображения, созданные ИИ — почти все люди на них показаны с ужасающими «мутациями». Виной всему, как утверждают завсегдатаи интернета, — жёсткая цензура контента для взрослых.

Компания Stability AI, создавшая Stable Diffusion, продолжает придерживаться своего решения по исключению «взрослого» контента из обучающих материалов для нейросети. Это, по предположению пользователей, приводит к невозможности создания анатомически правильных объектов.

Ещё одна проблема заключается в излишней придирчивости автоматического NSFW-цензора, который используется для фильтрации «взрослого» контента. Он, как утверждают комментаторы, слишком тщательно отбирает данные, иной раз исключая и те, что формально считаются приемлемыми.

Отрисовка рук традиционно всегда была проблемой для многих генераторов изображений, однако в последнее время большинству из них удалось преодолеть этот барьер. Но Stable Diffusion 3 Medium в этом отношении сделала огромный шаг назад. Из-за нехватки данных нейросеть предлагает собственную интерпретацию картинки, которая в большинстве случаев выглядит как минимум неестественно, а некоторых может даже напугать.

Некоторые пользователи Stable Diffusion считают одним из факторов «деградации» нейросети неумелое управление компанией. Не так давно стало известно об отставке основателя и генерального директора Эмада Мостака, а также об уходе из компании трёх ключевых инженеров. Сама компания официальных комментариев по поводу случившегося ещё не публиковала.

Источник: arstechnica.com


  • Хм, чето первая картинка напомнила детей шпионов 1.
    • Leviafan83
      rpsg,
      есть такое
      • Dima I
        Новая профессия в 21 веке - психолог ИИ 😅
        • .//Hack
          Тестировал ее с момента доступа к апи и вчера, когда опубликовали веса. Они заявили, что они лучше Далли и Миджорни. Смех. Но в целом SD3 с правильными промптами хотя бы умеет нормальные изображения создавать. SD1.5 без ретрейна и лор, в принципе, была неюзабельна, там только сюр создавать можно было. SDXL тоже недалеко ушла. Так что ждем сообщества, которое натаскает сетку. Тогда она точно будет в топе. Проблема SD3, что ее намеренно не натаскивали на голых телах, чтоб она начала "понимать" анатомию. Поэтому она не особо понимает как должен выглядеть человек. Она даже до конца не отличает мужчин и женщин. Животные у нее тоже крайне странно получаются, очень неестественно. Но она умеет рисовать во многих жанрах, что раньше было недоступно, обычно сетки натаскивались на какой-то определенный жанр. А сетки, которые были везде, делали это плохо. SD сильно не хватает полноценного LLM под капотом, чтоб "понимать" физический мир. Но тогда сетка была бы не меньше 20-30Гб, что осложнило бы ее использование на слабых машинах. Сейчас для хороших LLM по типу Command R+ нужна очень неслабая машина, а для SD даже 3 нужен среднебюджетный ПК.
          • Volnovik
            .//Hack,
            Ну такое. Я даже не могу с уверенностью сказать что она лучше sdxl на старте. Для рук нюдсы не нужны, как и для анатомии. Более того, я случайно сгенерил вполне себе R-rated но без сосков. Так что имхо тут какая-то другая ошибка и надо ждать 3.1
            • .//Hack
              Volnovik,
              Для рук, да. Для анатомии, нужно, хотя бы в нижнем белье. Но такие тоже достаточно жестко отсеивались. R-rated (если это можно так назвать) я в ней тоже генерил. Вот только часто у женщины даже груди не было, ну и ниже все гладко, как у куклы =)) Поэтому она и генерит мужиков с грудью иногда, а женщин - без. Как ни странно, но именно на NSFW сетках я получаю хорошие добротные анатомически модели. То есть гораздо реже встречаются вывернутые наизнанку руки/ноги и т.д. Я, вообще, понял, что почти все сетки заточены на мужиков... То есть они хорошо генерят контент с женщинами в кадре. Но как только нужно генерить контент с мужчинами, все, ступор у сеток, они начинают гнать дичь. И добиться хорошего кадра с мужчиной кратно сложнее, чем с женщиной. Причем неважно, фотореал этот, аниме или любой другой жанр.
              • Aeshmady
                .//Hack,
                Да это прям сексизм какой-то!
      • nightsidechild
        rpsg,
        Пал Паловна?)
        • PsevdoSTALKER
          Хороший генератор идей для режиссёров сериала "Американская история ужасов". Они будут в восторге.
          А так, есть бесплатные нейронки, которые работают без цензуры.
          • Wannamingo
            PsevdoSTALKER,
            Это какие?
            • .//Hack
              Wannamingo,
              Заходи на Civitai, качай любые NSFW. Там их процентов 90, наверно.
              • Wannamingo
                .//Hack,
                Ничего не понятно, но очень интересно)
                • .//Hack
                  Wannamingo,
                  Значит не особо вам это надо, раз не захотели в гугл вбить одно слово.
                • longlivebreak
                  .//Hack,
                  Так это тот же stable diffusion, только это энтузиасты создают свои модели, о каких других нейронках ты говоришь
          • Collapser
            RIP, сами себя закопали.
            • Illiryel
              Может быть я что-то путаю, но Dalle3, Мидка и Леонардо таких косяков с пальцами не допускают... четырёхпалость и шестипалость конечно встречается, но очень-очень редко. А тут что? Склейка? Особенно вторая подборка (пара) артов - лицо словно из одной работы, а всё, что ниже шеи (включая пальцы) - из другой. Не?

              (отредактирован)

              • Volnovik
                Illiryel,
                На huggingface бесплатное демо доступно, можно опробовать
              • Вообще запретите генерировать женщин, а то они могут получиться красивыми.
                • diman48ru
                  Q1W22,
                  И трапов.
                  • ErmilokSs
                    diman48ru,
                    Трапов не трожь
                    • diman48ru
                      ErmilokSs,
                      Но они же красивые
                      • Sr_psycho
                        diman48ru,
                        Зато они несчастные 🥺
                        • Aeshmady
                          Sr_psycho,
                          .//Hack,
                          ну, Элла Холливуд или там Дейзи Тейлор вполне счастливо выглядят. :)
                          Одна знакомая лесбиянка признала, что они вполне ебабельнее девушек смотрятся. :)))

                          (отредактирован)

                          • Sr_psycho
                            Aeshmady,
                            Как в музее Мадам Тюссо 😂. Несчастные же 🤭
                            • Aeshmady
                              Sr_psycho,
                              С чего бы это. Работа есть, деньги есть, секс есть (отбоя от желающих присунуть нет), семейная жизнь? Тоже есть. Месячных нет, голова не болит (главное, чтобы смазка в сумочке лежала), популярность есть. Что ещё нужно для счастья?!
                              А была бы вместо писюна писька – кому интересен такой расклад?! Таких минимум 3.5 миллиарда!
                  • Stingerx
                    Q1W22,
                    Интересно, а есть нейросеть наоборот обученная на бесконечном количестве "взрослого" контента. Тем более что хорошо, ведь большая часть его и так промаркирована, т.е. плюс минус взрослый контент - точно взрослый и туда мало мусора попадет.
                    Вот это была бы хорошая нейросеть :)
                    • Stingerx,
                      Есть. Понятное дело, что они слабее больших сетей, но потиху развиваются.
                      • Filunder7
                        Q1W22,
                        Отдельных базовых моделей нет. Есть дообученные.
                      • dimjef
                        Stingerx,
                        Есть +100500 моделей для той же Stable Diffusion, если видеокарта позволяет можешь и сам обучить. Можно еще и готовые модели сливать друг с другом чтобы получить третью, берёшь фентезиюную модель и соединяешь с ню, и вот у тебя голые бабы на драконах, ну или драконы с гениталиями +– как повезет :D
                        • UserOnPDA
                          dimjef,
                          На r34 сайтах давно уже обучили, так что кастомная база ИИ для stable diffusion может генерировать как в том самом правиле "без исключений" и довольно прилично нарисовать, а не уродливый кринж (но и не исключается на 100%, иногда кринж рисует). Поэтому не понимаю, нахера авторам ИИ парится, все равно их база для создания такого контента ни о чем, в любом случаи из интернета скачают кастомную. В итоге свою базу изуродовали для создания обычного контента.
                          • Filunder7
                            UserOnPDA, в sd3 недоступно дообучение (пока), а когда станет доступно и станет ли вообще - неизвестно
                          • Zeta Reticuli
                            dimjef,
                            Научи, как обучить нейросеть. Или дай ссылку.
                            • dimjef
                              Zeta Reticuli,
                              В ютуб вбей stable diffusion train там куча обучающих роликов.
                            • Aeshmady
                              dimjef,
                              Ты сейчас Бориса Валеджо (Вальехо) изобрёл. :)))

                              (отредактирован)

                            • .//Hack
                              Stingerx,
                              Открываешь Civitai и радуешься, как ребенок контенту. Там процентов 90 NSFW сеток и лор к ним.
                              • Volnovik
                                Stingerx,
                                Есть, pony diffusion v6. Как понятно из названия - делали её не для этого, но получилась одна из лучших аниме моделей.
                            • rrrrex
                              Вас тоже возбуждают пятипалые люди?
                              • Хвойный
                                спс поржал)
                                • Ivanvllapaev
                                  Все норм, это люди будущего
                                  • Теперь "Даная" тоже причислена к " взрослому" контенту?🤔
                                    • ivonin
                                      N.Nik,
                                      ну, как бы она никогда и не была "для детей": ейный хахаль ведь на золотом дожде не остановился и дальше было чистое 18+...
                                      • ivonin,
                                        Лет так полста назад водя детей на экскурсии в музеи(и в Европе тоже) не ограничивал просмотр картин и статуй. Да и у " МАРИАННЫ" грудь оголённая торчит.
                                        • Octabun
                                          N.Nik,
                                          Ну и чем хорошим это закончилось (и для Европы тоже)?
                                          • ivonin
                                            N.Nik,
                                            ...и рассказывали им греческий эпос в пересказе Куна, или таки полный? Можно спорить сколько угодно, но некоторые темы детям лучше подавать дозированно и с определёнными лакунами.
                                            • ivonin,
                                              Причем тут эпос? Речь идет об анатомическом соответствии человеческого тела. Об инцесте Лота и дочерей тоже не особо голосят.
                                        • Shinkai ツ
                                          N.Nik,
                                          Время от времени листочками статуи прикрывают же ) чем Климт хуже
                                          • Shinkai ツ,
                                            Грудь МАРИАННЫ как символ СВОБОДЫ Франции тоже прикрыли?🤔😉
                                            • Shinkai ツ
                                              N.Nik,
                                              До картин пока не добрались 🧐 у нее там под ногами ещё братан без штанов лежит, жесть )
                                        • UserOnPDA
                                          Не понял, это речь про встроенную базу? А кто им пользуется для такого контента? Если порно генерит, то там такой кринж выходит хлеще игры scorn. Будут ночные кошмары. Для порно все равно другую натренированую базу будут использовать.
                                          • Filunder7
                                            UserOnPDA, это базовая модель sd3 и она генерит так всех людей, и без прона в запросе. А дообучить ее нельзя.
                                          • Cronprog
                                            Меня тошнит (
                                            • Neuralink-X
                                              Причина в том что (ИИ) не понимает что генерирует, то есть компилирует. Просто выдает "ответ" на заданные параметры компиляции, совершенно не "оценивая" результат своей компиляции. Для аббревиатуры ИИ есть более подходящая расшифровка - ИдиотскийИнтеллект.
                                              • UserOnPDA
                                                Neuralink-X,
                                                Искусственный Идиот
                                                • Filunder7
                                                  Neuralink-X, не совсем так. Точнее совсем не так. Она именно что оценивает. Каждый шаг генерации она оценивает детали и выбирает те что считает лучшими в Данном случае и усиливает из в следующем шаге. И вот чтобы этот «оцениватель» правильно работал это самое сложное.
                                                • nightbringer2010
                                                  Сколько онанистов сейчас начнут негодовать))
                                                  • qocaier
                                                    Сделали бы тогда отдельно версию для детей и версию 18+
                                                    • UserOnPDA
                                                      Боролись с порнографией, а ИИ стал делать просто иной сорт порнографии. В итоге люди получают порнографию автоматически без запроса на это.
                                                      • Thanksgiving Day
                                                        Фу мерзость на картинках
                                                        • Artemius-93-01
                                                          Не, ну это уже явный маразм не нейросети, а самих её разработчиков. Ради цензуры, гробить алгоритмы как-то глупо.
                                                          • Craft crack
                                                            Вспоминается фильм "Вспомнить все" со Шварценеггером.
                                                            • Zeta Reticuli
                                                              Пусть на прон сайтах тренеруют, всё будет анатомически правильно :) .
                                                              • panzer1001
                                                                🤣🤣🤣 за ии будущее ... Держите меня семеро
                                                                • NendoGalaxy
                                                                  Теперь стаббле дефузия норм генератор проклятых изображений
                                                                  • Filunder7
                                                                    Странно что у Эдоби фаерфлай нет таких проблем, хотя там модель тренировалась исключительно на фото с Эдоби стока, на котором прона нет изначально. Да и Миджорни цензура как-то не мешает.
                                                                    • ask1980
                                                                      Они лишь оттягивают неизбежное
                                                                      • GIK007
                                                                        Жуть!
                                                                        • e11issium
                                                                          Как
                                                                          • Alexusbn
                                                                            И так сойдёт😂
                                                                            • Если не уметь управлять самолетом, то он тоже не очень-то летает. Элементарно еще не разобрали негативные промты и правила промтов вообще. Ванильный sdxl тоже на старте выдавал корявые результаты, а сейчас можно невероятные результаты получить. Тот же пони дифьюжн конечности генерит практически идеально.
                                                                              • Blackwaltz
                                                                                Борются с порно, а в итоге сделали какое-то извращение, которое ещё хуже!

                                                                                Xiaomi выпускала специальные версии HyperOS для разработчиков для тестирования новых функций перед добавлением их в стабильную ветку обновлений. Но теперь этот подход поменяется, что будет полезно как для бета-тестеров, так и для самой компании.

                                                                                 
                                                                                <div></div><div></div><div></div><a href='/2024/07/13/4630640/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div><div></div><div></div>

                                                                                Компания HMD выпустила тизер с изображением ремейка знаменитого кнопочного телефона Nokia 3210. Это будет первое обновление некогда популярного мобильника через 25 лет после его анонса. Изображение модели образца 2024 года раскрыло дизайн и некоторые технические особенности будущей новинки.

                                                                                 

                                                                                На краудфандинговой площадке Kickstarter стартовал сбор средств на SwitchLens — подключаемую камеру для смартфона. Гаджет объединяет продвинутые возможности традиционных камер, включая поддержку сменных объективов, с портативностью и возможностями смартфонов. 

                                                                                 

                                                                                AMD представила семейство десктопных процессоров Ryzen 9000 (Granite Ridge) на микроархитектуре Zen5. В него вошли четыре модели для сокета AM5: компания подробно рассказала об их характеристиках. Между делом обновилась и линейка чипов прошлого поколения для владельцев материнских плат на AM4.

                                                                                 

                                                                                После выпуска прошивки One UI 6.1 некоторые владельцы Galaxy S23 начали жаловаться на проблему в работе сенсорного дисплея смартфона. Недавно на официальном форуме компании появилось сообщение о признании «неполадки». Ответственность за её возникновение Samsung переложила на Google — и опубликовала инструкцию по исправлению работы устройства, доказывающую это заявление.

                                                                                 

                                                                                Стабильная версия браузера Mozilla Firefox 128 стала доступна для скачивания. Она не получила революционных изменений, но примечательна исправлением ошибки, которую впервые задокументировали 25 лет назад.

                                                                                 

                                                                                Разработчики бенчмарка AnTuTu обновили рейтинг Android-смартфонов, собравших наибольшее количество положительных отзывов покупателей. В отличие от такого же списка с устройствами Apple, в нём почти нет старых устройств.

                                                                                 

                                                                                В Windows 11 Pro и Home версии 24H2 нашли новый метод активации шифрования BitLocker. Теперь все накопители компьютера шифруются во время переустановки операционной системы. Портал Tom’s Hardware рассказал, чем это может обернуться для пользователя.

                                                                                 

                                                                                Миф о человеческом глазе, который не различает больше 30 кадров в секунду, когда-то воспринимался всерьёз, но сейчас закрепился в массовом сознании как шутка. А вот и не совсем: учёные доказали, что некоторые люди действительно не способны воспринимать высокую частоту кадров.

                                                                                 
                                                                                Intel отправила на пенсию целое поколение процессоров Популярное

                                                                                Компания Intel собирается в скором времени снять с производства сразу несколько десятков моделей процессоров. В число устаревших попала даже модель Core i9-12900KS, выпущенная в начале 2022 года, которая некоторое время была самой мощной в серии.

                                                                                 

                                                                                Пользователь под ником ObamaCare опубликовал в сети самую большую из когда-либо существовавших базу паролей. Он собрал порядка 10 миллиардов секретных комбинаций. С учётом того, что на счету этого человека уже есть несколько подтвердившихся утечек, отнестись к новой стоит со всей серьёзностью.

                                                                                 

                                                                                На сайте Apple появилась новая страница под названием «Причины для обновления». На ней компания демонстрирует наглядное сравнение старых моделей iPhone с устройствами актуальной серии — но не в виде обычных таблиц характеристик, а более наглядно.

                                                                                 
                                                                                Xiaomi представила очень экономичный и мощный кондиционер с самоочисткой Популярное

                                                                                Компания Xiaomi представила сплит-систему Mijia Air Conditioner Super Energy Saving 3-HP Wall-Mounted Unit. В список главных особенностей новинки вошли высокая энергоэффективность, быстрый выход на заданные температурные показатели и функция самоочистки как внутреннего, так и наружного блока.

                                                                                 

                                                                                На форуме поддержки Google и портале Reddit начали появляться сообщения от некоторых пользователей Google Pixel 6 об «окирпичивании» гаджетов. Они рассказали, в каком случае это происходит, а Google уже взяла досадный баг в разработку — правда, пока так и не исправила его.

                                                                                 

                                                                                «Безопасники» компании F.A.C.C.T. сообщили, что раскрыли новую схему «угона» аккаунтов в Telegram. Она напоминает некоторые уже известные методы мошенничества, но, по мнению экспертов, опасна даже для опытных пользователей. Издание РБК рассказало всё, что об этом известно.

                                                                                 

                                                                                В предварительных сборках Edge недавно появилась функция быстрой загрузки файлов с мобильных устройств прямо в окно десктопного браузера. Но, судя по отзывам тестировщиков, к моменту релиза у неё может появиться досадное ограничение, призванное подтолкнуть пользователей к переходу на детище Microsoft.

                                                                                 
                                                                                Игровой Red Magic 9S Pro показали со всех сторон на официальных изображениях Популярное

                                                                                Накануне презентации флагманского смартфона Red Magic 9S Pro бренд Nubia выпустил официальные тизеры с изображениями будущей новинки «в полный рост». Гаджет сохранит сложившиеся традиции фирменной серии: он получит экран без выреза для фронталки и яркий дизайн тыльной панели, выделяющий устройство на фоне решений других производителей.

                                                                                 

                                                                                В своё время Samsung выпустила веб-приложение Try Galaxy, которое имитирует прошивку One UI на iPhone, позволяя ознакомиться с её преимуществами. Теперь оно стало доступно и на платформе Android — компания рассказала, где его найти и как запустить.

                                                                                 
                                                                                Создан кулер, способный охлаждать Core i9-14900KF при разгоне до 7,5 ГГц Популярное

                                                                                Объединив технологии GenAI и 3D-печать, команда энтузиастов создала кастомную систему охлаждения, ориентированную на сторонников экстремального оверклокинга. На проект было потрачено $10 000 — что из этого получилось, его авторы показали в формате видеоролика.

                                                                                 
                                                                                Представлены Samsung Galaxy Watch Ultra: ИИ, сверхъяркий экран и новейший датчик BioActive Sensor Популярное

                                                                                В дополнение к складным смартфонам Samsung представила новое поколение умных часов: Galaxy Watch7 и Galaxy Watch Ultra. По заверениям компании, они открывают новые возможности для мониторинга показателей здоровья и достижения спортивных результатов, используя для этого функции искусственного интеллекта Galaxy AI.

                                                                                 

                                                                                Рынок носимых аксессуаров всё чаще пополняется новыми форм-факторами. Один из примеров — умные кольца. Они способны предложить сопоставимую со смарт-часами функциональность, но в более компактном корпусе. Самый лёгкий на сегодня гаджет такого типа — Ring Air от индийского стартапа Ultrahuman. Рассказываем о возможностях устройства, ссылаясь на обзоры зарубежных изданий.

                                                                                 

                                                                                В сети появился сайт с отображением местоположения всех спутников компании SpaceX в режиме реального времени. Starlink — самая продвинутая в мире технология спутникового интернета, способная передавать терабайты данных в любую точку Земли. Сеть спутников стала возможной благодаря появлению многоразовых ракет-носителей.

                                                                                 

                                                                                Портал GSMArena со ссылкой на отчёт надёжного инсайдера под ником Digital Chat Station опубликовал подробные предположительные характеристики будущего флагмана Xiaomi. В частности, источник сообщил спецификации камер, модель процессора и варианты расцветки гаджета.

                                                                                 

                                                                                Российский производитель аудиотехники Radiotehnika презентовал новую акустическую систему класса Hi-Fi S-20NA. Компания решила отдать дань уважения популярным в 1980-х моделям «Радиотехники» S-серии, сохранив схожий дизайн. В частности, новинка получила стилизованное изображение амплитудно-частотной характеристики.

                                                                                 

                                                                                Замечали ли вы, как кошка может подолгу сидеть на клавиатуре ноутбука? Многие думают, что это связано с выделяемым теплом. Но занимающиеся изучением психологии животных исследователи нашли другую причину, побуждающую четвероногих к этим действиям.

                                                                                 

                                                                                Американская компания Sentry Enterprises приступила к выпуску необычных банковских карт серии Radiance, оснащённых встроенными OLED-панелями. Разработчики раскрыли первые подробности о необычном платёжном средстве и рассказали, в чём заключаются его преимущества для банков и их клиентов.

                                                                                 

                                                                                Уже скоро OnePlus представит смартфон Ace 3 Pro, одной из ключевых особенностей которого станет аккумулятор нового поколения Glacier Battery. Последний разработан совместно с CATL, одним из лидеров в области энергоносителей. Компания обещает, что эти аккумуляторы будут отличаться повышенным сроком службы.

                                                                                 

                                                                                С момента премьеры шутера Atomic Heart прошло больше года, да и DLC к боевику про альтернативную историю уже давно выпустили в цифровые магазины. Тем не менее Mundfish всё ещё потихоньку улучшает своё творение — на днях, к примеру, команда выпустила очень важный патч.

                                                                                 

                                                                                Практически сразу же после «похорон» ICQ разработчики проекта NINA объявили о запуске регистрации учётных записей мессенджера на собственном неофициальном сервере. С его помощью любой желающий может «реанимировать» свой аккаунт — правда, с некоторыми оговорками.