Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

На Reddit развернулось активное обсуждение крайне странной работы нейросети Stable Diffusion 3 Medium после очередного апдейта. Пользователи размещают в сети изображения, созданные ИИ — почти все люди на них показаны с ужасающими «мутациями». Виной всему, как утверждают завсегдатаи интернета, — жёсткая цензура контента для взрослых.

Компания Stability AI, создавшая Stable Diffusion, продолжает придерживаться своего решения по исключению «взрослого» контента из обучающих материалов для нейросети. Это, по предположению пользователей, приводит к невозможности создания анатомически правильных объектов.

Ещё одна проблема заключается в излишней придирчивости автоматического NSFW-цензора, который используется для фильтрации «взрослого» контента. Он, как утверждают комментаторы, слишком тщательно отбирает данные, иной раз исключая и те, что формально считаются приемлемыми.

Отрисовка рук традиционно всегда была проблемой для многих генераторов изображений, однако в последнее время большинству из них удалось преодолеть этот барьер. Но Stable Diffusion 3 Medium в этом отношении сделала огромный шаг назад. Из-за нехватки данных нейросеть предлагает собственную интерпретацию картинки, которая в большинстве случаев выглядит как минимум неестественно, а некоторых может даже напугать.

Некоторые пользователи Stable Diffusion считают одним из факторов «деградации» нейросети неумелое управление компанией. Не так давно стало известно об отставке основателя и генерального директора Эмада Мостака, а также об уходе из компании трёх ключевых инженеров. Сама компания официальных комментариев по поводу случившегося ещё не публиковала.

Источник: arstechnica.com


  • Хм, чето первая картинка напомнила детей шпионов 1.
    • Leviafan83
      rpsg,
      есть такое
      • Dima I
        Новая профессия в 21 веке - психолог ИИ 😅
        • .//Hack
          Тестировал ее с момента доступа к апи и вчера, когда опубликовали веса. Они заявили, что они лучше Далли и Миджорни. Смех. Но в целом SD3 с правильными промптами хотя бы умеет нормальные изображения создавать. SD1.5 без ретрейна и лор, в принципе, была неюзабельна, там только сюр создавать можно было. SDXL тоже недалеко ушла. Так что ждем сообщества, которое натаскает сетку. Тогда она точно будет в топе. Проблема SD3, что ее намеренно не натаскивали на голых телах, чтоб она начала "понимать" анатомию. Поэтому она не особо понимает как должен выглядеть человек. Она даже до конца не отличает мужчин и женщин. Животные у нее тоже крайне странно получаются, очень неестественно. Но она умеет рисовать во многих жанрах, что раньше было недоступно, обычно сетки натаскивались на какой-то определенный жанр. А сетки, которые были везде, делали это плохо. SD сильно не хватает полноценного LLM под капотом, чтоб "понимать" физический мир. Но тогда сетка была бы не меньше 20-30Гб, что осложнило бы ее использование на слабых машинах. Сейчас для хороших LLM по типу Command R+ нужна очень неслабая машина, а для SD даже 3 нужен среднебюджетный ПК.
          • Volnovik
            .//Hack,
            Ну такое. Я даже не могу с уверенностью сказать что она лучше sdxl на старте. Для рук нюдсы не нужны, как и для анатомии. Более того, я случайно сгенерил вполне себе R-rated но без сосков. Так что имхо тут какая-то другая ошибка и надо ждать 3.1
            • .//Hack
              Volnovik,
              Для рук, да. Для анатомии, нужно, хотя бы в нижнем белье. Но такие тоже достаточно жестко отсеивались. R-rated (если это можно так назвать) я в ней тоже генерил. Вот только часто у женщины даже груди не было, ну и ниже все гладко, как у куклы =)) Поэтому она и генерит мужиков с грудью иногда, а женщин - без. Как ни странно, но именно на NSFW сетках я получаю хорошие добротные анатомически модели. То есть гораздо реже встречаются вывернутые наизнанку руки/ноги и т.д. Я, вообще, понял, что почти все сетки заточены на мужиков... То есть они хорошо генерят контент с женщинами в кадре. Но как только нужно генерить контент с мужчинами, все, ступор у сеток, они начинают гнать дичь. И добиться хорошего кадра с мужчиной кратно сложнее, чем с женщиной. Причем неважно, фотореал этот, аниме или любой другой жанр.
              • Aeshmady
                .//Hack,
                Да это прям сексизм какой-то!
      • nightsidechild
        rpsg,
        Пал Паловна?)
        • PsevdoSTALKER
          Хороший генератор идей для режиссёров сериала "Американская история ужасов". Они будут в восторге.
          А так, есть бесплатные нейронки, которые работают без цензуры.
          • Wannamingo
            PsevdoSTALKER,
            Это какие?
            • .//Hack
              Wannamingo,
              Заходи на Civitai, качай любые NSFW. Там их процентов 90, наверно.
              • Wannamingo
                .//Hack,
                Ничего не понятно, но очень интересно)
                • .//Hack
                  Wannamingo,
                  Значит не особо вам это надо, раз не захотели в гугл вбить одно слово.
                • longlivebreak
                  .//Hack,
                  Так это тот же stable diffusion, только это энтузиасты создают свои модели, о каких других нейронках ты говоришь
          • Collapser
            RIP, сами себя закопали.
            • Illiryel
              Может быть я что-то путаю, но Dalle3, Мидка и Леонардо таких косяков с пальцами не допускают... четырёхпалость и шестипалость конечно встречается, но очень-очень редко. А тут что? Склейка? Особенно вторая подборка (пара) артов - лицо словно из одной работы, а всё, что ниже шеи (включая пальцы) - из другой. Не?

              (отредактирован)

              • Volnovik
                Illiryel,
                На huggingface бесплатное демо доступно, можно опробовать
              • Вообще запретите генерировать женщин, а то они могут получиться красивыми.
                • diman48ru
                  Q1W22,
                  И трапов.
                  • ErmilokSs
                    diman48ru,
                    Трапов не трожь
                    • diman48ru
                      ErmilokSs,
                      Но они же красивые
                      • Sr_psycho
                        diman48ru,
                        Зато они несчастные 🥺
                        • Aeshmady
                          Sr_psycho,
                          .//Hack,
                          ну, Элла Холливуд или там Дейзи Тейлор вполне счастливо выглядят. :)
                          Одна знакомая лесбиянка признала, что они вполне ебабельнее девушек смотрятся. :)))

                          (отредактирован)

                          • Sr_psycho
                            Aeshmady,
                            Как в музее Мадам Тюссо 😂. Несчастные же 🤭
                            • Aeshmady
                              Sr_psycho,
                              С чего бы это. Работа есть, деньги есть, секс есть (отбоя от желающих присунуть нет), семейная жизнь? Тоже есть. Месячных нет, голова не болит (главное, чтобы смазка в сумочке лежала), популярность есть. Что ещё нужно для счастья?!
                              А была бы вместо писюна писька – кому интересен такой расклад?! Таких минимум 3.5 миллиарда!
                  • Stingerx
                    Q1W22,
                    Интересно, а есть нейросеть наоборот обученная на бесконечном количестве "взрослого" контента. Тем более что хорошо, ведь большая часть его и так промаркирована, т.е. плюс минус взрослый контент - точно взрослый и туда мало мусора попадет.
                    Вот это была бы хорошая нейросеть :)
                    • Stingerx,
                      Есть. Понятное дело, что они слабее больших сетей, но потиху развиваются.
                      • Filunder7
                        Q1W22,
                        Отдельных базовых моделей нет. Есть дообученные.
                      • dimjef
                        Stingerx,
                        Есть +100500 моделей для той же Stable Diffusion, если видеокарта позволяет можешь и сам обучить. Можно еще и готовые модели сливать друг с другом чтобы получить третью, берёшь фентезиюную модель и соединяешь с ню, и вот у тебя голые бабы на драконах, ну или драконы с гениталиями +– как повезет :D
                        • UserOnPDA
                          dimjef,
                          На r34 сайтах давно уже обучили, так что кастомная база ИИ для stable diffusion может генерировать как в том самом правиле "без исключений" и довольно прилично нарисовать, а не уродливый кринж (но и не исключается на 100%, иногда кринж рисует). Поэтому не понимаю, нахера авторам ИИ парится, все равно их база для создания такого контента ни о чем, в любом случаи из интернета скачают кастомную. В итоге свою базу изуродовали для создания обычного контента.
                          • Filunder7
                            UserOnPDA, в sd3 недоступно дообучение (пока), а когда станет доступно и станет ли вообще - неизвестно
                          • Zeta Reticuli
                            dimjef,
                            Научи, как обучить нейросеть. Или дай ссылку.
                            • dimjef
                              Zeta Reticuli,
                              В ютуб вбей stable diffusion train там куча обучающих роликов.
                            • Aeshmady
                              dimjef,
                              Ты сейчас Бориса Валеджо (Вальехо) изобрёл. :)))

                              (отредактирован)

                            • .//Hack
                              Stingerx,
                              Открываешь Civitai и радуешься, как ребенок контенту. Там процентов 90 NSFW сеток и лор к ним.
                              • Volnovik
                                Stingerx,
                                Есть, pony diffusion v6. Как понятно из названия - делали её не для этого, но получилась одна из лучших аниме моделей.
                            • rrrrex
                              Вас тоже возбуждают пятипалые люди?
                              • Хвойный
                                спс поржал)
                                • Ivanvllapaev
                                  Все норм, это люди будущего
                                  • Теперь "Даная" тоже причислена к " взрослому" контенту?🤔
                                    • ivonin
                                      N.Nik,
                                      ну, как бы она никогда и не была "для детей": ейный хахаль ведь на золотом дожде не остановился и дальше было чистое 18+...
                                      • ivonin,
                                        Лет так полста назад водя детей на экскурсии в музеи(и в Европе тоже) не ограничивал просмотр картин и статуй. Да и у " МАРИАННЫ" грудь оголённая торчит.
                                        • Octabun
                                          N.Nik,
                                          Ну и чем хорошим это закончилось (и для Европы тоже)?
                                          • ivonin
                                            N.Nik,
                                            ...и рассказывали им греческий эпос в пересказе Куна, или таки полный? Можно спорить сколько угодно, но некоторые темы детям лучше подавать дозированно и с определёнными лакунами.
                                            • ivonin,
                                              Причем тут эпос? Речь идет об анатомическом соответствии человеческого тела. Об инцесте Лота и дочерей тоже не особо голосят.
                                        • Shinkai ツ
                                          N.Nik,
                                          Время от времени листочками статуи прикрывают же ) чем Климт хуже
                                          • Shinkai ツ,
                                            Грудь МАРИАННЫ как символ СВОБОДЫ Франции тоже прикрыли?🤔😉
                                            • Shinkai ツ
                                              N.Nik,
                                              До картин пока не добрались 🧐 у нее там под ногами ещё братан без штанов лежит, жесть )
                                        • UserOnPDA
                                          Не понял, это речь про встроенную базу? А кто им пользуется для такого контента? Если порно генерит, то там такой кринж выходит хлеще игры scorn. Будут ночные кошмары. Для порно все равно другую натренированую базу будут использовать.
                                          • Filunder7
                                            UserOnPDA, это базовая модель sd3 и она генерит так всех людей, и без прона в запросе. А дообучить ее нельзя.
                                          • Cronprog
                                            Меня тошнит (
                                            • Neuralink-X
                                              Причина в том что (ИИ) не понимает что генерирует, то есть компилирует. Просто выдает "ответ" на заданные параметры компиляции, совершенно не "оценивая" результат своей компиляции. Для аббревиатуры ИИ есть более подходящая расшифровка - ИдиотскийИнтеллект.
                                              • UserOnPDA
                                                Neuralink-X,
                                                Искусственный Идиот
                                                • Filunder7
                                                  Neuralink-X, не совсем так. Точнее совсем не так. Она именно что оценивает. Каждый шаг генерации она оценивает детали и выбирает те что считает лучшими в Данном случае и усиливает из в следующем шаге. И вот чтобы этот «оцениватель» правильно работал это самое сложное.
                                                • nightbringer2010
                                                  Сколько онанистов сейчас начнут негодовать))
                                                  • qocaier
                                                    Сделали бы тогда отдельно версию для детей и версию 18+
                                                    • UserOnPDA
                                                      Боролись с порнографией, а ИИ стал делать просто иной сорт порнографии. В итоге люди получают порнографию автоматически без запроса на это.
                                                      • Thanksgiving Day
                                                        Фу мерзость на картинках
                                                        • Artemius-93-01
                                                          Не, ну это уже явный маразм не нейросети, а самих её разработчиков. Ради цензуры, гробить алгоритмы как-то глупо.
                                                          • Craft crack
                                                            Вспоминается фильм "Вспомнить все" со Шварценеггером.
                                                            • Zeta Reticuli
                                                              Пусть на прон сайтах тренеруют, всё будет анатомически правильно :) .
                                                              • panzer1001
                                                                🤣🤣🤣 за ии будущее ... Держите меня семеро
                                                                • NendoGalaxy
                                                                  Теперь стаббле дефузия норм генератор проклятых изображений
                                                                  • Filunder7
                                                                    Странно что у Эдоби фаерфлай нет таких проблем, хотя там модель тренировалась исключительно на фото с Эдоби стока, на котором прона нет изначально. Да и Миджорни цензура как-то не мешает.
                                                                    • ask1980
                                                                      Они лишь оттягивают неизбежное
                                                                      • GIK007
                                                                        Жуть!
                                                                        • e11issium
                                                                          Как
                                                                          • Alexusbn
                                                                            И так сойдёт😂
                                                                            • Если не уметь управлять самолетом, то он тоже не очень-то летает. Элементарно еще не разобрали негативные промты и правила промтов вообще. Ванильный sdxl тоже на старте выдавал корявые результаты, а сейчас можно невероятные результаты получить. Тот же пони дифьюжн конечности генерит практически идеально.
                                                                              • Blackwaltz
                                                                                Борются с порно, а в итоге сделали какое-то извращение, которое ещё хуже!

                                                                                Абитуриент из Турции попался на жульничестве в рамках вступительных экзаменов в колледже. Юноша решил проявить оригинальность, использовав самодельное ИИ-приспособление для диктовки подсказок. Но план несостоявшегося студента провалился.

                                                                                 

                                                                                Японский производитель электрокомпонентов TDK сообщил о разработке материала для твердотельных аккумуляторов, способного обеспечить более высокую автономность гаджетов. Вдобавок новый вид батарей позволит быстрее заряжать технику.

                                                                                 
                                                                                <div></div><div></div><div></div><a href='/2024/07/18/4630640/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div><div></div><div></div>

                                                                                Техноблогер Эрик Паркер опубликовал любопытный видеоролик: он демонстрирует, насколько Windows XP отстала от времени в контексте защиты от вредоносных программ. Как оказалось, достаточно просто подключить компьютер к интернету — и уже через несколько минут состояние системы станет весьма печальным.

                                                                                 

                                                                                По информации издания Forbes, российские сотовые операторы продолжают отключать сети третьего поколения (3G). Связано это с низким спросом на данную технологию, поскольку большинство активных смартфонов в стране уже поддерживают 4G. В перспективе это позволит заметно повысить скорость мобильного интернета.

                                                                                 

                                                                                Бренд POCO обновил популярную F-серию, представив смартфоны F6 и F6 Pro. Со старшей моделью линейки уже ознакомились зарубежные СМИ. Гаджет получил предфлагманский чипсет, яркий дисплей и неплохие камеры, но есть нюансы. Резюмируем мнения журналистов.

                                                                                 

                                                                                Очередной новинкой бренда Casio стали умные часы G-SHOCK GBD-300, вошедшие в серию G-SQUAD. Устройство получило тонкий и лёгкий корпус, защищённый от воды и ударов, а также контрастный монохромный дисплей и широкий набор спортивных функций.

                                                                                 
                                                                                Обзор HUAWEI Pura 70 Ultra: китайское чудо глазами зарубежных СМИ
                                                                                106
                                                                                13.05.24News

                                                                                Выпущенный без каких-либо презентаций в Китае HUAWEI Pura 70 Ultra стал настоящим хитом, а вся первая партия была раскуплена менее чем за минуту. Мы изучили первые обзоры этого флагманского смартфона, чтобы разобраться, чем же он привлёк внимание общественности.

                                                                                 

                                                                                Пока новостей о продолжении S.T.A.L.K.E.R. не так много, отправиться в новые приключения по зоне отчуждения фанатам серии помогают моддеры. На днях состоялся релиз True Stalker — глобальной модификации, размер которой сопоставим с оригинальной игрой.

                                                                                 

                                                                                На прошлой неделе появилась информация об ухудшении работы YouTube на территории РФ, якобы связанном с техническими проблемами на стороне Google. Некоторые уже бьют панику, готовясь к полной блокировке видеосервиса, ведь слухи об этом ходят уже не один год. В то же время в России уже есть несколько аналогов популярного видеохостинга, а недавно представили почти полный клон под названием «Платформа». Кто-то уже перешёл на эти сервисы, тогда как другие не воспринимают их всерьёз. Проголосуйте и расскажите в комментариях, готовы ли вы отказаться от YouTube?

                                                                                 
                                                                                До 30 000 рублей: в России появятся штрафы для водителей самокатов Популярное

                                                                                Госдума приняла в первом чтении законопроект, который вводит штрафы для водителей электросамокатов. Теперь владельца этого вида транспорта могут оштрафовать, как и любого другого участника движения. И при этом ему даже не надо двигаться по дороге.

                                                                                 

                                                                                Миф о человеческом глазе, который не различает больше 30 кадров в секунду, когда-то воспринимался всерьёз, но сейчас закрепился в массовом сознании как шутка. А вот и не совсем: учёные доказали, что некоторые люди действительно не способны воспринимать высокую частоту кадров.

                                                                                 
                                                                                Samsung представила умное кольцо Galaxy Ring, которое нужно мерить перед покупкой Популярное

                                                                                Одним из самых ожидаемых и необычных гаджетов на презентации Samsung стало умное кольцо Galaxy Ring. Спустя почти полгода после первого анонса на MWC 2024 компания наконец-то рассказала все подробности об аксессуаре, раскрыв его возможности и время автономной работы.

                                                                                 

                                                                                Глава мобильного подразделения Samsung Тэ Мун Ро прокомментировал информацию о платной подписке на ИИ-сервисы для смартфонов Galaxy. Официальное заявление на этот счёт он сделал в рамках интервью порталу ET Telecom.

                                                                                 
                                                                                Вышла новая версия Fallout: Yesterday — это отменённая третья часть на движке оригинальных игр Популярное

                                                                                Фанаты обожают воссоздавать старые игры на современных движках, но группа поклонников Fallout пошла дальше — они делают старую игру на ещё более старом движке. Речь идёт о ремейке Fallout: Van Buren на движке оригинальных частей.

                                                                                 

                                                                                О времена, о нравы! Издание «Ведомости» сообщает, что на маркетплейсах наблюдается взрывной рост спроса на перкуссионные массажёры. Предполагается, что их используют для фарма монет в Hamster Kombat.

                                                                                 
                                                                                Представлены Samsung Galaxy Watch Ultra: ИИ, сверхъяркий экран и новейший датчик BioActive Sensor Популярное

                                                                                В дополнение к складным смартфонам Samsung представила новое поколение умных часов: Galaxy Watch7 и Galaxy Watch Ultra. По заверениям компании, они открывают новые возможности для мониторинга показателей здоровья и достижения спортивных результатов, используя для этого функции искусственного интеллекта Galaxy AI.

                                                                                 

                                                                                Калифорнийский стартап Infinity Power заявил об успешном создании ядерной батареи, использующей электрохимическое преобразование энергии. Разработка выполнена в форм-факторе «таблетки», гарантирующем безопасное использование.

                                                                                 

                                                                                Разные издания неоднократно распространяли информацию, что рост продаж iPhone обусловлен переходом на «яблочные» смартфоны бывших владельцев Android-гаджетов. Согласно новому отчёту исследовательской фирмы Bernstein, это не соответствует действительности.

                                                                                 

                                                                                На краудфандинговой площадке Kickstarter стартовал сбор средств на SwitchLens — подключаемую камеру для смартфона. Гаджет объединяет продвинутые возможности традиционных камер, включая поддержку сменных объективов, с портативностью и возможностями смартфонов. 

                                                                                 
                                                                                Произошла крупнейшая утечка паролей в истории Популярное

                                                                                Пользователь под ником ObamaCare опубликовал в сети самую большую из когда-либо существовавших базу паролей. Он собрал порядка 10 миллиардов секретных комбинаций. С учётом того, что на счету этого человека уже есть несколько подтвердившихся утечек, отнестись к новой стоит со всей серьёзностью.

                                                                                 

                                                                                Не дожидаясь премьеры умного кольца Samsung Galaxy Ring, надёжный инсайдер под ником Ice Universe опубликовал изображение гаджета в фирменном зарядном чехле. Внешне он заметно отличается от решений компании для фирменных TWS-наушников.

                                                                                 

                                                                                Компания 8BitDo, специализирующаяся на компьютерной периферии, представила механическую клавиатуру M-Edition, дизайн которой напоминает знаменитую ретро-модель IBM. Ещё одной новинкой бренда стал фирменный независимый цифровой блок с режимом калькулятора.

                                                                                 

                                                                                Обновления Windows  призваны улучшать работу системы, но куда чаще раздражают пользователей ОС. Одна из причин «народной любви» — большой объём даже мелких патчей и частые проблемы со стабильностью. Впрочем, вскоре ситуация может измениться к лучшему — Microsoft анонсировала новый механизм доставки апдейтов на пользовательские компьютеры.

                                                                                 

                                                                                «618» — крупнейшая летняя распродажа, которую традиционно устраивает AliExpress. В период акции фитнес-браслет Xiaomi Mi Band 8 Pro можно приобрести с большой скидкой. Напомним, что устройство обладает ярким AMOLED-экраном, длительной автономностью и множеством фитнес-программ с контролем за здоровьем.

                                                                                 

                                                                                Компания продолжает свою «борьбу» против локальных учётных записей на компьютерах с Windows 11. Ими всё ещё можно пользоваться, но разработчики старательно подчищают упоминания о такой возможности в официальной документации.

                                                                                 

                                                                                Три месяца назад компания Neuralink впервые в истории вживила чип 29-летнему пациенту по имени Ноланд Арбо. Спустя ровно сто дней стартап Илона Маска сообщил, что часть мозгового импланта вышла из строя. Из-за этого компании пришлось срочно обновлять программное обеспечение.

                                                                                 

                                                                                Издание Escape from Tarkov за 11 тысяч рублей стало поводом для драмы в социальных сетях — и перчинки ситуации добавило слитое интервью с главой Battlestate Games Никитой Буяновым.

                                                                                 

                                                                                Американская компания Sentry Enterprises приступила к выпуску необычных банковских карт серии Radiance, оснащённых встроенными OLED-панелями. Разработчики раскрыли первые подробности о необычном платёжном средстве и рассказали, в чём заключаются его преимущества для банков и их клиентов.