Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

На Reddit развернулось активное обсуждение крайне странной работы нейросети Stable Diffusion 3 Medium после очередного апдейта. Пользователи размещают в сети изображения, созданные ИИ — почти все люди на них показаны с ужасающими «мутациями». Виной всему, как утверждают завсегдатаи интернета, — жёсткая цензура контента для взрослых.

Компания Stability AI, создавшая Stable Diffusion, продолжает придерживаться своего решения по исключению «взрослого» контента из обучающих материалов для нейросети. Это, по предположению пользователей, приводит к невозможности создания анатомически правильных объектов.

Ещё одна проблема заключается в излишней придирчивости автоматического NSFW-цензора, который используется для фильтрации «взрослого» контента. Он, как утверждают комментаторы, слишком тщательно отбирает данные, иной раз исключая и те, что формально считаются приемлемыми.

Отрисовка рук традиционно всегда была проблемой для многих генераторов изображений, однако в последнее время большинству из них удалось преодолеть этот барьер. Но Stable Diffusion 3 Medium в этом отношении сделала огромный шаг назад. Из-за нехватки данных нейросеть предлагает собственную интерпретацию картинки, которая в большинстве случаев выглядит как минимум неестественно, а некоторых может даже напугать.

Некоторые пользователи Stable Diffusion считают одним из факторов «деградации» нейросети неумелое управление компанией. Не так давно стало известно об отставке основателя и генерального директора Эмада Мостака, а также об уходе из компании трёх ключевых инженеров. Сама компания официальных комментариев по поводу случившегося ещё не публиковала.

Источник: arstechnica.com


  • Хм, чето первая картинка напомнила детей шпионов 1.
    • Leviafan83
      rpsg,
      есть такое
      • Dima I
        Новая профессия в 21 веке - психолог ИИ 😅
        • .//Hack
          Тестировал ее с момента доступа к апи и вчера, когда опубликовали веса. Они заявили, что они лучше Далли и Миджорни. Смех. Но в целом SD3 с правильными промптами хотя бы умеет нормальные изображения создавать. SD1.5 без ретрейна и лор, в принципе, была неюзабельна, там только сюр создавать можно было. SDXL тоже недалеко ушла. Так что ждем сообщества, которое натаскает сетку. Тогда она точно будет в топе. Проблема SD3, что ее намеренно не натаскивали на голых телах, чтоб она начала "понимать" анатомию. Поэтому она не особо понимает как должен выглядеть человек. Она даже до конца не отличает мужчин и женщин. Животные у нее тоже крайне странно получаются, очень неестественно. Но она умеет рисовать во многих жанрах, что раньше было недоступно, обычно сетки натаскивались на какой-то определенный жанр. А сетки, которые были везде, делали это плохо. SD сильно не хватает полноценного LLM под капотом, чтоб "понимать" физический мир. Но тогда сетка была бы не меньше 20-30Гб, что осложнило бы ее использование на слабых машинах. Сейчас для хороших LLM по типу Command R+ нужна очень неслабая машина, а для SD даже 3 нужен среднебюджетный ПК.
          • Volnovik
            .//Hack,
            Ну такое. Я даже не могу с уверенностью сказать что она лучше sdxl на старте. Для рук нюдсы не нужны, как и для анатомии. Более того, я случайно сгенерил вполне себе R-rated но без сосков. Так что имхо тут какая-то другая ошибка и надо ждать 3.1
            • .//Hack
              Volnovik,
              Для рук, да. Для анатомии, нужно, хотя бы в нижнем белье. Но такие тоже достаточно жестко отсеивались. R-rated (если это можно так назвать) я в ней тоже генерил. Вот только часто у женщины даже груди не было, ну и ниже все гладко, как у куклы =)) Поэтому она и генерит мужиков с грудью иногда, а женщин - без. Как ни странно, но именно на NSFW сетках я получаю хорошие добротные анатомически модели. То есть гораздо реже встречаются вывернутые наизнанку руки/ноги и т.д. Я, вообще, понял, что почти все сетки заточены на мужиков... То есть они хорошо генерят контент с женщинами в кадре. Но как только нужно генерить контент с мужчинами, все, ступор у сеток, они начинают гнать дичь. И добиться хорошего кадра с мужчиной кратно сложнее, чем с женщиной. Причем неважно, фотореал этот, аниме или любой другой жанр.
              • Aeshmady
                .//Hack,
                Да это прям сексизм какой-то!
      • nightsidechild
        rpsg,
        Пал Паловна?)
        • PsevdoSTALKER
          Хороший генератор идей для режиссёров сериала "Американская история ужасов". Они будут в восторге.
          А так, есть бесплатные нейронки, которые работают без цензуры.
          • Wannamingo
            PsevdoSTALKER,
            Это какие?
            • .//Hack
              Wannamingo,
              Заходи на Civitai, качай любые NSFW. Там их процентов 90, наверно.
              • Wannamingo
                .//Hack,
                Ничего не понятно, но очень интересно)
                • .//Hack
                  Wannamingo,
                  Значит не особо вам это надо, раз не захотели в гугл вбить одно слово.
                • longlivebreak
                  .//Hack,
                  Так это тот же stable diffusion, только это энтузиасты создают свои модели, о каких других нейронках ты говоришь
          • Collapser
            RIP, сами себя закопали.
            • Illiryel
              Может быть я что-то путаю, но Dalle3, Мидка и Леонардо таких косяков с пальцами не допускают... четырёхпалость и шестипалость конечно встречается, но очень-очень редко. А тут что? Склейка? Особенно вторая подборка (пара) артов - лицо словно из одной работы, а всё, что ниже шеи (включая пальцы) - из другой. Не?

              (отредактирован)

              • Volnovik
                Illiryel,
                На huggingface бесплатное демо доступно, можно опробовать
              • Вообще запретите генерировать женщин, а то они могут получиться красивыми.
                • diman48ru
                  Q1W22,
                  И трапов.
                  • ErmilokSs
                    diman48ru,
                    Трапов не трожь
                    • diman48ru
                      ErmilokSs,
                      Но они же красивые
                      • Sr_psycho
                        diman48ru,
                        Зато они несчастные 🥺
                        • Aeshmady
                          Sr_psycho,
                          .//Hack,
                          ну, Элла Холливуд или там Дейзи Тейлор вполне счастливо выглядят. :)
                          Одна знакомая лесбиянка признала, что они вполне ебабельнее девушек смотрятся. :)))

                          (отредактирован)

                          • Sr_psycho
                            Aeshmady,
                            Как в музее Мадам Тюссо 😂. Несчастные же 🤭
                            • Aeshmady
                              Sr_psycho,
                              С чего бы это. Работа есть, деньги есть, секс есть (отбоя от желающих присунуть нет), семейная жизнь? Тоже есть. Месячных нет, голова не болит (главное, чтобы смазка в сумочке лежала), популярность есть. Что ещё нужно для счастья?!
                              А была бы вместо писюна писька – кому интересен такой расклад?! Таких минимум 3.5 миллиарда!
                  • Stingerx
                    Q1W22,
                    Интересно, а есть нейросеть наоборот обученная на бесконечном количестве "взрослого" контента. Тем более что хорошо, ведь большая часть его и так промаркирована, т.е. плюс минус взрослый контент - точно взрослый и туда мало мусора попадет.
                    Вот это была бы хорошая нейросеть :)
                    • Stingerx,
                      Есть. Понятное дело, что они слабее больших сетей, но потиху развиваются.
                      • Filunder7
                        Q1W22,
                        Отдельных базовых моделей нет. Есть дообученные.
                      • dimjef
                        Stingerx,
                        Есть +100500 моделей для той же Stable Diffusion, если видеокарта позволяет можешь и сам обучить. Можно еще и готовые модели сливать друг с другом чтобы получить третью, берёшь фентезиюную модель и соединяешь с ню, и вот у тебя голые бабы на драконах, ну или драконы с гениталиями +– как повезет :D
                        • UserOnPDA
                          dimjef,
                          На r34 сайтах давно уже обучили, так что кастомная база ИИ для stable diffusion может генерировать как в том самом правиле "без исключений" и довольно прилично нарисовать, а не уродливый кринж (но и не исключается на 100%, иногда кринж рисует). Поэтому не понимаю, нахера авторам ИИ парится, все равно их база для создания такого контента ни о чем, в любом случаи из интернета скачают кастомную. В итоге свою базу изуродовали для создания обычного контента.
                          • Filunder7
                            UserOnPDA, в sd3 недоступно дообучение (пока), а когда станет доступно и станет ли вообще - неизвестно
                          • Zeta Reticuli
                            dimjef,
                            Научи, как обучить нейросеть. Или дай ссылку.
                            • dimjef
                              Zeta Reticuli,
                              В ютуб вбей stable diffusion train там куча обучающих роликов.
                            • Aeshmady
                              dimjef,
                              Ты сейчас Бориса Валеджо (Вальехо) изобрёл. :)))

                              (отредактирован)

                            • .//Hack
                              Stingerx,
                              Открываешь Civitai и радуешься, как ребенок контенту. Там процентов 90 NSFW сеток и лор к ним.
                              • Volnovik
                                Stingerx,
                                Есть, pony diffusion v6. Как понятно из названия - делали её не для этого, но получилась одна из лучших аниме моделей.
                            • rrrrex
                              Вас тоже возбуждают пятипалые люди?
                              • Хвойный
                                спс поржал)
                                • Ivanvllapaev
                                  Все норм, это люди будущего
                                  • Теперь "Даная" тоже причислена к " взрослому" контенту?🤔
                                    • ivonin
                                      N.Nik,
                                      ну, как бы она никогда и не была "для детей": ейный хахаль ведь на золотом дожде не остановился и дальше было чистое 18+...
                                      • ivonin,
                                        Лет так полста назад водя детей на экскурсии в музеи(и в Европе тоже) не ограничивал просмотр картин и статуй. Да и у " МАРИАННЫ" грудь оголённая торчит.
                                        • Octabun
                                          N.Nik,
                                          Ну и чем хорошим это закончилось (и для Европы тоже)?
                                          • ivonin
                                            N.Nik,
                                            ...и рассказывали им греческий эпос в пересказе Куна, или таки полный? Можно спорить сколько угодно, но некоторые темы детям лучше подавать дозированно и с определёнными лакунами.
                                            • ivonin,
                                              Причем тут эпос? Речь идет об анатомическом соответствии человеческого тела. Об инцесте Лота и дочерей тоже не особо голосят.
                                        • Shinkai ツ
                                          N.Nik,
                                          Время от времени листочками статуи прикрывают же ) чем Климт хуже
                                          • Shinkai ツ,
                                            Грудь МАРИАННЫ как символ СВОБОДЫ Франции тоже прикрыли?🤔😉
                                            • Shinkai ツ
                                              N.Nik,
                                              До картин пока не добрались 🧐 у нее там под ногами ещё братан без штанов лежит, жесть )
                                        • UserOnPDA
                                          Не понял, это речь про встроенную базу? А кто им пользуется для такого контента? Если порно генерит, то там такой кринж выходит хлеще игры scorn. Будут ночные кошмары. Для порно все равно другую натренированую базу будут использовать.
                                          • Filunder7
                                            UserOnPDA, это базовая модель sd3 и она генерит так всех людей, и без прона в запросе. А дообучить ее нельзя.
                                          • Cronprog
                                            Меня тошнит (
                                            • Neuralink-X
                                              Причина в том что (ИИ) не понимает что генерирует, то есть компилирует. Просто выдает "ответ" на заданные параметры компиляции, совершенно не "оценивая" результат своей компиляции. Для аббревиатуры ИИ есть более подходящая расшифровка - ИдиотскийИнтеллект.
                                              • UserOnPDA
                                                Neuralink-X,
                                                Искусственный Идиот
                                                • Filunder7
                                                  Neuralink-X, не совсем так. Точнее совсем не так. Она именно что оценивает. Каждый шаг генерации она оценивает детали и выбирает те что считает лучшими в Данном случае и усиливает из в следующем шаге. И вот чтобы этот «оцениватель» правильно работал это самое сложное.
                                                • nightbringer2010
                                                  Сколько онанистов сейчас начнут негодовать))
                                                  • qocaier
                                                    Сделали бы тогда отдельно версию для детей и версию 18+
                                                    • UserOnPDA
                                                      Боролись с порнографией, а ИИ стал делать просто иной сорт порнографии. В итоге люди получают порнографию автоматически без запроса на это.
                                                      • Thanksgiving Day
                                                        Фу мерзость на картинках
                                                        • Artemius-93-01
                                                          Не, ну это уже явный маразм не нейросети, а самих её разработчиков. Ради цензуры, гробить алгоритмы как-то глупо.
                                                          • Craft crack
                                                            Вспоминается фильм "Вспомнить все" со Шварценеггером.
                                                            • Zeta Reticuli
                                                              Пусть на прон сайтах тренеруют, всё будет анатомически правильно :) .
                                                              • panzer1001
                                                                🤣🤣🤣 за ии будущее ... Держите меня семеро
                                                                • NendoGalaxy
                                                                  Теперь стаббле дефузия норм генератор проклятых изображений
                                                                  • Filunder7
                                                                    Странно что у Эдоби фаерфлай нет таких проблем, хотя там модель тренировалась исключительно на фото с Эдоби стока, на котором прона нет изначально. Да и Миджорни цензура как-то не мешает.
                                                                    • ask1980
                                                                      Они лишь оттягивают неизбежное
                                                                      • GIK007
                                                                        Жуть!
                                                                        • e11issium
                                                                          Как
                                                                          • Alexusbn
                                                                            И так сойдёт😂
                                                                            • Если не уметь управлять самолетом, то он тоже не очень-то летает. Элементарно еще не разобрали негативные промты и правила промтов вообще. Ванильный sdxl тоже на старте выдавал корявые результаты, а сейчас можно невероятные результаты получить. Тот же пони дифьюжн конечности генерит практически идеально.
                                                                              • Blackwaltz
                                                                                Борются с порно, а в итоге сделали какое-то извращение, которое ещё хуже!

                                                                                По информации издания Forbes, российские сотовые операторы продолжают отключать сети третьего поколения (3G). Связано это с низким спросом на данную технологию, поскольку большинство активных смартфонов в стране уже поддерживают 4G. В перспективе это позволит заметно повысить скорость мобильного интернета.

                                                                                 
                                                                                <div></div><div></div><a href='/2024/07/20/1963973/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div><div></div><div></div>

                                                                                Бренд POCO обновил популярную F-серию, представив смартфоны F6 и F6 Pro. Со старшей моделью линейки уже ознакомились зарубежные СМИ. Гаджет получил предфлагманский чипсет, яркий дисплей и неплохие камеры, но есть нюансы. Резюмируем мнения журналистов.

                                                                                 

                                                                                Сериал по мотивам Fallout можно назвать безоговорочно успешным — он не просто «пришёл и ушёл», о нём говорят, его тщательно исследуют в поисках намёков на оригинальные игры и различных «пасхалок» от съёмочной группы. На днях, к примеру, фанаты заметили на вид рабочий номер телефона и решили его проверить.

                                                                                 

                                                                                Intel приоткрыла завесу тайны над ходом расследования проблем с процессорами Intel 13-го и 14-го поколения, покупатели которых столкнулись с вылетами ОС и другими неполадками. Компания рассказала, когда окончательно исправит причину возникновения различных багов, и поделилась рекомендуемыми настройками UEFI для минимизации «ущерба».

                                                                                 

                                                                                Каталог сервисов Mail.ru пополнила фирменная нейросетевая технология. Она используется для реставрации старых чёрно-белых снимков или восстановления недостающих элементов в кадре. Опробовать её в действии, может любой желающий — притом бесплатно.

                                                                                 

                                                                                Несколько дней назад Гейб Ньюэлл, основатель Valve и де-факто крёстный отец PC-гейминга, вложился в стартап Starfish — компании, занимающейся разработкой нейроинтерфейсов. Новость сама по себе всколыхнула сообщество, однако многих удивил не сам анонс, а фотография Ньюэлла. 

                                                                                 

                                                                                В конце марта Google удалила приложение Mir Pay из каталога Google Play. Причина — американские санкции в отношении АО «Национальная система платёжных карт» (НСПК), которая обслуживает карты «Мир». В Mir Pay нет автоматического обновления, так что устанавливать апдейты придётся самостоятельно.

                                                                                 

                                                                                Абитуриент из Турции попался на жульничестве в рамках вступительных экзаменов в колледже. Юноша решил проявить оригинальность, использовав самодельное ИИ-приспособление для диктовки подсказок. Но план несостоявшегося студента провалился.

                                                                                 

                                                                                Microsoft решила ещё сильнее усложнить жизнь пользователей ПК с неактивированной Windows, добавив на этот раз ряд изменений в фирменный браузер. Сообщается, что в последней версии Edge Canary было обнаружено нововведение, ограничивающее работу некоторых функций.

                                                                                 

                                                                                Миф о человеческом глазе, который не различает больше 30 кадров в секунду, когда-то воспринимался всерьёз, но сейчас закрепился в массовом сознании как шутка. А вот и не совсем: учёные доказали, что некоторые люди действительно не способны воспринимать высокую частоту кадров.

                                                                                 
                                                                                Прошли пробные показы Borderlands в кино. Зрители в шоке от увиденного Популярное

                                                                                Экранизация Borderlands, кажется, провалилась ещё до релиза: в сети всплывают одни лишь негативные новости. Теперь инсайдер сообщает, что первые зрители посмотрели кино и сами убедились, что это катастрофа.

                                                                                 

                                                                                О времена, о нравы! Издание «Ведомости» сообщает, что на маркетплейсах наблюдается взрывной рост спроса на перкуссионные массажёры. Предполагается, что их используют для фарма монет в Hamster Kombat.

                                                                                 

                                                                                Мы уже познакомились с Honor Magic6 Pro — лидером ресурса DxOMark сразу в нескольких дисциплинах. Флагман действительно получился впечатляющим. Пришло время для подробного рассказа о возможностях этого устройства.

                                                                                 

                                                                                Создание отечественной консоли входит в план развития российской игровой индустрии. На днях инициатива получила движение благодаря поручению президента. А теперь эксперты говорят о сроках реализации проекта — и ждать придётся немало.

                                                                                 

                                                                                Некоторые пользователи Windows 11 пожаловались на странную работу одной из системных служб, которая отбирает у процессора до 10% мощности без видимых причин. Официального решения у проблемы пока нет — но энтузиасты уже вычислили «виновника» и нашли способ исправления досадного бага.

                                                                                 
                                                                                Неловко вышло. Автора биографии Ясуке из Assassin&#039;s Creed: Shadows поймали на подтасовке фактов Популярное

                                                                                Томас Локли, известный в сети по составлению биографии Ясукэ, удалил свою страницу в Facebook. Теперь в Японии проводят проверку фактов об историке. Ранее Локли часто цитировали информационные и печатные издания в качестве доказательств тому, что Ясукэ был чернокожим самураем, послужившим прототипом для героя Assassin’s Creed Shadows.

                                                                                 

                                                                                Замечали ли вы, как кошка может подолгу сидеть на клавиатуре ноутбука? Многие думают, что это связано с выделяемым теплом. Но занимающиеся изучением психологии животных исследователи нашли другую причину, побуждающую четвероногих к этим действиям.

                                                                                 
                                                                                Долгожитель премиум-класса: тест автономности Honor Magic6 Pro
                                                                                26
                                                                                15.04.24News

                                                                                Флагманский смартфон Honor получил высокие оценки зарубежных блогеров и техноизданий не только за камеру и экран, но и за автономность. Мы решили проверить самостоятельно, как Magic6 Pro держит батарею в разных сценариях.

                                                                                 
                                                                                Honor потроллила Samsung из-за нового складного смартфона Популярное

                                                                                Среди производителей Android-смартфонов есть традиция подшучивать не только над Apple, но и друг над другом. Так, компания Honor не обошла стороной минувшую презентацию Samsung, а именно заявления южнокорейского бренда относительно уменьшения толщины Galaxy Z Fold6.

                                                                                 

                                                                                Apple вместе с релизом новых планшетов серии Air и Pro представила приложение с возможностью ручного контроля видеосъёмки на iPhone и iPad. Профессиональный режим оказался второстепенной функцией программы, а основной стала работа в паре с видеоредактором Final Cut Pro.

                                                                                 

                                                                                На прошлой неделе появилась информация об ухудшении работы YouTube на территории РФ, якобы связанном с техническими проблемами на стороне Google. Некоторые уже бьют панику, готовясь к полной блокировке видеосервиса, ведь слухи об этом ходят уже не один год. В то же время в России уже есть несколько аналогов популярного видеохостинга, а недавно представили почти полный клон под названием «Платформа». Кто-то уже перешёл на эти сервисы, тогда как другие не воспринимают их всерьёз. Проголосуйте и расскажите в комментариях, готовы ли вы отказаться от YouTube?

                                                                                 
                                                                                Премиальный дизайн и AI-фишки. Первые отзывы о Samsung Galaxy Watch Ultra Популярное

                                                                                Вместе с раскладными моделями на презентации Samsung дебютировали топовые смарт-часы Watch Ultra. Аксессуар получил интересное оформление, мощный процессор и полезные функции. Пересказываем впечатления СМИ о новинке.

                                                                                 

                                                                                «618» — крупнейшая летняя распродажа, которую традиционно устраивает AliExpress. В период акции фитнес-браслет Xiaomi Mi Band 8 Pro можно приобрести с большой скидкой. Напомним, что устройство обладает ярким AMOLED-экраном, длительной автономностью и множеством фитнес-программ с контролем за здоровьем.

                                                                                 

                                                                                Авторы мобильного бенчмарка AnTuTu подвели итоги марта, определив топ-10 смартфонов под управлением операционной системы Android с наибольшим уровнем удовлетворённости пользователей. К удивлению, в рейтинг попала относительно новая модель. 

                                                                                 
                                                                                Стала известна стоимость новинок Samsung в России Популярное

                                                                                Сегодня Samsung в рамках презентации Galaxy Unpacked в Париже представила целую россыпь новых устройств: складные смартфоны Galaxy Z Fold6 и Galaxy Z Flip6, умные часы Galaxy Watch7 и Watch Ultra и беспроводные наушники Galaxy Buds3 и Galaxy Buds3 Pro. Все эти новинки уже доступны для предзаказа в России, и скоро их можно будет приобрести в рознице.

                                                                                 

                                                                                Учёные из Университета Дрекселя в Пенсильвании разработали саморазогревающийся бетон, способный избавить дороги от снега и гололёда. Разработка поможет не только увеличить срок службы дорожных покрытий, но и снизить количество аварий.

                                                                                 

                                                                                Кикшеринговая компания Whoosh интегрировала в свои электросамокаты фирменную технологию «Антитандем», призванную выявлять одновременное использование транспортного средства несколькими людьми. После теста в Санкт-Петербурге нововведение заработало во всех городах России, Беларуси и Казахстане, где представлен сервис.

                                                                                 

                                                                                Тысячи и даже миллионы Windows-компьютеров по всему миру вывели «синий экран смерти». С проблемами столкнулись авиакомпании, банки, биржи, магазины, рестораны, телевидение и многие другие компании, а также обычные пользователи. Уже известно, что причиной стало обновление от поставщика услуг кибербезопасности CrowdStrike.

                                                                                 

                                                                                Разработчики бенчмарка AnTuTu обновили рейтинг топ самых мощных Android-смартфонов по итогам прошедшего месяца. В этот раз в лидеры вырвались гаджеты с процессорами Dimensity, сдвинув флагман с чипом Qualcomm Snapdragon 8 Gen 3 на третью строчку списка.

                                                                                 

                                                                                Японский производитель электрокомпонентов TDK сообщил о разработке материала для твердотельных аккумуляторов, способного обеспечить более высокую автономность гаджетов. Вдобавок новый вид батарей позволит быстрее заряжать технику.