Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

На Reddit развернулось активное обсуждение крайне странной работы нейросети Stable Diffusion 3 Medium после очередного апдейта. Пользователи размещают в сети изображения, созданные ИИ — почти все люди на них показаны с ужасающими «мутациями». Виной всему, как утверждают завсегдатаи интернета, — жёсткая цензура контента для взрослых.

Компания Stability AI, создавшая Stable Diffusion, продолжает придерживаться своего решения по исключению «взрослого» контента из обучающих материалов для нейросети. Это, по предположению пользователей, приводит к невозможности создания анатомически правильных объектов.

Ещё одна проблема заключается в излишней придирчивости автоматического NSFW-цензора, который используется для фильтрации «взрослого» контента. Он, как утверждают комментаторы, слишком тщательно отбирает данные, иной раз исключая и те, что формально считаются приемлемыми.

Отрисовка рук традиционно всегда была проблемой для многих генераторов изображений, однако в последнее время большинству из них удалось преодолеть этот барьер. Но Stable Diffusion 3 Medium в этом отношении сделала огромный шаг назад. Из-за нехватки данных нейросеть предлагает собственную интерпретацию картинки, которая в большинстве случаев выглядит как минимум неестественно, а некоторых может даже напугать.

Некоторые пользователи Stable Diffusion считают одним из факторов «деградации» нейросети неумелое управление компанией. Не так давно стало известно об отставке основателя и генерального директора Эмада Мостака, а также об уходе из компании трёх ключевых инженеров. Сама компания официальных комментариев по поводу случившегося ещё не публиковала.

Источник: arstechnica.com


  • Хм, чето первая картинка напомнила детей шпионов 1.
    • Leviafan83
      rpsg,
      есть такое
      • Dima I
        Новая профессия в 21 веке - психолог ИИ 😅
        • .//Hack
          Тестировал ее с момента доступа к апи и вчера, когда опубликовали веса. Они заявили, что они лучше Далли и Миджорни. Смех. Но в целом SD3 с правильными промптами хотя бы умеет нормальные изображения создавать. SD1.5 без ретрейна и лор, в принципе, была неюзабельна, там только сюр создавать можно было. SDXL тоже недалеко ушла. Так что ждем сообщества, которое натаскает сетку. Тогда она точно будет в топе. Проблема SD3, что ее намеренно не натаскивали на голых телах, чтоб она начала "понимать" анатомию. Поэтому она не особо понимает как должен выглядеть человек. Она даже до конца не отличает мужчин и женщин. Животные у нее тоже крайне странно получаются, очень неестественно. Но она умеет рисовать во многих жанрах, что раньше было недоступно, обычно сетки натаскивались на какой-то определенный жанр. А сетки, которые были везде, делали это плохо. SD сильно не хватает полноценного LLM под капотом, чтоб "понимать" физический мир. Но тогда сетка была бы не меньше 20-30Гб, что осложнило бы ее использование на слабых машинах. Сейчас для хороших LLM по типу Command R+ нужна очень неслабая машина, а для SD даже 3 нужен среднебюджетный ПК.
          • Volnovik
            .//Hack,
            Ну такое. Я даже не могу с уверенностью сказать что она лучше sdxl на старте. Для рук нюдсы не нужны, как и для анатомии. Более того, я случайно сгенерил вполне себе R-rated но без сосков. Так что имхо тут какая-то другая ошибка и надо ждать 3.1
            • .//Hack
              Volnovik,
              Для рук, да. Для анатомии, нужно, хотя бы в нижнем белье. Но такие тоже достаточно жестко отсеивались. R-rated (если это можно так назвать) я в ней тоже генерил. Вот только часто у женщины даже груди не было, ну и ниже все гладко, как у куклы =)) Поэтому она и генерит мужиков с грудью иногда, а женщин - без. Как ни странно, но именно на NSFW сетках я получаю хорошие добротные анатомически модели. То есть гораздо реже встречаются вывернутые наизнанку руки/ноги и т.д. Я, вообще, понял, что почти все сетки заточены на мужиков... То есть они хорошо генерят контент с женщинами в кадре. Но как только нужно генерить контент с мужчинами, все, ступор у сеток, они начинают гнать дичь. И добиться хорошего кадра с мужчиной кратно сложнее, чем с женщиной. Причем неважно, фотореал этот, аниме или любой другой жанр.
              • Aeshmady
                .//Hack,
                Да это прям сексизм какой-то!
      • nightsidechild
        rpsg,
        Пал Паловна?)
        • PsevdoSTALKER
          Хороший генератор идей для режиссёров сериала "Американская история ужасов". Они будут в восторге.
          А так, есть бесплатные нейронки, которые работают без цензуры.
          • Wannamingo
            PsevdoSTALKER,
            Это какие?
            • .//Hack
              Wannamingo,
              Заходи на Civitai, качай любые NSFW. Там их процентов 90, наверно.
              • Wannamingo
                .//Hack,
                Ничего не понятно, но очень интересно)
                • .//Hack
                  Wannamingo,
                  Значит не особо вам это надо, раз не захотели в гугл вбить одно слово.
                • longlivebreak
                  .//Hack,
                  Так это тот же stable diffusion, только это энтузиасты создают свои модели, о каких других нейронках ты говоришь
          • Collapser
            RIP, сами себя закопали.
            • Illiryel
              Может быть я что-то путаю, но Dalle3, Мидка и Леонардо таких косяков с пальцами не допускают... четырёхпалость и шестипалость конечно встречается, но очень-очень редко. А тут что? Склейка? Особенно вторая подборка (пара) артов - лицо словно из одной работы, а всё, что ниже шеи (включая пальцы) - из другой. Не?

              (отредактирован)

              • Volnovik
                Illiryel,
                На huggingface бесплатное демо доступно, можно опробовать
              • Вообще запретите генерировать женщин, а то они могут получиться красивыми.
                • diman48ru
                  Q1W22,
                  И трапов.
                  • ErmilokSs
                    diman48ru,
                    Трапов не трожь
                    • diman48ru
                      ErmilokSs,
                      Но они же красивые
                      • Sr_psycho
                        diman48ru,
                        Зато они несчастные 🥺
                        • Aeshmady
                          Sr_psycho,
                          .//Hack,
                          ну, Элла Холливуд или там Дейзи Тейлор вполне счастливо выглядят. :)
                          Одна знакомая лесбиянка признала, что они вполне ебабельнее девушек смотрятся. :)))

                          (отредактирован)

                          • Sr_psycho
                            Aeshmady,
                            Как в музее Мадам Тюссо 😂. Несчастные же 🤭
                            • Aeshmady
                              Sr_psycho,
                              С чего бы это. Работа есть, деньги есть, секс есть (отбоя от желающих присунуть нет), семейная жизнь? Тоже есть. Месячных нет, голова не болит (главное, чтобы смазка в сумочке лежала), популярность есть. Что ещё нужно для счастья?!
                              А была бы вместо писюна писька – кому интересен такой расклад?! Таких минимум 3.5 миллиарда!
                  • Stingerx
                    Q1W22,
                    Интересно, а есть нейросеть наоборот обученная на бесконечном количестве "взрослого" контента. Тем более что хорошо, ведь большая часть его и так промаркирована, т.е. плюс минус взрослый контент - точно взрослый и туда мало мусора попадет.
                    Вот это была бы хорошая нейросеть :)
                    • Stingerx,
                      Есть. Понятное дело, что они слабее больших сетей, но потиху развиваются.
                      • Filunder7
                        Q1W22,
                        Отдельных базовых моделей нет. Есть дообученные.
                      • dimjef
                        Stingerx,
                        Есть +100500 моделей для той же Stable Diffusion, если видеокарта позволяет можешь и сам обучить. Можно еще и готовые модели сливать друг с другом чтобы получить третью, берёшь фентезиюную модель и соединяешь с ню, и вот у тебя голые бабы на драконах, ну или драконы с гениталиями +– как повезет :D
                        • UserOnPDA
                          dimjef,
                          На r34 сайтах давно уже обучили, так что кастомная база ИИ для stable diffusion может генерировать как в том самом правиле "без исключений" и довольно прилично нарисовать, а не уродливый кринж (но и не исключается на 100%, иногда кринж рисует). Поэтому не понимаю, нахера авторам ИИ парится, все равно их база для создания такого контента ни о чем, в любом случаи из интернета скачают кастомную. В итоге свою базу изуродовали для создания обычного контента.
                          • Filunder7
                            UserOnPDA, в sd3 недоступно дообучение (пока), а когда станет доступно и станет ли вообще - неизвестно
                          • Zeta Reticuli
                            dimjef,
                            Научи, как обучить нейросеть. Или дай ссылку.
                            • dimjef
                              Zeta Reticuli,
                              В ютуб вбей stable diffusion train там куча обучающих роликов.
                            • Aeshmady
                              dimjef,
                              Ты сейчас Бориса Валеджо (Вальехо) изобрёл. :)))

                              (отредактирован)

                            • .//Hack
                              Stingerx,
                              Открываешь Civitai и радуешься, как ребенок контенту. Там процентов 90 NSFW сеток и лор к ним.
                              • Volnovik
                                Stingerx,
                                Есть, pony diffusion v6. Как понятно из названия - делали её не для этого, но получилась одна из лучших аниме моделей.
                            • rrrrex
                              Вас тоже возбуждают пятипалые люди?
                              • Хвойный
                                спс поржал)
                                • Ivanvllapaev
                                  Все норм, это люди будущего
                                  • Теперь "Даная" тоже причислена к " взрослому" контенту?🤔
                                    • ivonin
                                      N.Nik,
                                      ну, как бы она никогда и не была "для детей": ейный хахаль ведь на золотом дожде не остановился и дальше было чистое 18+...
                                      • ivonin,
                                        Лет так полста назад водя детей на экскурсии в музеи(и в Европе тоже) не ограничивал просмотр картин и статуй. Да и у " МАРИАННЫ" грудь оголённая торчит.
                                        • Octabun
                                          N.Nik,
                                          Ну и чем хорошим это закончилось (и для Европы тоже)?
                                          • ivonin
                                            N.Nik,
                                            ...и рассказывали им греческий эпос в пересказе Куна, или таки полный? Можно спорить сколько угодно, но некоторые темы детям лучше подавать дозированно и с определёнными лакунами.
                                            • ivonin,
                                              Причем тут эпос? Речь идет об анатомическом соответствии человеческого тела. Об инцесте Лота и дочерей тоже не особо голосят.
                                        • Shinkai ツ
                                          N.Nik,
                                          Время от времени листочками статуи прикрывают же ) чем Климт хуже
                                          • Shinkai ツ,
                                            Грудь МАРИАННЫ как символ СВОБОДЫ Франции тоже прикрыли?🤔😉
                                            • Shinkai ツ
                                              N.Nik,
                                              До картин пока не добрались 🧐 у нее там под ногами ещё братан без штанов лежит, жесть )
                                        • UserOnPDA
                                          Не понял, это речь про встроенную базу? А кто им пользуется для такого контента? Если порно генерит, то там такой кринж выходит хлеще игры scorn. Будут ночные кошмары. Для порно все равно другую натренированую базу будут использовать.
                                          • Filunder7
                                            UserOnPDA, это базовая модель sd3 и она генерит так всех людей, и без прона в запросе. А дообучить ее нельзя.
                                          • Cronprog
                                            Меня тошнит (
                                            • Neuralink-X
                                              Причина в том что (ИИ) не понимает что генерирует, то есть компилирует. Просто выдает "ответ" на заданные параметры компиляции, совершенно не "оценивая" результат своей компиляции. Для аббревиатуры ИИ есть более подходящая расшифровка - ИдиотскийИнтеллект.
                                              • UserOnPDA
                                                Neuralink-X,
                                                Искусственный Идиот
                                                • Filunder7
                                                  Neuralink-X, не совсем так. Точнее совсем не так. Она именно что оценивает. Каждый шаг генерации она оценивает детали и выбирает те что считает лучшими в Данном случае и усиливает из в следующем шаге. И вот чтобы этот «оцениватель» правильно работал это самое сложное.
                                                • nightbringer2010
                                                  Сколько онанистов сейчас начнут негодовать))
                                                  • qocaier
                                                    Сделали бы тогда отдельно версию для детей и версию 18+
                                                    • UserOnPDA
                                                      Боролись с порнографией, а ИИ стал делать просто иной сорт порнографии. В итоге люди получают порнографию автоматически без запроса на это.
                                                      • Thanksgiving Day
                                                        Фу мерзость на картинках
                                                        • Artemius-93-01
                                                          Не, ну это уже явный маразм не нейросети, а самих её разработчиков. Ради цензуры, гробить алгоритмы как-то глупо.
                                                          • Craft crack
                                                            Вспоминается фильм "Вспомнить все" со Шварценеггером.
                                                            • Zeta Reticuli
                                                              Пусть на прон сайтах тренеруют, всё будет анатомически правильно :) .
                                                              • panzer1001
                                                                🤣🤣🤣 за ии будущее ... Держите меня семеро
                                                                • NendoGalaxy
                                                                  Теперь стаббле дефузия норм генератор проклятых изображений
                                                                  • Filunder7
                                                                    Странно что у Эдоби фаерфлай нет таких проблем, хотя там модель тренировалась исключительно на фото с Эдоби стока, на котором прона нет изначально. Да и Миджорни цензура как-то не мешает.
                                                                    • ask1980
                                                                      Они лишь оттягивают неизбежное
                                                                      • GIK007
                                                                        Жуть!
                                                                        • e11issium
                                                                          Как
                                                                          • Alexusbn
                                                                            И так сойдёт😂
                                                                            • Если не уметь управлять самолетом, то он тоже не очень-то летает. Элементарно еще не разобрали негативные промты и правила промтов вообще. Ванильный sdxl тоже на старте выдавал корявые результаты, а сейчас можно невероятные результаты получить. Тот же пони дифьюжн конечности генерит практически идеально.
                                                                              • Blackwaltz
                                                                                Борются с порно, а в итоге сделали какое-то извращение, которое ещё хуже!

                                                                                В России стартовали продажи новых телевизоров TCL серии C855, доступных с диагональю 65, 75 и 85 дюймов. Новинки подходят как для любителей смотреть фильмы и сериалы, так и для геймеров.

                                                                                 

                                                                                Пока FromSoftware дразнит геймеров трейлерами дополнения для Elden Ring, истинные фанаты и стримеры вовсю тренируются, чтобы быть готовыми к новым испытаниям. Одна стримерша, например, как раз завершила ультимативный челлендж.

                                                                                 
                                                                                <div></div><div></div><div></div><a href='/2024/07/13/7307307/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div>

                                                                                ФГУП «ГРЧЦ» (дочерняя структура Роскомнадзора) опубликовало утилиту для измерения скорости интернета под названием «ПроСеть». Пресс-служба регулятора рассказала СМИ первые подробности о новом мобильном приложении и уточнила, чем оно отличается от популярного иностранного аналога.

                                                                                 

                                                                                Разработчики альтернативного файлового менеджера Files выпустили новую версию приложения с рядом полезных функций и доработок. Они поделились списком изменений и опубликовали ссылки на бесплатное скачивание оригинальной замены стандартного «Проводника».

                                                                                 

                                                                                Xiaomi выпускала специальные версии HyperOS для разработчиков для тестирования новых функций перед добавлением их в стабильную ветку обновлений. Но теперь этот подход поменяется, что будет полезно как для бета-тестеров, так и для самой компании.

                                                                                 

                                                                                В сети появился сайт с отображением местоположения всех спутников компании SpaceX в режиме реального времени. Starlink — самая продвинутая в мире технология спутникового интернета, способная передавать терабайты данных в любую точку Земли. Сеть спутников стала возможной благодаря появлению многоразовых ракет-носителей.

                                                                                 

                                                                                На сайте «Почты России» был опубликован анонс нового способа получения посылок без бумажной квитанции и получения кода подтверждения на телефон. Нововведение делает отделение почты похожей на ПВЗ маркетплейса и позволяет сэкономить время как самому получателю, так и сотрудникам.

                                                                                 

                                                                                Компания 8BitDo, специализирующаяся на компьютерной периферии, представила механическую клавиатуру M-Edition, дизайн которой напоминает знаменитую ретро-модель IBM. Ещё одной новинкой бренда стал фирменный независимый цифровой блок с режимом калькулятора.

                                                                                 

                                                                                Уже скоро OnePlus представит смартфон Ace 3 Pro, одной из ключевых особенностей которого станет аккумулятор нового поколения Glacier Battery. Последний разработан совместно с CATL, одним из лидеров в области энергоносителей. Компания обещает, что эти аккумуляторы будут отличаться повышенным сроком службы.

                                                                                 

                                                                                Рынок носимых аксессуаров всё чаще пополняется новыми форм-факторами. Один из примеров — умные кольца. Они способны предложить сопоставимую со смарт-часами функциональность, но в более компактном корпусе. Самый лёгкий на сегодня гаджет такого типа — Ring Air от индийского стартапа Ultrahuman. Рассказываем о возможностях устройства, ссылаясь на обзоры зарубежных изданий.

                                                                                 
                                                                                Долгожитель премиум-класса: тест автономности Honor Magic6 Pro
                                                                                26
                                                                                15.04.24News

                                                                                Флагманский смартфон Honor получил высокие оценки зарубежных блогеров и техноизданий не только за камеру и экран, но и за автономность. Мы решили проверить самостоятельно, как Magic6 Pro держит батарею в разных сценариях.

                                                                                 

                                                                                Представители Сбербанка рассказали об обновлённой схеме, которой пользуются злоумышленники для оформления займов в микрофинансовых организациях. Теперь в ход идут мессенджеры и портал «Госуслуги».

                                                                                 
                                                                                Обновился рейтинг лучших смартфонов за свои деньги по версии AnTuTu Популярное

                                                                                Разработчики бенчмарка AnTuTu опубликовали июньский рейтинг Android-смартфонов с лучшим соотношением цены и производительности. Для большей объективности все вошедшие в него смартфоны были разделены на отдельные ценовые категории.

                                                                                 
                                                                                Представлены Samsung Galaxy Watch Ultra: ИИ, сверхъяркий экран и новейший датчик BioActive Sensor Популярное

                                                                                В дополнение к складным смартфонам Samsung представила новое поколение умных часов: Galaxy Watch7 и Galaxy Watch Ultra. По заверениям компании, они открывают новые возможности для мониторинга показателей здоровья и достижения спортивных результатов, используя для этого функции искусственного интеллекта Galaxy AI.

                                                                                 

                                                                                Комитет Госдумы в первом чтении одобрил законопроект о штрафах за нарушение ПДД для тех, кто для передвижения по городу использует самокаты, а также электроскейтборды, гироскутеры, сигвеи, моноколёса и другие средства индивидуальной мобильности (СИМ).

                                                                                 
                                                                                Xiaomi представила очень экономичный и мощный кондиционер с самоочисткой Популярное

                                                                                Компания Xiaomi представила сплит-систему Mijia Air Conditioner Super Energy Saving 3-HP Wall-Mounted Unit. В список главных особенностей новинки вошли высокая энергоэффективность, быстрый выход на заданные температурные показатели и функция самоочистки как внутреннего, так и наружного блока.

                                                                                 

                                                                                В своё время Samsung выпустила веб-приложение Try Galaxy, которое имитирует прошивку One UI на iPhone, позволяя ознакомиться с её преимуществами. Теперь оно стало доступно и на платформе Android — компания рассказала, где его найти и как запустить.

                                                                                 

                                                                                Езда на велосипеде может стать более комфортной благодаря Air Seat. Конструкция крепится между верхней частью подседельного штыря и нижней частью сиденья, используя свойства пружины из нержавеющей стали для поглощения ударов по вертикальной оси.

                                                                                 

                                                                                Сериал по мотивам Fallout можно назвать безоговорочно успешным — он не просто «пришёл и ушёл», о нём говорят, его тщательно исследуют в поисках намёков на оригинальные игры и различных «пасхалок» от съёмочной группы. На днях, к примеру, фанаты заметили на вид рабочий номер телефона и решили его проверить.

                                                                                 

                                                                                Excel — могущественная программа, которая может всё: подсчитывать расходы, оформлять таблицы, мотать людям нервы. Однако далеко не каждый знает, что она подходит и для создания видеоигр. Фанатеющий от Fallout энтузиаст решил всем об этом напомнить.

                                                                                 

                                                                                Разработчики бенчмарка AnTuTu обновили рейтинг Android-смартфонов, собравших наибольшее количество положительных отзывов покупателей. В отличие от такого же списка с устройствами Apple, в нём почти нет старых устройств.

                                                                                 

                                                                                В предварительных сборках Edge недавно появилась функция быстрой загрузки файлов с мобильных устройств прямо в окно десктопного браузера. Но, судя по отзывам тестировщиков, к моменту релиза у неё может появиться досадное ограничение, призванное подтолкнуть пользователей к переходу на детище Microsoft.

                                                                                 

                                                                                Несколько дней назад Гейб Ньюэлл, основатель Valve и де-факто крёстный отец PC-гейминга, вложился в стартап Starfish — компании, занимающейся разработкой нейроинтерфейсов. Новость сама по себе всколыхнула сообщество, однако многих удивил не сам анонс, а фотография Ньюэлла. 

                                                                                 
                                                                                Крошечный привод превращает обычный велосипед в электрический Популярное

                                                                                Крупный автомобильный концерн ZF представила необычное решение для любителей двухколёсного транспорта — съёмный электродвигатель ZF Bike Eco System, способный превратить обычный велосипед в электрический. При размерах всего 12 х 9 см такая система чуть больше банки от газировки.

                                                                                 

                                                                                «618» — крупнейшая летняя распродажа, которую традиционно устраивает AliExpress. В период акции фитнес-браслет Xiaomi Mi Band 8 Pro можно приобрести с большой скидкой. Напомним, что устройство обладает ярким AMOLED-экраном, длительной автономностью и множеством фитнес-программ с контролем за здоровьем.

                                                                                 

                                                                                Российский производитель аудиотехники Radiotehnika презентовал новую акустическую систему класса Hi-Fi S-20NA. Компания решила отдать дань уважения популярным в 1980-х моделям «Радиотехники» S-серии, сохранив схожий дизайн. В частности, новинка получила стилизованное изображение амплитудно-частотной характеристики.

                                                                                 

                                                                                Инсайдер Сонни Диксон опубликовал в соцсети X серию фотографий муляжей ещё не представленных раскладушек Galaxy Z Fold6 и Flip6 со всех сторон. Если верить источнику, грядущие новинки будут почти неотличимы от моделей актуальных серий — и возможно, даже сохранят одну из их особенностей дисплея.

                                                                                 

                                                                                По случаю 20-летия кнопочной раскладушки Samsung E700 компания выпустила специальную версию складного смартфона Z Flip5 с приставкой Retro. Аппарат выполнен в классической расцветке своего «прародителя», и получил несколько программных отличий от стандартной модели.

                                                                                 

                                                                                Команда разработчиков Microsoft рассказала о важном изменении, которое избавляет популярнейший офисный редактор от раздражающей функции. Речь идёт об одном из параметров вставки по умолчанию в Word для Windows.

                                                                                 

                                                                                Практически сразу же после «похорон» ICQ разработчики проекта NINA объявили о запуске регистрации учётных записей мессенджера на собственном неофициальном сервере. С его помощью любой желающий может «реанимировать» свой аккаунт — правда, с некоторыми оговорками.

                                                                                 

                                                                                Через пять лет после релиза Light Phone 2 разработчики гаджета выпустили третью модель серии. Она сменила экран E-Ink на OLED-панель, но во многом стала лучше и сохранила основную направленность — помогать пользователю с повседневными задачами, не давая отвлекаться на бесконечные ленты соцсетей.

                                                                                 

                                                                                Замечали ли вы, как кошка может подолгу сидеть на клавиатуре ноутбука? Многие думают, что это связано с выделяемым теплом. Но занимающиеся изучением психологии животных исследователи нашли другую причину, побуждающую четвероногих к этим действиям.