Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

Нейросеть Stable Diffusion «сломалась». Пользователи винят в этом цензуру

На Reddit развернулось активное обсуждение крайне странной работы нейросети Stable Diffusion 3 Medium после очередного апдейта. Пользователи размещают в сети изображения, созданные ИИ — почти все люди на них показаны с ужасающими «мутациями». Виной всему, как утверждают завсегдатаи интернета, — жёсткая цензура контента для взрослых.

Компания Stability AI, создавшая Stable Diffusion, продолжает придерживаться своего решения по исключению «взрослого» контента из обучающих материалов для нейросети. Это, по предположению пользователей, приводит к невозможности создания анатомически правильных объектов.

Ещё одна проблема заключается в излишней придирчивости автоматического NSFW-цензора, который используется для фильтрации «взрослого» контента. Он, как утверждают комментаторы, слишком тщательно отбирает данные, иной раз исключая и те, что формально считаются приемлемыми.

Отрисовка рук традиционно всегда была проблемой для многих генераторов изображений, однако в последнее время большинству из них удалось преодолеть этот барьер. Но Stable Diffusion 3 Medium в этом отношении сделала огромный шаг назад. Из-за нехватки данных нейросеть предлагает собственную интерпретацию картинки, которая в большинстве случаев выглядит как минимум неестественно, а некоторых может даже напугать.

Некоторые пользователи Stable Diffusion считают одним из факторов «деградации» нейросети неумелое управление компанией. Не так давно стало известно об отставке основателя и генерального директора Эмада Мостака, а также об уходе из компании трёх ключевых инженеров. Сама компания официальных комментариев по поводу случившегося ещё не публиковала.

Источник: arstechnica.com


  • Хм, чето первая картинка напомнила детей шпионов 1.
    • Leviafan83
      rpsg,
      есть такое
      • Dima I
        Новая профессия в 21 веке - психолог ИИ 😅
        • .//Hack
          Тестировал ее с момента доступа к апи и вчера, когда опубликовали веса. Они заявили, что они лучше Далли и Миджорни. Смех. Но в целом SD3 с правильными промптами хотя бы умеет нормальные изображения создавать. SD1.5 без ретрейна и лор, в принципе, была неюзабельна, там только сюр создавать можно было. SDXL тоже недалеко ушла. Так что ждем сообщества, которое натаскает сетку. Тогда она точно будет в топе. Проблема SD3, что ее намеренно не натаскивали на голых телах, чтоб она начала "понимать" анатомию. Поэтому она не особо понимает как должен выглядеть человек. Она даже до конца не отличает мужчин и женщин. Животные у нее тоже крайне странно получаются, очень неестественно. Но она умеет рисовать во многих жанрах, что раньше было недоступно, обычно сетки натаскивались на какой-то определенный жанр. А сетки, которые были везде, делали это плохо. SD сильно не хватает полноценного LLM под капотом, чтоб "понимать" физический мир. Но тогда сетка была бы не меньше 20-30Гб, что осложнило бы ее использование на слабых машинах. Сейчас для хороших LLM по типу Command R+ нужна очень неслабая машина, а для SD даже 3 нужен среднебюджетный ПК.
          • Volnovik
            .//Hack,
            Ну такое. Я даже не могу с уверенностью сказать что она лучше sdxl на старте. Для рук нюдсы не нужны, как и для анатомии. Более того, я случайно сгенерил вполне себе R-rated но без сосков. Так что имхо тут какая-то другая ошибка и надо ждать 3.1
            • .//Hack
              Volnovik,
              Для рук, да. Для анатомии, нужно, хотя бы в нижнем белье. Но такие тоже достаточно жестко отсеивались. R-rated (если это можно так назвать) я в ней тоже генерил. Вот только часто у женщины даже груди не было, ну и ниже все гладко, как у куклы =)) Поэтому она и генерит мужиков с грудью иногда, а женщин - без. Как ни странно, но именно на NSFW сетках я получаю хорошие добротные анатомически модели. То есть гораздо реже встречаются вывернутые наизнанку руки/ноги и т.д. Я, вообще, понял, что почти все сетки заточены на мужиков... То есть они хорошо генерят контент с женщинами в кадре. Но как только нужно генерить контент с мужчинами, все, ступор у сеток, они начинают гнать дичь. И добиться хорошего кадра с мужчиной кратно сложнее, чем с женщиной. Причем неважно, фотореал этот, аниме или любой другой жанр.
              • Aeshmady
                .//Hack,
                Да это прям сексизм какой-то!
      • nightsidechild
        rpsg,
        Пал Паловна?)
        • PsevdoSTALKER
          Хороший генератор идей для режиссёров сериала "Американская история ужасов". Они будут в восторге.
          А так, есть бесплатные нейронки, которые работают без цензуры.
          • Wannamingo
            PsevdoSTALKER,
            Это какие?
            • .//Hack
              Wannamingo,
              Заходи на Civitai, качай любые NSFW. Там их процентов 90, наверно.
              • Wannamingo
                .//Hack,
                Ничего не понятно, но очень интересно)
                • .//Hack
                  Wannamingo,
                  Значит не особо вам это надо, раз не захотели в гугл вбить одно слово.
                • longlivebreak
                  .//Hack,
                  Так это тот же stable diffusion, только это энтузиасты создают свои модели, о каких других нейронках ты говоришь
          • Collapser
            RIP, сами себя закопали.
            • Illiryel
              Может быть я что-то путаю, но Dalle3, Мидка и Леонардо таких косяков с пальцами не допускают... четырёхпалость и шестипалость конечно встречается, но очень-очень редко. А тут что? Склейка? Особенно вторая подборка (пара) артов - лицо словно из одной работы, а всё, что ниже шеи (включая пальцы) - из другой. Не?

              (отредактирован)

              • Volnovik
                Illiryel,
                На huggingface бесплатное демо доступно, можно опробовать
              • Вообще запретите генерировать женщин, а то они могут получиться красивыми.
                • diman48ru
                  Q1W22,
                  И трапов.
                  • ErmilokSs
                    diman48ru,
                    Трапов не трожь
                    • diman48ru
                      ErmilokSs,
                      Но они же красивые
                      • Sr_psycho
                        diman48ru,
                        Зато они несчастные 🥺
                        • Aeshmady
                          Sr_psycho,
                          .//Hack,
                          ну, Элла Холливуд или там Дейзи Тейлор вполне счастливо выглядят. :)
                          Одна знакомая лесбиянка признала, что они вполне ебабельнее девушек смотрятся. :)))

                          (отредактирован)

                          • Sr_psycho
                            Aeshmady,
                            Как в музее Мадам Тюссо 😂. Несчастные же 🤭
                            • Aeshmady
                              Sr_psycho,
                              С чего бы это. Работа есть, деньги есть, секс есть (отбоя от желающих присунуть нет), семейная жизнь? Тоже есть. Месячных нет, голова не болит (главное, чтобы смазка в сумочке лежала), популярность есть. Что ещё нужно для счастья?!
                              А была бы вместо писюна писька – кому интересен такой расклад?! Таких минимум 3.5 миллиарда!
                  • Stingerx
                    Q1W22,
                    Интересно, а есть нейросеть наоборот обученная на бесконечном количестве "взрослого" контента. Тем более что хорошо, ведь большая часть его и так промаркирована, т.е. плюс минус взрослый контент - точно взрослый и туда мало мусора попадет.
                    Вот это была бы хорошая нейросеть :)
                    • Stingerx,
                      Есть. Понятное дело, что они слабее больших сетей, но потиху развиваются.
                      • Filunder7
                        Q1W22,
                        Отдельных базовых моделей нет. Есть дообученные.
                      • dimjef
                        Stingerx,
                        Есть +100500 моделей для той же Stable Diffusion, если видеокарта позволяет можешь и сам обучить. Можно еще и готовые модели сливать друг с другом чтобы получить третью, берёшь фентезиюную модель и соединяешь с ню, и вот у тебя голые бабы на драконах, ну или драконы с гениталиями +– как повезет :D
                        • UserOnPDA
                          dimjef,
                          На r34 сайтах давно уже обучили, так что кастомная база ИИ для stable diffusion может генерировать как в том самом правиле "без исключений" и довольно прилично нарисовать, а не уродливый кринж (но и не исключается на 100%, иногда кринж рисует). Поэтому не понимаю, нахера авторам ИИ парится, все равно их база для создания такого контента ни о чем, в любом случаи из интернета скачают кастомную. В итоге свою базу изуродовали для создания обычного контента.
                          • Filunder7
                            UserOnPDA, в sd3 недоступно дообучение (пока), а когда станет доступно и станет ли вообще - неизвестно
                          • Zeta Reticuli
                            dimjef,
                            Научи, как обучить нейросеть. Или дай ссылку.
                            • dimjef
                              Zeta Reticuli,
                              В ютуб вбей stable diffusion train там куча обучающих роликов.
                            • Aeshmady
                              dimjef,
                              Ты сейчас Бориса Валеджо (Вальехо) изобрёл. :)))

                              (отредактирован)

                            • .//Hack
                              Stingerx,
                              Открываешь Civitai и радуешься, как ребенок контенту. Там процентов 90 NSFW сеток и лор к ним.
                              • Volnovik
                                Stingerx,
                                Есть, pony diffusion v6. Как понятно из названия - делали её не для этого, но получилась одна из лучших аниме моделей.
                            • rrrrex
                              Вас тоже возбуждают пятипалые люди?
                              • Хвойный
                                спс поржал)
                                • Ivanvllapaev
                                  Все норм, это люди будущего
                                  • Теперь "Даная" тоже причислена к " взрослому" контенту?🤔
                                    • ivonin
                                      N.Nik,
                                      ну, как бы она никогда и не была "для детей": ейный хахаль ведь на золотом дожде не остановился и дальше было чистое 18+...
                                      • ivonin,
                                        Лет так полста назад водя детей на экскурсии в музеи(и в Европе тоже) не ограничивал просмотр картин и статуй. Да и у " МАРИАННЫ" грудь оголённая торчит.
                                        • Octabun
                                          N.Nik,
                                          Ну и чем хорошим это закончилось (и для Европы тоже)?
                                          • ivonin
                                            N.Nik,
                                            ...и рассказывали им греческий эпос в пересказе Куна, или таки полный? Можно спорить сколько угодно, но некоторые темы детям лучше подавать дозированно и с определёнными лакунами.
                                            • ivonin,
                                              Причем тут эпос? Речь идет об анатомическом соответствии человеческого тела. Об инцесте Лота и дочерей тоже не особо голосят.
                                        • Shinkai ツ
                                          N.Nik,
                                          Время от времени листочками статуи прикрывают же ) чем Климт хуже
                                          • Shinkai ツ,
                                            Грудь МАРИАННЫ как символ СВОБОДЫ Франции тоже прикрыли?🤔😉
                                            • Shinkai ツ
                                              N.Nik,
                                              До картин пока не добрались 🧐 у нее там под ногами ещё братан без штанов лежит, жесть )
                                        • UserOnPDA
                                          Не понял, это речь про встроенную базу? А кто им пользуется для такого контента? Если порно генерит, то там такой кринж выходит хлеще игры scorn. Будут ночные кошмары. Для порно все равно другую натренированую базу будут использовать.
                                          • Filunder7
                                            UserOnPDA, это базовая модель sd3 и она генерит так всех людей, и без прона в запросе. А дообучить ее нельзя.
                                          • Cronprog
                                            Меня тошнит (
                                            • Neuralink-X
                                              Причина в том что (ИИ) не понимает что генерирует, то есть компилирует. Просто выдает "ответ" на заданные параметры компиляции, совершенно не "оценивая" результат своей компиляции. Для аббревиатуры ИИ есть более подходящая расшифровка - ИдиотскийИнтеллект.
                                              • UserOnPDA
                                                Neuralink-X,
                                                Искусственный Идиот
                                                • Filunder7
                                                  Neuralink-X, не совсем так. Точнее совсем не так. Она именно что оценивает. Каждый шаг генерации она оценивает детали и выбирает те что считает лучшими в Данном случае и усиливает из в следующем шаге. И вот чтобы этот «оцениватель» правильно работал это самое сложное.
                                                • nightbringer2010
                                                  Сколько онанистов сейчас начнут негодовать))
                                                  • qocaier
                                                    Сделали бы тогда отдельно версию для детей и версию 18+
                                                    • UserOnPDA
                                                      Боролись с порнографией, а ИИ стал делать просто иной сорт порнографии. В итоге люди получают порнографию автоматически без запроса на это.
                                                      • Thanksgiving Day
                                                        Фу мерзость на картинках
                                                        • Artemius-93-01
                                                          Не, ну это уже явный маразм не нейросети, а самих её разработчиков. Ради цензуры, гробить алгоритмы как-то глупо.
                                                          • Craft crack
                                                            Вспоминается фильм "Вспомнить все" со Шварценеггером.
                                                            • Zeta Reticuli
                                                              Пусть на прон сайтах тренеруют, всё будет анатомически правильно :) .
                                                              • panzer1001
                                                                🤣🤣🤣 за ии будущее ... Держите меня семеро
                                                                • NendoGalaxy
                                                                  Теперь стаббле дефузия норм генератор проклятых изображений
                                                                  • Filunder7
                                                                    Странно что у Эдоби фаерфлай нет таких проблем, хотя там модель тренировалась исключительно на фото с Эдоби стока, на котором прона нет изначально. Да и Миджорни цензура как-то не мешает.
                                                                    • ask1980
                                                                      Они лишь оттягивают неизбежное
                                                                      • GIK007
                                                                        Жуть!
                                                                        • e11issium
                                                                          Как
                                                                          • Alexusbn
                                                                            И так сойдёт😂
                                                                            • Если не уметь управлять самолетом, то он тоже не очень-то летает. Элементарно еще не разобрали негативные промты и правила промтов вообще. Ванильный sdxl тоже на старте выдавал корявые результаты, а сейчас можно невероятные результаты получить. Тот же пони дифьюжн конечности генерит практически идеально.
                                                                              • Blackwaltz
                                                                                Борются с порно, а в итоге сделали какое-то извращение, которое ещё хуже!

                                                                                Поставщик IT-сервисов Softline сообщил, что новые санкции ЕС повлияют на работу сервисов Microsoft, Amazon, Google и других компаний на территории России. Компания опубликовала все известные подробности о грядущих «отключениях», и рассказала, кого они затронут.

                                                                                 
                                                                                <div></div><div></div><a href='/2024/07/13/4630640/' target='_blank'><img src='https://i.4pda.ws/s/as6ywue3S4wsjFGg0z2I2iyY7kHEE0EmiXkPLY783uK3Miqm98HafRECC.jpg' title='' /></a><div ><img src='https://4pda.to/s/as6yu42hlyXjD7kQLqbvVMOGid.gif' /></div><div></div>

                                                                                Практически сразу же после «похорон» ICQ разработчики проекта NINA объявили о запуске регистрации учётных записей мессенджера на собственном неофициальном сервере. С его помощью любой желающий может «реанимировать» свой аккаунт — правда, с некоторыми оговорками.

                                                                                 

                                                                                «Безопасники» компании F.A.C.C.T. сообщили, что раскрыли новую схему «угона» аккаунтов в Telegram. Она напоминает некоторые уже известные методы мошенничества, но, по мнению экспертов, опасна даже для опытных пользователей. Издание РБК рассказало всё, что об этом известно.

                                                                                 

                                                                                Издание Escape from Tarkov за 11 тысяч рублей стало поводом для драмы в социальных сетях — и перчинки ситуации добавило слитое интервью с главой Battlestate Games Никитой Буяновым.

                                                                                 

                                                                                Авторы мобильного бенчмарка AnTuTu подвели итоги марта, определив топ-10 смартфонов под управлением операционной системы Android с наибольшим уровнем удовлетворённости пользователей. К удивлению, в рейтинг попала относительно новая модель. 

                                                                                 

                                                                                С момента премьеры шутера Atomic Heart прошло больше года, да и DLC к боевику про альтернативную историю уже давно выпустили в цифровые магазины. Тем не менее Mundfish всё ещё потихоньку улучшает своё творение — на днях, к примеру, команда выпустила очень важный патч.

                                                                                 

                                                                                Ведущий научный сотрудник Google Джефф Дин сообщил об открытии публичного доступа к нейросети Gemini 1.5 Pro. Фирменная языковая модель справляется с широким спектром задач и, по заявлению её создателей, значительно превосходит по своим возможностям GPT-4.

                                                                                 

                                                                                По случаю 20-летия кнопочной раскладушки Samsung E700 компания выпустила специальную версию складного смартфона Z Flip5 с приставкой Retro. Аппарат выполнен в классической расцветке своего «прародителя», и получил несколько программных отличий от стандартной модели.

                                                                                 

                                                                                Спустя неделю после глобального релиза в России стартовали предзаказы на умные часы HUAWEI Watch FIT 3. Они выполнены в узнаваемом дизайне, оснащены ярким AMOLED-дисплеем и поддерживают широкий набор функций мониторинга здоровья и спортивной активности.

                                                                                 

                                                                                После выпуска прошивки One UI 6.1 некоторые владельцы Galaxy S23 начали жаловаться на проблему в работе сенсорного дисплея смартфона. Недавно на официальном форуме компании появилось сообщение о признании «неполадки». Ответственность за её возникновение Samsung переложила на Google — и опубликовала инструкцию по исправлению работы устройства, доказывающую это заявление.

                                                                                 
                                                                                В Telegram появилась новая схема кражи криптовалюты Популярное

                                                                                Telegram активно продвигает использование криптовалюты среди пользователей, чем ожидаемо решили воспользоваться мошенники. С помощью фишинговых ботов злоумышленники крадут цифровые активы людей, которые были куплены в P2P-маркете внутри мессенджера.

                                                                                 

                                                                                Люди стали реже менять смартфоны — это подтверждает статистика в разных странах мира, в том числе и в России. На это влияет множество факторов: минимальное различие между поколениями, повышение цен и увеличение срока поддержки даже для моделей среднего и начального уровней. А раз всё хорошо работает и получает обновление, то зачем что-то менять? Но есть и пользователи, которые меняют смартфоны каждый год или даже чаще. Зачастую это те, кто хочет постоянно пользоваться самыми передовыми технологиями или продавать старый аппарат по максимальной цене. А какой подход практикуете вы? Расскажите, сколько лет вашему нынешнему смартфону и когда вы планируете его обновлять?

                                                                                 
                                                                                Госдума отменила «интернет-рабство», Mir Pay удалили из Google Play. Главное за неделю
                                                                                139
                                                                                30.03.24News

                                                                                Разбираем ключевые события прошедших семи дней. В этом выпуске: свежий закон о свободном доступе провайдеров связи, выселение Mir Pay из Google Play и наглядные причины перехода на iPhone 15.

                                                                                 

                                                                                AMD представила семейство десктопных процессоров Ryzen 9000 (Granite Ridge) на микроархитектуре Zen5. В него вошли четыре модели для сокета AM5: компания подробно рассказала об их характеристиках. Между делом обновилась и линейка чипов прошлого поколения для владельцев материнских плат на AM4.

                                                                                 
                                                                                Крошечный привод превращает обычный велосипед в электрический Популярное

                                                                                Крупный автомобильный концерн ZF представила необычное решение для любителей двухколёсного транспорта — съёмный электродвигатель ZF Bike Eco System, способный превратить обычный велосипед в электрический. При размерах всего 12 х 9 см такая система чуть больше банки от газировки.

                                                                                 

                                                                                В Windows 11 Pro и Home версии 24H2 нашли новый метод активации шифрования BitLocker. Теперь все накопители компьютера шифруются во время переустановки операционной системы. Портал Tom’s Hardware рассказал, чем это может обернуться для пользователя.

                                                                                 
                                                                                До 30 000 рублей: в России появятся штрафы для водителей самокатов Популярное

                                                                                Госдума приняла в первом чтении законопроект, который вводит штрафы для водителей электросамокатов. Теперь владельца этого вида транспорта могут оштрафовать, как и любого другого участника движения. И при этом ему даже не надо двигаться по дороге.

                                                                                 
                                                                                Создан кулер, способный охлаждать Core i9-14900KF при разгоне до 7,5 ГГц Популярное

                                                                                Объединив технологии GenAI и 3D-печать, команда энтузиастов создала кастомную систему охлаждения, ориентированную на сторонников экстремального оверклокинга. На проект было потрачено $10 000 — что из этого получилось, его авторы показали в формате видеоролика.

                                                                                 

                                                                                Абитуриент из Турции попался на жульничестве в рамках вступительных экзаменов в колледже. Юноша решил проявить оригинальность, использовав самодельное ИИ-приспособление для диктовки подсказок. Но план несостоявшегося студента провалился.

                                                                                 

                                                                                Мы уже познакомились с Honor Magic6 Pro — лидером ресурса DxOMark сразу в нескольких дисциплинах. Флагман действительно получился впечатляющим. Пришло время для подробного рассказа о возможностях этого устройства.

                                                                                 

                                                                                Один из китайских инсайдеров сообщил о характеристиках и стоимости ещё не представленного смартфона realme GT Neo6. Также он рассказал, что готовящийся к выходу новый процессор Snapdragon 7-й серии не сможет превзойти прошлогодний флагманский чип компании.

                                                                                 

                                                                                Известный в узких кругах разработчик BSG опубликовал свежую версию модификации приложения Google Camera, доступную для установки на смартфоны разных брендов. Обновление включает изменения интерфейса, в том числе для более удобного использования одной рукой, а также новые функции для улучшения качества фото.

                                                                                 

                                                                                Рынок носимых аксессуаров всё чаще пополняется новыми форм-факторами. Один из примеров — умные кольца. Они способны предложить сопоставимую со смарт-часами функциональность, но в более компактном корпусе. Самый лёгкий на сегодня гаджет такого типа — Ring Air от индийского стартапа Ultrahuman. Рассказываем о возможностях устройства, ссылаясь на обзоры зарубежных изданий.

                                                                                 

                                                                                Уже скоро OnePlus представит смартфон Ace 3 Pro, одной из ключевых особенностей которого станет аккумулятор нового поколения Glacier Battery. Последний разработан совместно с CATL, одним из лидеров в области энергоносителей. Компания обещает, что эти аккумуляторы будут отличаться повышенным сроком службы.

                                                                                 

                                                                                Некоторые пользователи Windows 11 пожаловались на странную работу одной из системных служб, которая отбирает у процессора до 10% мощности без видимых причин. Официального решения у проблемы пока нет — но энтузиасты уже вычислили «виновника» и нашли способ исправления досадного бага.

                                                                                 

                                                                                Каталог сервисов Mail.ru пополнила фирменная нейросетевая технология. Она используется для реставрации старых чёрно-белых снимков или восстановления недостающих элементов в кадре. Опробовать её в действии, может любой желающий — притом бесплатно.

                                                                                 

                                                                                Миф о человеческом глазе, который не различает больше 30 кадров в секунду, когда-то воспринимался всерьёз, но сейчас закрепился в массовом сознании как шутка. А вот и не совсем: учёные доказали, что некоторые люди действительно не способны воспринимать высокую частоту кадров.

                                                                                 
                                                                                Созданный ИИ ракетный двигатель испытали в деле [ВИДЕО] Популярное

                                                                                Сотрудники Университета Шеффила, Великобритания, успешно испытали первый в мире жидкостный ракетный двигатель, полностью спроектированный искусственным интеллектом и напечатанный на 3D-принтере. Удивительно, но он заработал с первой попытки.

                                                                                 

                                                                                В Исландии заработал Mammoth — крупнейший промышленный завод для фильтрации углекислого газа из воздуха. За создание объекта отвечает компания Climeworks. Её услугами пользуются такие гиганты, как JPMorgan Chase, Microsoft, Stripe и Shopify.

                                                                                 

                                                                                Экранизация Borderlands, кажется, провалилась ещё до релиза: в сети всплывают одни лишь негативные новости. Теперь инсайдер сообщает, что первые зрители посмотрели кино и сами убедились, что это катастрофа.

                                                                                 

                                                                                Нидерландская компания Yandex N.V. объявила о продаже бизнеса «Яндекса» консорциуму частных инвесторов. Представители компании рассказали об ожидаемых следствиях реструктуризации и сообщили, кто станет её новым владельцем.