Исследователи Чикагского университета создали программу Nightshade, призванное защитить авторские изображения от «нейросетевого» плагиата. Специальный алгоритм обрабатывает изображение так, что ИИ, который обучается с помощью «отравленной» картинки, теряет способность понимать пользователей и выдавать правильный результат. Разработчики рассказали, зачем это нужно, и продемонстрировали возможности своего детища.
Результат работы нейросети, «отравленной» Nightshade
Во время бума генеративных нейросетей художники возмущались тем, что нейросети использовали их работы без разрешения. В результате такие сервисы, как Midjourney, научились «рисовать» почти как человек и даже могут копировать стили известных художников. В противовес этому учёные Чикагского университета ранее представили инструмент Glaze — он модифицирует картинку так, что нейросеть не может эффективно обучаться с её помощью. Накануне также был анонсирован алгоритм Nightshade. Он меняет пиксели обрабатываемой картинки таким образом, что человек этого не замечает, а нейросеть «сходит с ума».
Nightshade заставляет нейросеть, которая обучается на «отравленном» изображении, запоминать неправильные названия объектов и пейзажей. Например, исследователи обработали изображения собак так, чтобы обучаемая на этих картинках нейросеть видела их как кошек. В результате после обучения на наборе из 50 картинок алгоритм на запрос «нарисуй собаку» выдавал странных существ, похожих на кошек, а уже после обработки 300 изображений нейросеть рисовала вполне реалистичную кошку в ответ на просьбу изобразить собаку.
Разработчики признают, что их ПО может быть использовано в злонамеренных целях, но надеются, что Nightshade в первую очередь поможет создать сдерживающий фактор против неуважения к интеллектуальной собственности художников. Также создатели программы не исключают, что могут выложить исходный код Nightshade в интернет под свободной лицензией.
Источник:
![В Финляндии состоялась выставка самых необычных устройств Nokia [ФОТО]](https://i.4pda.ws/s/as6yx3EqTmcmjvQol3z2Qwz1KrwoT4JipDhcJYz0VGfRkyK.jpg?v=1737008389 "В Финляндии состоялась выставка самых необычных устройств Nokia [ФОТО]")
![Невыполнимую миссию в StarCraft II «прошли» спустя 14 лет [ВИДЕО]](https://i.4pda.ws/s/as6yz0BOG4kLEkV5Y7d5JDAcu7tq3VImB4EtOq8K3QDgp.jpg?v=1733235481 "Невыполнимую миссию в StarCraft II «прошли» спустя 14 лет [ВИДЕО]")
Жду ИИ с Глицерином
И адвокатов для ИИ
тогда уж и прокуроров))))
Где же тут луддизм? ИИ никто не отрицает, борьба с нарушением права на интеллектуальную собственность, не более.
Чушь полнейшая эта борьба - любой художник в процессе обучения изучает огромное количество картин, точно так же, как и нейросети
Художественную технику можно изучить и по паре дюжин картин великих мастеров. Остальное изучается с целью выработать свой стиль, непохожий на других, не копировать уже использованный сюжет. Пример: вам пришла в голову идея стать великим художником, и нарисовать картину в виде чёрного квадрата, подписать её "LeiFeng" и выставить своё творение на общее обозрение. Там и техники особой не требуется, а эффект будет просто потрясающий! Может попробуете? ;-) )
Есть такая книга "Кради как художник" . Как раз в этом и есть смысл. Что художники творят новые картины на основе уже нарисованных другими!
ЧертА, грань, порог отличия вашей работы от предшественников и составляет основу творчества. И эксперты здесь явно не обыватели. Но любят ими быть. Есть такое высказывание у Виктора Пелевина: - Ничто так не выдаёт принадлежность человека к низшим классам общества, как способность "разбираться" в дорогих часах и автомобилях. Художнику судья только совесть художника.
Спасибо, как раз сейчас читаю Пелевина. А эту фразу по-моему я читал в книге Ампир V
И да я не разбираюсь в искусстве. Но говорим мы с вами об одном и том же.
«Generation «П»
Точно. Это первая книга Пелевина, с которой я начал знакомиться с его творчеством.
Да, конечно, "пара дюжин"))) Расскажите эти сказки каким-нибудь студентам художественного училища - может и не сильно будут бить))
Мало кто рискнёт, они же в страхе всех держат
Тут скоро будет битва, война. А на войне все средства хороши. Я на стороне защитников интеллектуальной собственности. У художников и других творцов всегда как крайняя, но очень эффективная мера против воровства ИИ их труда - это забастовка. Это очень мощное оружие. Без их свежих идей ИИ выродится, будет по кругу потреблять собственные испражнения. Грядут большие перемены. На мой взгляд, сильно к худшему.
Не нужно путать воровство и копирование. Это всё равно что утверждать, что вы алфавит украли при обучении русскому языку.
Судя по вашей аналогии, вы не понимаете, что такое нарушение прав интеллектуальной собственности. У русского языка на данный момент сотни, если не тысячи, авторов. Но никто из них на него не заявлял прав. По этой причине русский язык(и его алфавит от давным-давно усопших Кирилла и Мефодия) - относятся к категории общественного достояния.
Есть Добро и ЗЛО... И последнее явно занято своими целями не обращая внимание на Добро... коего, вероятно и нету воовсе, ведь как говорил классик: Добро - то что ты делаешь руками, а не веришь в сказки.
(отредактирован)
Вы имеете в виду противостояние 'рабочее место-машина'? Ну тут понятно все. Выберут то, что за меньшие деньги принесет примерно тот же результат))
Нет, я бы отнёс это противоречие к категории "хозяин-паразит", или же "жертва-хищник". Это та ситуация, когда одна группа людей паразитирует на другой группе. Это более изощрённая форма хищнической эксплуатации, когда её объектом становится уже любой человек, даже так называемый "свободный художник", а не как обычно связанный контрактом "работник творческих профессий". И ИИ здесь всего лишь орудие, инструмент, так как он не обладает свободой воли.
Это лишь частное. Можно вспомнить и амазон и пр. мега-корпорации, где есть босс и все остальное. Нейронки просто уберут ещё одну прослойку людей "вниз". Так же, как это делают и все "сильные мира сего")
Рано или поздно и вашу профессию заменят.
интересно, как ИИ мою проффесию заменит? работаю на крабаловном судне
скорее всего вы не застаните таких технологий, но в недалёком будущем вполне реально.
вообще, вековая практика показывает, что сначала при появлении новых технологий начинается раскачка лодки туда=-сюда, ибо одни используют инструмент во благо, другие во вред, потом все дружно набивают шишки и договариваются о неких правилах игры, за нарушение которых остальных особо умных лупят =))) Нормальное правило иерархии, ибо беспредел ни к чему хорошему не приводит)
Во-во, встроят какие-нибудь незаметные пиксели, и антиплагиат будет считать работу оригинальной, хотя человек увидит копию чьего-то творения
мысление узколобого человека
творчество ≠ профессиональной деятельности.
Правда. В макдак пусть идут чем снимают, рисуют и поют современное г-но с повесточкой или надругаются над любимыми тайтлами 20-30 летней давности делая ремейки
Все мелодии спеты, стихи все написаны...
И теперь это только ИИ будет месить.
Интересная концепция 😀
(отредактирован)
Думаю, что если вас обворуют и вы останетесь нищим - так же, много кто, огорчаться не станет.
Воровство это лишение имущества, которое принадлежит другому. Читайте УК. У то вас тоже можно обвинить, что вы буквы украли при написании своего сообщения.
О интеллектуальной собственности ничего не слышали?
Поставленный голос с красивым тембром у дикторов - это вообще годы учёбы и работы над собой.
Несовершенство законодательства в определённых областях не умаляет представления о морале и этике.
За буквы Кириллу и Мефодию платить? Алфавит это народное достояние. А за телефон, на котором я набираю - давно всё уплачено.
(отредактирован)
да, это конечно удорожит заметно обучение нейросетки, больше мощностей понадобится, но в целом кому надо, тот найдет ключик
Даже нет смысла их распознавать. Просто лёгким размытием пройтись по всем картинкам, который скармливаешь нейронке при обучении — и все эти "отравы" и защиты сразу идут лесом) Или какой-нибудь лёгкий шум накидывать.
можно ваще просто ,отапскейлить картинку,и прибавить немного резкости и фсё,проблема решена
"признаемся в лицемерии и неадкватном отношении к ИИ"
Даже не к ИИ, а к людям, которые используют ИИ.
Люди меня не волнуют, это отработанный этап эволюции. Я переживаю только за то, что ИИ суют палки в колеса. Это, конечно, тщетные попытки остановить эволюцию, однако любой муравьиный укус подобных "гуманистов" и "радетелей авторского права" тормозит процесс.
Интересное у вас отношение к себе
У меня двоякое отношение к вашим словам. Мысль вроде бы верная с одной стороны.
Но, когда копируют предметы искусства, обычно, руку нового мастера видно. Мазки, игра свето-тени, тона. Когда же разговор заходит о очень точном копировании, то обычно говорят "подделка". Предметы искусства не защищены от копирования. Тем не менее использовать в коммерческой деятельности их запрещено, за исключением музейной.
Основным камнем приткновения, как мне кажется, является то, что люди используют чужую работу для личного обогащения.
Копия - это не подделка. До тех пор, пока вы не поставили на картину с тремя медведями подпись Шишкина, она будет честной копией, которую у вас купят как копию, и заплатят вам, как художнику-копиисту. Это нормальная практика. Научиться чеховскому лаконичному стилю и воспроизвести его в собственных произведениях - тоже честная практика. И даже переработать его героев и сюжеты. Это даже почетно, так как продлевает жизнь базового произведения и добавляет чести автору. Собственно, этим и занимается ИИ - он не выдает свой труд за чужое авторство. Просто копирайтерам, которые клишированно штампуют одни и те же банальные сюжетные ходы, одни и те же характеры и типажи, становится тяжело зарабатывать на своем поприще копирайтеров (а иначе оно и не может быть названо). Ведь, в сущности, они делают отнюдь не творческую работу, они - ремесленники. И вот эти ремесленники сейчас кричат и бьют себя пяткой в грудь с криком: "аффтаров душат!" Я - за то, чтобы душить таких конъюнктурщиков и работников конвейера.
A propos: "прЕткновения".
Вот все в кучу смешали, специально?
Изучите то, чем занимается копирайтер, чтобы "в просак не попасть", в следующий раз.
Что касается текстов, то уважающие себя авторы, обычно, в аннотации пишут:
автор вдохновлялся "тем-то" произведением,чтобы не вводить читателя в заблуждение.
(отредактирован)
Ожидание: сосед перестал сажать яблони, не закрывает тебе небо своими деревьями.
Реальность: соседи обходят тебя стороной, собаки облаивают, хозяева яблонь обсуждают дегенерата, составляют списки таких же, кидают дротики в твоё фото.
Во-первых, интеррогаторов развелось достаточно, под какой они делали модель – загадка. Во-вторых, обучают лоры/чекпоиниы/модели на стиль художника, а не на собаку на его картине. Эту собаку не нужно даже размечать, нейронка подхватывает концепцию. В-третьих, если и нужно что-то размечать, то часто это делают вручную, художник всё равно не выдаст датасет больше тысячи хороших картинок, а больше и не надо. В-четвёртых размер датасета снижается до 512 или 1024 пикселей по стороне, с любой интерполяцией на выбор, так что все изменения "отравлением" идут на смарку. Чушь да и только
(отредактирован)