AI инструментът Grok на Илон Мъск вече няма да може да редактира снимки на реални хора, за да ги показва в разголени в юрисдикции, където това е незаконно, след широко разпространената загриженост относно сексуализираните AI deepfake изображения. "Внедрихме технологични мерки, за да предотвратим Grok да позволява редактирането на изображения на реални хора в оскъдно облекло", се казва в съобщение на X.
Правителството на Обединеното кралство заяви, че това е "оправдание" за призива му към X да контролира Grok, докато регулаторният орган Ofcom заяви, че това е "добре дошло развитие", но добави, че разследването му дали платформата е нарушила законите на Обединеното кралство "продължава". Активисти и жертви казват, че промяната е дошла твърде късно, за да поправи вече нанесената вреда. "Работим денонощно, за да постигнем напредък по този въпрос и да получим отговори за това какво е пошло нередно и какво се прави, за да се поправи", заяви Ofcom. Министърът на технологиите Лиз Кендъл приветства тази стъпка, но заяви, че "очаква фактите да бъдат напълно и категорично установени от продължаващото разследване на Ofcom", пише BBC.
Снимка: iStock
Журналистката и активистка Джес Дейвис, която беше сред жените, чиито снимки в X бяха редактирани с Grok, заяви, че промените в платформата са "положителна стъпка", но че тя никога не е трябвало да допуска такива изображения. "Тъжно е да се мисли колко жени, включително и аз, са били обект на това и колко още жертви на злоупотреба с изкуствен интелект ще бъдат създадени", заяви тя пред BBC. Дейвис също така определи реакцията на платформата като цяло като "наистина жалка". "Те просто се опитват да направят възможно най-малко в рамките на съществуващите неясни правни насоки", заяви тя пред BBC News.
Още: Сексуални изображения с деца: ЕК разглежда сигнали срещу чатбота на Илон Мъск
Д-р Дейзи Диксън, лектор по философия в Кардифския университет, по-рано заяви, че хората, които използват Grok, за да я събличат на снимки в X, са я оставили "шокирана", "унижена" и страхуваща се за безопасността си. В четвъртък тя заяви, че промяната в позицията на платформата е "победа в битката" за активистите. "Но трябва да помним, че злоупотребата никога не би трябвало да се случи – много жени сега са с тежки последици", каза д-р Диксън и добави, че начинът, по който жените се отнасят към телата си и ги възприемат, е бил "отвлечен и изкривен против нашата воля".
Андреа Саймън, директор на Коалицията за прекратяване на насилието срещу жените (EVAW), заяви, че макар да остава да се види как X ще приложи промените си, това показва "как жертвите на злоупотреби, активистите и демонстрацията на сила от страна на правителствата могат да принудят технологичните платформи да предприемат действия". "Но това не може да спре дотук – предвид еволюиращата природа на вредите, причинени от изкуствения интелект, технологичните платформи трябва да бъдат задължени да предприемат проактивни превантивни действия", каза тя.
Политически натиск
Промяната на X беше обявена часове след като главният прокурор на Калифорния заяви, че щата разследва разпространението на сексуализирани AI deepfakes, включително на деца, генерирани от AI модела. "Сега блокираме възможността на всички потребители да генерират изображения на реални хора в бикини, бельо и подобни облекла чрез акаунта Grok и в Grok в X в юрисдикциите, където това е незаконно", заяви X в своето изявление. Той също така повтори, че само платените потребители ще могат да редактират изображения, използвайки Grok на платформата му.
Още: Готов да убива, за да оцелее: Компания шокира с експеримент с изкуствен интелект
Това ще добави допълнително ниво на защита, като ще помогне да се гарантира, че онези, които се опитват да злоупотребят с Grok, за да нарушат закона или политиките на X, ще бъдат държани отговорни, според изявлението.
С активирани настройки NSFW (неподходящи за работа), Grok трябва да позволява "голи горни части на въображаеми възрастни хора (не реални)", в съответствие с това, което може да се види във филмите с рейтинг R, написа Мъск онлайн в сряда. "Това е де факто стандартът в Америка. В други региони той ще варира в зависимост от законите на всяка страна", заяви технологичният мултимилиардер.
Снимка: Getty Images
Мъск по-рано защити X, като публикува, че критиците "просто искат да потиснат свободата на словото", заедно с две изображения, генерирани от изкуствен интелект, на британския премиер Сър Киър Стармър в бикини.
Не е ясно как платформата му ще приложи блокировки на базата на местоположението на способността на Grok да редактира изображения на реални хора, за да създава сексуализирани изображения, и дали потребителите ще могат да ги заобиколят. Хората, които искат да заобиколят подобни геоблокировки на функции или съдържание, често се обръщат към инструменти като виртуални частни мрежи (VPN), които могат да прикрият местоположението им онлайн, за да им позволят да използват интернет, сякаш са в друга държава.
Изтеглянията на VPN приложения в Обединеното кралство скочиха миналата година, след като порнографските сайтове бяха задължени да започнат да проверяват възрастта на посетителите, за да се съобразят с Закона за онлайн безопасността, пише BBC.
