AI чатботът Grok на Илон Мъск е изправен пред нарастващ контрол, включително в Европейския съюз, Великобритания, Индия и Франция, заради злоупотреба с него за генериране на сексуално експлицитни изображения без съгласие.

Малайзия и Индонезия блокираха Grok, чатботът с изкуствен интелект, разработен от xAI на Илон Мъск, след като властите заявиха, че той се използва неправомерно за генериране на сексуално експлицитни изображения без съгласие. Двете страни са първите, които забраниха генеративния AI инструмент, отразявайки нарастващата глобална загриженост, че той може да създава реалистични изображения, звук и текст, докато съществуващите защитни мерки не успяват да предотвратят злоупотребата с тях.

Чатботът Grok, до който се достига чрез платформата за социални медии X на Мъск, е критикуван за генериране на манипулирани изображения, включително изображения на жени в бикини или сексуално експлицитни пози, както и изображения с участието на деца.

Регулаторите в двете държави от Югоизточна Азия заявиха, че съществуващите контроли не предотвратяват създаването и разпространението на фалшиво порнографско съдържание, особено с участието на жени и малолетни.

Правителството на Индонезия временно блокира достъпа до Grok в събота, последвано от Малайзия в неделя.

„Правителството разглежда сексуалните дийпфейкове без съгласие като сериозно нарушение на правата на човека, достойнството и безопасността на гражданите в дигиталното пространство“, заяви в изявление в събота индонезийският министър на комуникациите и цифровите въпроси Мютя Хафид.

Министерството заяви, че мярката има за цел да защити жените, децата и по-широката общност от фалшиво порнографско съдържание, генерирано чрез изкуствен интелект.

Първоначалните констатации показаха, че Grok няма ефективни предпазни механизми, които да спрат потребителите да създават и разпространяват порнографско съдържание, базирано на реални снимки на индонезийски жители, заяви в отделно изявление Александър Сабар, генерален директор на надзора на цифровото пространство. Той каза, че такива практики рискуват да нарушат правото на неприкосновеност на личния живот и правата върху изображението, когато снимките се манипулират или споделят без съгласие, причинявайки психологическа, социална и репутационна вреда.

В Куала Лумпур Малайзийската комисия по комуникации и мултимедия нареди временно ограничение на Grok в неделя след това, което нарече „повтаряща се злоупотреба“ с инструмента за генериране на непристойни, сексуално експлицитни и манипулирани без съгласие изображения, включително съдържание с участието на жени и малолетни.

Регулаторът заяви, че уведомленията, изпратени този месец до X Corp. и xAI с искане за по-силни предпазни мерки, получиха отговори, които се основават главно на механизми за докладване от потребители.

„Ограничението е наложено като превантивна и пропорционална мярка, докато правните и регулаторните процеси са в ход“, се казва в изявлението, като се добавя, че достъпът ще остане блокиран, докато не бъдат въведени ефективни предпазни мерки.

Стартиран през 2023 г., Grok е безплатен за използване в X. Потребителите могат да му задават въпроси в платформата за социални медии и да маркират публикации, които са създали директно, или отговори на публикации от други потребители. Миналото лято компанията добави функция за генериране на изображения, Grok Imagine, която включваше така наречен „пикантен режим“, който може да генерира съдържание за възрастни.

Ограниченията в Югоизточна Азия идват на фона на нарастващ контрол върху Grok на други места, включително в Европейския съюз, Великобритания, Индия и Франция.

Grok миналата седмица ограничи генерирането и редактирането на изображения само за платени потребители след глобална реакция срещу сексуализираните дийпфейкове на хора, но критиците твърдят, че това не разреши напълно проблема.