Британският медиен регулатор разследва ''Екс'' заради сексуални изображения, генерирани с изкуствен интелект

Британският медиен регулатор „Офком“ започна разследване срещу социалната платформа „Екс“ заради фалшиви сексуални изображения на хора, създадени от чатбота с изкуствен интелект „Грок“.

Скандалът се разпали, когато потребители откриха, че инструментът за редакция на изображения започва да отговаря на молби за „разсъбличане“ или сексуализиране на хора без тяхно съгласие, включително на непълнолетни.

„Съществуват дълбоко обезпокоителни съобщения, че чатботът, който е достъпен през социалната платформа „Екс“, се използва за създаване и споделяне на снимки на хора без дрехи, което може да се квалифицира като злоупотреба с интимни изображения или порнография, както и на сексуализирани фалшиви изображения с деца, които могат да се считат за материал за сексуално насилие“, пише в изявление на медийния регулатор.

От „Екс“ твърдят, че се предприемат действия като премахване на съдържанието, трайно спиране на акаунти и сътрудничество с местни власти и правоохранителни органи.

„Всеки, който използва или подтиква „Грок“ към създаването на незаконно съдържание, ще понесе същите последствия, както ако качва незаконно съдържание“, посочват от социалната платформа.

Британският медиен регулатор е под натиск да предприеме действия, след като премиерът Киър Стармър заяви в четвъртък, че генерираните от чатбота изображения са „отвратителни“ и „незаконни“.

„Екс“ трябва да предприеме мерки за контрол над „Грок“, каза Стармър.

На въпрос от днес дали платформата може да бъде забранена, британският министър на търговията Питър Кайл отговори „разбира се“, като уточни, че правомощията за това са в ръцете на „Офком“.

Създаването или споделянето на интимни изображения без съгласие или материали със сексуално насилие над деца, включително генерирани от изкуствен интелект сексуални изображения, е незаконно във Великобритания. Освен това технологичните платформи трябва да предотвратяват достъпа на британски потребители до незаконно съдържание и да го премахват веднага щом научат за него.

За най-сериозните случаи регулаторът може да поиска от съд да задължи платежните доставчици или рекламодателите да прекратят предоставянето на услуги на платформата или да принуди интернет доставчици да блокират достъпа до сайта във Великобритания, обяви „Офком“.

„Екс“ вече е била обект на критики в други държави за функцията на чатбота, която може да създава изображения на жени и малолетни в оскъдно облекло. Платформата посочи, че вече е ограничила заявките за създаване на такива изображения само до платени потребители.