xAI на Мъск съди потребител, обвинен в създаване на сексуално съдържание с деца чрез Grok

Компанията за изкуствен интелект xAI на Илон Мъск заведе дело срещу потребител, обвинен, че е използвал чатбота Grok за създаване на материали със сексуална експлоатация на деца, съобщава Си Ен Ен. Това е едно от първите дела, заведени от технологична компания срещу потребител за предполагаемо създаване на незаконно съдържание чрез изкуствен интелект.

В съдебния иск xAI посочва, че потребителят Тери Уейн Харуд е нарушил условията за използване на платформата, като чрез Grok е създавал сексуално съдържание от несексуални снимки без знанието и съгласието на хората, изобразени на тях.

Харуд, заедно с още трима мъже, е бил арестуван по-рано тази година в Южна Каролина по множество обвинения, свързани с предполагаема сексуална експлоатация на непълнолетен.

Делото е внесено във федералния съд в Северен Тексас. Според xAI Харуд е създал множество акаунти в платформата и е използвал „заблуждаващи инструкции към чатбота", за да генерира сексуално съдържание и дийпфейк изображения както на деца, така и на възрастни.

Компанията твърди още, че потребителят умишлено е търсил начини да заобиколи защитите на Grok, за да създава сексуално съдържание с непълнолетни.

„Ответникът е нарушил условията за използване на xAI и политиката за допустима употреба, като е използвал Grok за създаване на сексуални изображения без съгласие и материали със сексуална експлоатация на деца“, се посочва в иска.

По-рано тази година Grok си навлече критики заради възможността чрез него да се създават генерирани от изкуствен интелект изображения на голота, включително на непълнолетни.

След сигнали за увеличаване на броя на сексуаните дийпфейкове, създавани без съгласие, Мъск и xAI заявиха, че ще вземат мерки срещу незаконната употреба на технологията.

„Всеки, който използва Grok за създаване на незаконно съдържание, ще понесе същите последици, както ако качи незаконно съдържание“, написа Мъск в публикация в социалната мрежа X, цитирана в съдебния иск.

Според xAI предполагаемата злоупотреба с Grok е изложила компанията на „значителен правен риск и репутационни щети“.

В документите по делото компанията посочва, че през 2026 г. е спряла 52 222 акаунта и е подала 73 604 сигнала до Националния център за изчезнали и експлоатирани деца в САЩ (NCMEC), което е довело най-малко до 244 ареста.

Искът на xAI цели съдът да потвърди, че Харуд е нарушил условията за използване на платформата, както и да бъдат присъдени неуточнени обезщетения.

Това не е първият случай, в който Grok е изправен пред критики. Миналата година компанията публикува извинение за серия от насилствени и антисемитски публикации, генерирани от чатбота, като обвини за проблема актуализация на системата.