OpenAI блокира руски акаунти в ChatGPT, използвани за разпространение на фалшиви новини

„ОупънЕйАй“ (OpenAI) е блокирала група акаунти в платформата за генеративен изкуствен интелект „ЧатДжиПиТи“ (ChatGPT) с произход от Русия, които според американската компанията са били използвани в подкрепа на тайна онлайн кампания за разпространение на дезинформация, съобщи Си Ен Би Си.

Американският разработчик е открил проблема след разследване на публикации в социалните медии, генерирани от изкуствен интелект, което я е довело до „много по-мащабна операция за влияние“, посочи „ОупънЕйАй“ в публикация в блога си.

Кампанията е била „изградена около уебсайт, съдържащ копирани и неправилно приписани академични трудове, индекс за „суверенитет“, който представя Русия в благоприятна светлина, както и усилия за прикриване на руския произход на операторите“ на акаунтите, добави компанията.

„ОупънЕйАй“ не позволява достъп до своите модели в Русия, но компанията посочи, че са били използвани VPN мрежи за прикриване на местоположението на абонатите.

През февруари „ОупънЕйАй“ съобщи, че е закрила акаунти в „ЧатДжиПиТи“, свързани с „Рибар“ – проруска медийна компания, която британското правителство описва като „частично координирана от президентската администрация“, финансирана от руската държавна корпорация „Ростех“ и сътрудничеща с членове на руските разузнавателни служби.

Операторите на акаунтите давали команди на руски език за генериране на коментари в социалните медии, които били публикувани в „Събстак“ (Substack), Телеграм (Telegram), Екс (X), Фейсбук (Facebook) и Линкдин (LinkedIn), и инструктирали „ЧатДжиПиТи“ да скрие всякакви езикови улики, че са от Русия, посочиха от „ОупънЕйАй“.

Голяма част от генерираното съдържание е популяризирало организация, наречена „Международен институт „Бърк““ (International Burke Institute – IBI). На уебсайта на организацията се публикуват статии, копирани от истински академични текстове, понякога с фалшиво посочени източници.

Кампанията за влияние е създала и „индекс на суверенитета“, който възхвалява Русия и очерня западните държави, според „ОупънЕйАй“.

Макар че непосредственото въздействие на операцията изглежда ограничено, „значението на операцията се състои не толкова в аудиторията, до която е достигнала, колкото в инфраструктурата, която е изградила“, добавиха от компанията.

Публикациите, създадени от „ЧатДжиПиТи“, сочеха към „институция, която на пръв поглед изглеждаше достоверна, с т.нар. експерти, препубликувани академични трудове и т.нар. собствен индекс на риска“, заяви „ОупънЕйАй“.

„Това илюстрира как лицата, упражняващи влияние, могат да използват изкуствения интелект като подкрепящ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и изграждане на ресурси, които могат да бъдат разширени с течение на времето“, обясниха от компанията за изкуствен интелект, цитирани и от БТА.