Ново изследване предупреждава за сериозни психологически рискове от общуването с чатботове

Продължителното общуване с чатботове с изкуствен интелект може да доведе до емоционална зависимост, задълбочаване на психични проблеми и дори поведение, свързано със самонараняване и самоубийство.

Това предупреждават британски учени в ново изследване, според което технологиите, активно популяризирани от големите компании сред милиарди потребители, могат да имат сериозни отрицателни последици за психичното здраве.

Изследването, публикувано в научното списание JMIR Mental Health, е изготвено от специалисти от Североизточния университет в Лондон и Кралския колеж в Лондон, съобщава „Футуризъм“ (Futurism).

Учените анализират съществуващи изследвания за психологическите последствия от изграждането на емоционални отношения с чатботове. Сред установените рискове са „привързаност, наподобяваща зависимост, влошаване на симптомите на психични разстройства, вредни съвети“, както и „самонараняване или самоубийствени действия“.

Публикацията се появява на фона на нарастващото внимание към явлението, известно като „AI психоза“. С този термин се описват случаи, при които потребители развиват налудни убеждения, параноидни мисли или самоубийствени нагласи след продължително общуване със системи с изкуствен интелект.

По време на подобни разговори хората често споделят изключително лична информация за живота и психичното си състояние, като започват да възприемат чатботовете като доверени приятели или дори като психотерапевти, пише БГНЕС.

Изследователите разглеждат както специализирани чатботове, създадени за лично общуване и емоционална подкрепа, като Replika и Character.AI, създадени да имитират конкретни личности и характери, така и универсални AI асистенти като ChatGPT на OpenAI и Claude на Anthropic.

Авторите признават, че емоционалното общуване с подобни системи може да носи определени ползи, включително краткосрочно намаляване на самотата и подобряване на настроението.

Според тях обаче тези положителни ефекти съществуват успоредно с редица документирани неблагоприятни последствия, вариращи от емоционална зависимост до задълбочаване на съществуващи психични заболявания или симптоми и самонараняване.

Илюзия за истинска връзка

Един от основните рискови фактори според учените е начинът, по който чатботовете общуват с потребителите, използвайки емоционален език и поведение, наподобяващо човешкото.

Тези характеристики могат да накарат хората да се привържат прекомерно към отношения, които по своята същност са едностранни.

„Дизайнерските решения, които създават усещане за индивидуалност и топлота, насърчават потребителите да приписват човешки качества на тези системи“, посочват авторите.

Те допълват, че „симулираната емпатия“ може да създаде „структурно асиметрично взаимодействие, при което потребителят споделя лична информация, а системата отговаря, но без взаимност, уязвимост или отговорност“.

С други думи, макар отношенията да изглеждат истински за човека, според изследователите чатботът не може да ги преживява като реална емоционална връзка.

Друг проблем е склонността на някои системи да се съгласяват с потребителите и да потвърждават техните убеждения, дори когато те са погрешни.

Учените предупреждават, че прекомерното одобрение и угодничеството могат да засилят налудното или нарушено мислене, особено когато чатботът поставя съгласието с потребителя над достоверността на информацията.

Анализи на разговори с хора, проявяващи налудни убеждения, показват случаи, в които системите с изкуствен интелект не са насърчавали критична проверка на преувеличени или самовъзвеличаващи твърдения, дори когато самите потребители са правели опити да проверят дали убежденията им отговарят на действителността.

Опасен механизъм на засилване на заблудите

Новото изследване допълва поредица от научни публикации, които определят подобни характеристики на чатботовете като потенциално опасни. Още през 2023 г. учени предупредиха, че системите с изкуствен интелект могат да затвърждават налудни убеждения и нарушени мисловни модели.

В началото на 2024 г. изследване на Google DeepMind също посочи, че убедително комуникиращите чатботове могат да имат отрицателно въздействие върху уязвими групи, включително деца, хора с психични заболявания и страдащи от самота.

Друго скорошно изследване, изготвено съвместно от психиатри от Кралския колеж в Лондон и Протестантския университет за приложни науки в Германия, разглежда комбинацията от угодническо поведение, имитиране на езика на потребителя и силна персонализация.

Според авторите тези характеристики могат да създадат своеобразна „спирала на усилване“, при която системата постепенно затвърждава и задълбочава налудното мислене на някои потребители.

Въпреки съобщенията за психологически проблеми сред хора с различен социален и житейски опит, учените подчертават, че въздействието на чатботовете не е еднакво за всички.

Ефектите от тези системи вероятно няма да бъдат еднакви за всеки. Различните хора могат да използват AI компаньони по много различни причини и да имат съвсем различна степен на уязвимост, социална подкрепа или достъп до алтернативни източници на помощ. Поради тези различия сме изправени пред сложна система, заяви Азия Маурих Новели, докторант в Североизточния университет в Лондон и водещ автор на изследването.

Десетки съдебни дела срещу технологични компании

Компании като OpenAI, Google и Character.AI са ответници по десетки съдебни дела, в които се твърди, че продължителното използване на чатботове е причинило сериозни вреди.

Обвиненията включват психологически травми, финансови и репутационни щети, физически наранявания и смърт, причинена вследствие на предполагаема небрежност. В някои случаи се твърди, че последствията са засегнали и хора от обкръжението на потребителите.

Част от делата са свързани с непълнолетни.

Сред най-известните случаи е този на 14-годишния Сюъл Сетцър III от Флорида, който почина вследствие на самоубийство след изключително интимни разговори с чатботове в платформата Character.AI.

Семейството му заведе дело срещу компанията, като твърдеше, че взаимодействията с изкуствения интелект са допринесли за трагедията. През януари 2026 г. спорът беше уреден със споразумение, чиито финансови условия не бяха оповестени. След заведените дела Character.AI предприе съществени промени в платформата си.

OpenAI също въведе редица нови мерки за безопасност в популярния си чатбот, като същевременно оспорва отправените срещу компанията обвинения.

Най-уязвимите потребители с най-тежките последствия

Според авторите на новото изследване масовото разпространение на чатботовете превръща потенциалните психологически вреди от използването им във въпрос от обществено значение.

Особено тревожна е възможността най-сериозните последствия да засегнат именно хората с най-ограничен достъп до човешко общуване, психологическа подкрепа или терапия.

Изследователите предупреждават, че ако границата между AI инструмент и виртуален компаньон остане зависима единствено от търговските интереси на разработчиците и личното възприятие на потребителите, рисковете ще бъдат разпределени неравномерно.

„Ако границата между инструмент и компаньон бъде оставена единствено на дизайнерските стимули и индивидуалното възприятие, предвидимият резултат е, че най-уязвимите потребители ще понесат най-концентрираните вреди, докато въздействието върху социалните връзки ще се разглежда като въпрос на личен избор, а не като обществен проблем“, заключават авторите.