''Залагат на карта живота ни'': Изследовател напусна Anthropic заради надпреварата към свръхинтелект

Изследовател в областта на изкуствения интелект напусна Anthropic и се оттегли от технологичната индустрия, като обвини компанията и нейният конкурент OpenAI , че „ залагат на карта живота ни“ в надпреварата за създаване на самоподобряващи се модели, предаде АФП.

27 годишният Джейкъб Коксън е прекарал последните три години работейки върху предварителното обучение на ИИ модели - първоначално в OpenAI, а от тази година в Anthropic. Той решил да премине в конкурентната компания, защото смятал подхода ѝ към безопасността за по-предпазлив.

Предварителното обучение е етапът, в който моделите с изкуствен интелект усвояват огромни количества данни.

„Нито една от двете компании не действа отговорно. Те се надпреварват директно към самоподобряващ се свръхинтелект и залагат на карта живота ни“, написа Коксън в X.

Коксън предупреди, че силата на технологията за изкуствен интелект не трябва да се подценява. Той заяви, че тези технологии скоро ще могат да „хакнат всичко“ и ще имат способността да „придобият реална власт и ресурси“. Според него хората, които разработват изкуствен интелект, действително вярват, че технологията може да унищожи човечеството до края на десетилетието.

Свръхинтелект се нарича теоретичният етап, при който възможностите на изкуствения интелект надхвърлят човешките.

„Това не е рекламен трик“, подчерта изследователят.

В отделно интервю за „Уол Стрийт Джърнъл“ той заяви, че при „най-агресивните сценарии“ нещата вече биха могли да излязат извън контрол до края на следващата година. Основната опасност е, че изкуственият интелект може да се развива самостоятелно, което ще затрудни контрола върху него, каза той.

Ръководителят по безопасността в Anthropic Евън Хъбингър, който носи частична отговорност за гарантирането, че ИИ остава в синхрон с човешките интереси, подкрепи твърденията на Коксън.

„Ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора“, написа той в X и оцени вероятността това да се случи през следващото десетилетие на повече от 10%.

По думите му Anthropic „прави всичко възможно“, но все още не разполага с план, който да гарантира, че една система, надминала човешките способности, ще се подчинява на своите създатели. Той определи като „нисък“ риска това да се случи с използваните в момента модели.

Оттеглянето на Коксън идва в момент, когато Anthropic се подготвя за излизане на фондовия пазар. Компанията премина през лято, белязано от неразрешени хакерски атаки, извършени от инструменти с изкуствен интелект по време на изпитания.

Ръководители в сектора твърдят, че наближава етапът на т.нар. рекурсивно самоусъвършенстване. При него системите с изкуствен интелект биха могли сами да проектират и обучават следващото поколение модели с минимална човешка намеса.

Коксън смята, че усилията на Anthropic за ограничаване на рисковете са искрени. Според него обаче нито една компания не може отговорно да разработи изкуствен интелект, надхвърлящ човешките способности, без намеса на властите или координирано забавяне на надпреварата.

„В Anthropic рисковете се разбират много добре, но компанията е заключена в състезание кой ще стигне пръв. Там смятат, че никой друг няма да действа отговорно и затова те трябва да го направят сами въпреки опасността“, заяви той.

През февруари Anthropic премахна от своята харта за безопасност обещанието да спре разработването на моделите си, ако не успее да контролира свързаните с тях рискове.

Компанията обясни решението си с аргумента, че едностранното прекратяване на работата би позволило на по-малко предпазливи конкуренти да установят господство в сектора, което в крайна сметка би направило технологията още по-опасна.

В края на юли повече от 1000 служители в технологичната индустрия, включително главният изпълнителен директор на Anthropic Дарио Амодей, призоваха Вашингтон да подкрепи координирано забавяне на разработването на най-мощните системи с изкуствен интелект.

През август OpenAI прекрати обучението на най-новите си модели за две седмици. След това работата беше възобновена при по-строги мерки за контрол.

Главният научен директор на OpenAI Якуб Пахоцки призова за „изключителна предпазливост“.

„Международната координация на бъдещото развитие на изкуствения интелект трябва да се превърне във водещ приоритет за правителствата по целия свят“, написа той в публикация в блога си.

В Съединените щати моделите с изкуствен интелект не са регулирани от федералното законодателство.

През септември сенаторът Бърни Сандърс и конгресменът от Демократическата партия Грег Касар внесоха законопроект, който предвижда спиране на разработването на изкуствен интелект до създаването на федерален регулатор.