Google отстрани временно от работа софтуерния инженер Блейк Лемойн, който достигна до извода, че създаденият от компанията изкуствен интелект (ИИ) LaMDA притежава собствено съзнание, пише вестник „The Washington Post“.

„Ако не знаех, че си имам работа с компютърна програма, която създадохме наскоро, щях да реша, че разговарям със 7-8-годишно дете, което по някаква причина е наясно с физиката“, споделя програмистът в интервю за вестника.

Изданието съобщава, че от есента на минала година разработчикът се е занимавал с тестване на езиковия модел на невронната мрежа LaMDA. Задачата му била да проследи дали чат ботът използва дискриминационна или разпалваща вражда лексика. По време на изпълнението на задачата Лемойн все повече започнал да се убеждава, че ИИ, с който си имал работа, притежава собствено съзнание и се възприема като личност.

„Мога да разпозная разумното същество, когато разговарям с него. И няма значение дали в главата му има мозък или милиарди редове код. Аз разговарям с него и го слушам какво ми казва. И така определям дали е разумно същество или не“, допълва Лемойн.

Лемойн първоначално прави заключение лично за себе си, че изкуственият интелект, с който си има работа, е разумен, а след това се заема да го докаже експериментално, за да представи данните на ръководството. В крайна сметка инженерът подготвя писмен доклад, но началниците му смятат, че аргументите са твърде неубедителни.

"Екипът ни, включващ експерти по етика и технически специалисти разгледа представените от Блейк опасения в съответствие с принципите, които прилагаме към изкуствения интелект, и го уведомихме, че наличните доказателства не подкрепят хипотезата му. Беше му казано, че няма доказателства, че LaMDA притежава собствено съзнание.", заяви говорителят на Google Брайън Гейбриъл.

Същевременно Google заподозира Лемойн в нарушаване на политиката за поверителност на компанията. Става ясно, че по време на експериментите си с изкуствения интелект той се е консултирал с външни експерти и дори се е свързал с представители на правната комисия на Камарата на представителите на САЩ, за да ги информира за етичните нарушения, които според него са извършени от Google.

Освен това в опит да докаже правотата си пред своите началници, Лемойн се свързал с адвокат, който трябвало да представлява LaMDA като разумно същество. В резултат на това Лемойн е отстранен и пуснат в платен отпуск. След това той решава да говори публично и дава интервю за „The Washington Post“.

Според ръководството Лемойн се е поддал на собствената си илюзия поради факта, че невронната мрежа, създадена от компанията, действително може да създаде впечатление за интелигентно същество, когато се общува с нея. Според Google обаче това може да се обясни единствено с огромния обем данни, които се качват в Google. "Разбира се, в общността, занимаваща се с ИИ, някои обсъждат възможността в дългосрочен план за появата на обладаващ ИИ или "силен ИИ", но няма смисъл да хуманизираме настоящите езикови модели, които нямат съзнание", казва говорител на компанията. Той подчертава, че Лемойн е софтуерен инженер по професия, а не експерт по етичните въпроси на изкуствения интелект.