Изкуствен интелект, създаден от Google, има собствено съзнание и се държи като 7-8 годишно дете. Инженерът, разкрил тайната е пратен в отпуск

Разкритията на Блейк Лемойн не се харесват на работодателите му

OFFNews Последна промяна на 13 юни 2022 в 14:46 2212 2

Изкуствен интелект играе шах

Снимка Pavel Dnilyuk

Много научно-фантастични романи и филми отдавна мечтаят за този момент

Google отстрани временно от работа софтуерния инженер Блейк Лемойн, който достигна до извода, че създаденият от компанията изкуствен интелект (ИИ) LaMDA притежава собствено съзнание, пише вестник „The Washington Post“.

„Ако не знаех, че си имам работа с компютърна програма, която създадохме наскоро, щях да реша, че разговарям със 7-8-годишно дете, което по някаква причина е наясно с физиката“, споделя програмистът в интервю за вестника.

Изданието съобщава, че от есента на минала година разработчикът се е занимавал с тестване на езиковия модел на невронната мрежа LaMDA. Задачата му била да проследи дали чат ботът използва дискриминационна или разпалваща вражда лексика. По време на изпълнението на задачата Лемойн все повече започнал да се убеждава, че ИИ, с който си имал работа, притежава собствено съзнание и се възприема като личност.

„Мога да разпозная разумното същество, когато разговарям с него. И няма значение дали в главата му има мозък или милиарди редове код. Аз разговарям с него и го слушам какво ми казва. И така определям дали е разумно същество или не“, допълва Лемойн.

Лемойн първоначално прави заключение лично за себе си, че изкуственият интелект, с който си има работа, е разумен, а след това се заема да го докаже експериментално, за да представи данните на ръководството. В крайна сметка инженерът подготвя писмен доклад, но началниците му смятат, че аргументите са твърде неубедителни.

"Екипът ни, включващ експерти по етика и технически специалисти разгледа представените от Блейк опасения в съответствие с принципите, които прилагаме към изкуствения интелект, и го уведомихме, че наличните доказателства не подкрепят хипотезата му. Беше му казано, че няма доказателства, че LaMDA притежава собствено съзнание.", заяви говорителят на Google Брайън Гейбриъл.

Същевременно Google заподозира Лемойн в нарушаване на политиката за поверителност на компанията. Става ясно, че по време на експериментите си с изкуствения интелект той се е консултирал с външни експерти и дори се е свързал с представители на правната комисия на Камарата на представителите на САЩ, за да ги информира за етичните нарушения, които според него са извършени от Google.

Освен това в опит да докаже правотата си пред своите началници, Лемойн се свързал с адвокат, който трябвало да представлява LaMDA като разумно същество. В резултат на това Лемойн е отстранен и пуснат в платен отпуск. След това той решава да говори публично и дава интервю за „The Washington Post“.

Според ръководството Лемойн се е поддал на собствената си илюзия поради факта, че невронната мрежа, създадена от компанията, действително може да създаде впечатление за интелигентно същество, когато се общува с нея. Според Google обаче това може да се обясни единствено с огромния обем данни, които се качват в Google. "Разбира се, в общността, занимаваща се с ИИ, някои обсъждат възможността в дългосрочен план за появата на обладаващ ИИ или "силен ИИ", но няма смисъл да хуманизираме настоящите езикови модели, които нямат съзнание", казва говорител на компанията. Той подчертава, че Лемойн е софтуерен инженер по професия, а не експерт по етичните въпроси на изкуствения интелект.

Най-важното
Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

1005

2

Блейк7

13.06 2022 в 15:54

Що мислиш така, коко?
Аз познавам материята и смятам, че ще е скоро времето когато наистина няма да можем да отлечим ИИ от разумен човек. Е, все още остават много въпроси пред мен - като например това дали притежаването на разум означава и душа?
Под "душа" не влагам библейското значение, а социално и обществено приложимото разбиране на този термин.
И виждайки какво прави Путин (както и другите сатрапи преди него) повече клоня, че "душа"-та е нещо по-различно и наддали в ИИ ще я има.

7440

1

kokoten

13.06 2022 в 15:24

Продължаваме с глупостите...ИИ няма и не може да бъде създаден...това са евтини сензации....