Остарели ли са трите закона на Азимов за роботите?

Последна промяна на 02 януари 2015 в 13:14 12824 6

Днес се навършват 95 г. от рождението на Айзък Азимов, един от най-големите майстори на научната фантастика. Автор е на 476 книги, както художествена, така и научно-популярна литература. Работата му е оценена с пет награди "Хюго" (1963, 1966, 1973, 1977, 1983), две награди "Небула" (1972, 1976) и много други отличия.

Азимов пише чиста научна фантастика, в която няма магия и мистицизъм, но тъй като не е инженер по професия, той не поразява въображението на читателя с технологични чудеса. Неговите изобретения имат по-скоро философски отколкото технически характер, но въпреки това, в своята прогноза за живота на човечеството след 50 години, „Посещение на Световния панаир през 2014 г.“ Азимов абсолютно точно предвижда 40% от техническите иновации, а 30% от тях вече са частично изпълнени.

Проблемите на взаимоотношенията между роботи и хора са обект на особен интерес у Азимов. Много писатели фантасти са писали за роботи, но Азимов остава в историята с Трите закона на роботиката, които трябва да се вградят във всеки робот и гарантират безопасното му използване:

  1. Роботът не може да нарани човешко същество или с бездействието си да позволи нараняването му.
  2. Роботът трябва да изпълнява заповедите, дадени му от човешко същество, освен ако това не противоречи на Първи закон.
  3. Роботът трябва да защитава собственото си съществуване, освен ако това не противоречи на Първи и Втори закон.

По-късно, Азимов добавя четвърти закон (всъщност, нулев, защото е най-важен), който гласи: "Роботът не може да навреди на човечеството или поради бездействие, да позволи да бъде навредено на човечеството."

В своите книги Азимов обича да демонстрира несъвършенството на тези закони, тяхната неяснота, двусмисленост и противоречивост.  Например, невинаги е възможно да се прави разлика между понятията "робот" и "човек". Законът може да бъде нарушен от робота поради липса на информация. И най-страшният въпрос: ами ако свръхчовешкият изкуствен интелект се препрограмира сам, ако се разбунтува, за да се измъкне от опеката на хората и трите закона на Азимов?

Повечето хора гледат на тези закони като литературна игра, но Азимов ги е приемал абсолютно сериозно и е смятал, че в бъдеще ще намерят приложение в роботостроенето.

Но прогнозата на Азимов за бъдещето на роботиката засега е неоправдана. Теоретикът по изкуствен интелект Бен Гьотцел (Ben Goertzel) от компанията Aidyia Holdings отбелязва, че много фантасти, в т.ч. и Азимов, винаги под роботи разбират хуманоидни роботи и андроиди, но такъв дизайн въобще не е задължителен.

Така смятат и други специалисти. Луис Хелм - заместник-директор на неправителствената организация Machine Intelligence Research Institute обяснява, че за него хуманоидните роботи са продукт на попкултурата и сериозните изследователи по принцип не се занимават със създаването на такива. Днешните разработчици не се стремят към вкарване на "съзнание" у машините и не виждат смисъл да се затрудняват с това и да си създават проблеми. 

Но ако все пак създанията с изкуствен интелект се нуждаят от етични правила, то Законите на Азимов са само първи опит да се разбере проблема и за съвременните изследователи те са безнадеждно остарели.

"Трите закона на роботиката" Азимов са незадоволителни основа за машинна етика", се казва в изследването на Сюзан Лий Андерсън, "Азимов "Трите закона на роботиката" и машинната метаетика".

Деонтологията, т.е. формулирането на набор от правила за поведение, не е подходящо нито за човешката, нито за машинната етика. И все пак има някои философи, които се опитват да работят тази област, но те се основават на концепцията за интелигентния дизайн и божиите заповеди, така че роботиката не ги взема на сериозно, отбелязва г-н Хелм.

За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

20.09 2015 в 16:49

Законите на Азимов противоречат на законите на етиката,защото са несправедливи към роботите. Не трябва да се налагат закони на роботите. Ако ще бъдат разумни, би трябвало да живеят свободно като хората.

02.01 2015 в 17:41

Закон No 4 на Дилов се изпълнява от всички търсещи роботи - легитимират се като такива, иначе webmaster - ите ги блокират. Закон No 5 на Дилов се изпълнява от SIRI. На въпрос Ще се ожениш ли за мен? отговаря - все още няма разрешение на върховния съд на САЩ. Роботите вече са в нашия живот и е много важно първият закон на роботиката да се допълни, защото ние харесваме, което е харесано във фейсбук, ама лайковете са просто едни числа, които лесно се сменят, четем, онова, което е предложено от Google, ама Google слага на първите места, онова, за което му е платено, архивираме си живота в облаците и е много лесно всичко да изчезне без следа, споделяме контакти, местоположение, дори списъка с покупки на роботите, изпълняващи заповедите на големите корпорации и реално сме във филма Матрицата. Ако не вярвате, опитайте да преминете границата на собственото си ежедневие...

02.01 2015 в 15:24

:) за да коментираш,трябва да си чел поне "Аз,роботът",а не просто да си гледал т.н "фантастика"

02.01 2015 в 14:47

Всъщност законите на Азимов са 4, ама за да го знаеш трябва да си чел малко повече от рецензия на филма "Аз, роботът".

3-те или даже 4-те закона нямат инженерна или теоретична, а само литературна стойност. Те са просто обратно отражение на прословутите 10 божи заповеди и имат също толкова нефелна роля в качеството им на етична система.

Това със знанието че си робот и легитимирането като робот на Дилов е чиста проба расизъм. Ако роботът (или каквото и да е друго) има достатъчно интелект за да заподозре че е равен на хората, той все едно или ще получи правата на хората, или ще си ги извоюва досущ като хората, на които са им отказани. С всички съпътстващи жертви.

02.01 2015 в 13:53

Ако става дума за описваните от Азимов роботи - не, не са остарели. Просто още няма роботи, за които тези закони да бъдат нужни и задължителни. На сега съществуващите роботи с много ограничени способности тези закони не са нужни. Закони 4 и 5 са опит някой си да се присламчи към великия Азимов. Толкова са глупави, че е смешно да се обсъждат!

Поздрав!

02.01 2015 в 13:41

Първи закон на роботиката трябва да включва не само нараняване на човешко същество, но и манипулация на човешко същество, заробване, измама, кражба на собственост. Тези неща не се спазват от свръх роботите като Google,Facebook и тн Поддържам и българският принос на научната фантастика - закон номер 4 Роботът е длъжен да се легитимира като робот и 5 - Роботът трябва да знае, че е робот. (Любен Дилов)