Петър Витанов: Забраняваме лицевото разпознаване в ЕС

OFFNews разговаря с евродепутата от Прогресивния алианс на социалистите и демократите Петър Витанов. Той е сред 14-те депутати в Европейския парламент (ЕП), които работят по законодателството в сферата на Изкуствения интелект, или по-точно - регламентирането на употребата му. Витанов работи за това да бъдат забранени или сериозно ограничени антиутопични идеи като китайската социална система - за следене на всеки един гражданин на страната (според "заслугите" и "греховете" даден човек бива награждаван или наказван), и като използването на Изкуствен интелект (ИИ) за въвеждането на масово лицево разпознаване.

По законопроекта за регламентацията на изкуствения интелект работиха две водещи комисии - комисията за вътрешен пазар и комисията по човешки права, правосъдие и вътрешни работи. Петър Витанов става част от комисията по човешки права заради доклад по собствена инициатива, който се занимава с ИИ в правораздаването. На базата на неговите препоръки комисията се сезира и започва да работи по цялостната регулация на ИИ.

Законопроектът вече бе приет на първо четене през юли 2022 г. В момента по него тече триалог - между ЕП, Съвета на Европа и водещите комисии. Очаква се, че преди края на годината ще бъде постигнато съгласие по нормативните текстове.

Г-н Витанов, какво според Вас трябва да може и да не може да прави ИИ?

Въпросът е какво няма да може да прави. Спорът ни беше по дефиницията – какво обхваща този закон. Възприехме дефиницията на ОИСР с малка адаптация, но по-важното е, че се въведе един подход – да се насърчи технологичният напредък на ИИ, за да може Европа да не загуби съревнованието с Китай и САЩ. Тоест да не се възпира технологичният напредък, но да бъдат забранени или ограничени всички практики, които могат да въздействат върху живота, здравето на хората и основните човешки права. Хората да могат да контролират процеса и винаги над изкуствения интелект да има човек.

Как може да се регламентира употребата на ИИ? Какви законодателни промени предлагате? 

Според т. нар. "risk-based approach" (б.а. - подход, базиран на риска). Има няколко степени на риск, когато става дума за високи технологии. Понеже ChatGPT стана популярна тема, и то по времето на дискусиите по закона, а преди 2-3 години такава на практика нямаше, ограничихме и т.нар. foundation modules – към които принадлежи ChatGPT.

Но има технологии, които не представляват риск и трябва да бъдат насърчени. Как? Създава се едно европейско тяло - организация, която да съблюдава за внедряването на системите за ИИ на пазара. Това тяло е общоевропейско - всяка една държава отделно ще има няколко души, които ще отговарят за ИИ. Те би следвало да бъдат независими от изпълнителната власт, експерти, а не политически фигури. Ако има две държави със съвместно производство, се гледа къде е базирана компанията.

Създават се т.нар. "sand boxes" (б.а. - пясъчници) - лабораторни условия, в които държавите предоставят данни на системи с ИИ. Смисълът на ИИ са данните – той се храни с тях, учи се. Тези данни не могат да се използват извън лабораторните условия. Данните са нужни за ИИ, за да се развие, но само при строг контрол в лаборатория. Така се насърчава развойната дейност.

Ако имаш нискорискови системи и алгоритми, няма проблем. Високорисковите системи представляват риск за гражданите и правата им. Те са свързани със сфери като медицина, енергетика, човешки ресурси и т.н.

Има строго забранени практики, които съществуват в различни страни. Забранява се лицевото рапознаване. Тази практика според нас има негативно влияние върху редица човешки права, например правото на личен живот и да протестираш. Да речем - държавен служител протестира срещу правителството, камерите го записват и на следващия ден е без работа. Когато знаеш, че си наблюдаван, се автоцензурираш и имаш друг вид поведение. Лицевото разпознаване е само част от биометричната идентификация. Забраняваме цялата биометрична идентификация в реално време и постфактум. Всичко, което не е забранено може да се внедри като практика - по този начин се спира това.

Какви проблеми се срещат при въвеждането на практики, използващи системи с ИИ?

Много често в най-развитите държави като САЩ, имаме голям проблем при развитието на системи с ИИ - примерно системи за граничен контрол. В редица щати тези системи са дискриминационни. Ключът към всеки ИИ са данните – колкото повече данни има, толкова по-прецизен е. Системите за граничен контрол в Щатите най-често ги захранват с изображения на бели мъже - там грешката е 0,05%. При чернокожи жени – грешката е 17%. Така много често хора не биват допускани на територията на Щатите, защото системата възприема, че са престъпници. Захранването на ИИ с един вид данни може да го направи субективен.

Съществува и такова нещо като "predictive policing" - прогнозираща полиция. По време на мисия във Вашингтон изследвахме тази практика. Какво означава тя – въвеждат в алгоритъма данни за хората, например във Вашингтон, и се установява, че ако: си цветнокож, живееш в беден квартал, си отгледан от един родител, не си си платил ипотеката навреме – шансът да извършиш престъпление е 40% по-висок.

Не просто следят тези хора, а ги разцепват от проверки – целенасочено таргетират бедни квартали, проверяват постоянно един и същи профил хора. Какво се оказва – има хора, които ги съдят и ги осъдиха, включително такива, които не са били допускани на терииторията на САЩ. Имаше случай на мъж, станал обект на такива проверки стократно, който не може да си намери работа, защото потенциалният му работодател вижда проверките и си казва, че има нещо нередно. На практика този човек не може да си намери работа, само и единствено, защото е беден.

Има и системи, свързани с набирането на персонал - ИИ, който е така филтриран, че ако си млада самотна майка с 2 деца, няма да те вземат на работа, защото си дават сметка, че много ще отсъстваш, че не може да се разчита на теб, защото здравето на децата е по-важно от работата. Сортират те, което на практика е чиста форма на дискриминиция.

Специално сме упоменали социалната система в Китай (б.а. - social scoring) като дискриминационна практика. Там, ако случайно поради някаква причина временно си неплатежоспособен, ти орязват достъпа до редица социални услуги. Връщането им е още по-трудно. Забранихме такъв тип практики.

За да се внедри такъв тип ИИ, който е оценен като високорисков и засяга някои от сферите като здраве, трудоспособност, основни човешки права, той трябва да отговаря на много по-високи изисквания. Включително да има оценка на въздействие на продукта, върху човешките права, екологията и т.н.

Ще бъдат ли приети законодателните ви предложения - има ли евродепутати, които натискат или лобират за по-свободна употреба на ИИ?

Идеята е, че всичко е компромис. Смисълът е винаги да се търси сечение между ляво и дясно, защото са достатъчно силни – на практика половината Европейски парламент. Като цяло обаче десните искат да се забранят колкото се може по-малко неща - ако може всичко да е свободен пазар. За тях сигурността и бизнесът са по-важни от човешките права. Съответно десните казват, че ИИ е пазарен модел, който трябва да е напълно свободен. Левите обратното – слагат човека и гражданските и човешките права на първо място - колкото се може повече неща да бъдат забранени, защото представляват заплаха за човечеството. Златното сечение е някъде по средата.

До какво ще доведе навлизането на ИИ на трудовия пазар? Ще загубят ли много хора работата си, ще изчезнат ли някои професии?

Това за мен никога не е било притеснение. Знам, че това е първичната тревога, обаче съм установил, че всички форми на революция - защото това е нищо по-малко от дигитална революция, са водили до сериозна трансформация на пазара на труда. По време на индустриалната революция хората са чупили машини с чукове, защото "ще им вземат работата". Механизацията и автоматизацията не са довели до това хората да останат без работа. И сега има множество нови професии, които не съществуваха преди 10 години, и съм сигурен, че ще има нови.

Според мен основният проблем не е, че ИИ ще вземе нискоквалифицираната работа, а че може да се прекрачат морални и етични норми. Могат да се нарушат фундаменталните права на гражданите посредством системи, които водят до тежки дискриминации, до увреждане на здравето и качеството на живот на хората, до намаляване на правата им.

Австрия обмисля да впише в конституцията си правото да се ползват пари в брой. Ще изчезнат ли книжните пари, говори ли се за това в Европа? Какви са опасностите от това?

Това е съвсем различен казус. По принцип в много държави забраниха големите суми пари в кеш, поради простата причина, че това са мръсни пари. Минаването през банка е някаква форма на гаранция, че парите са чисти, така че, за ограничeнието на сивата икономика може би тази мярка има смисъл. Обаче не и в момент, в който таксите в българските банки са несъизмеримо по-високи от европейските.

Ако безкешовото плащане се въведе в България, ще е форма на допълнително овластяване и печалба за банките. Няма кой да ограничи техните свръхпечалби - затова съм против. Човек трябва да има право да преценява как да плаща, а не да бъде ограничаван по един или друг начин.

Как бихте коментирали настоящата политическа ситуация в България? Отмина ли делението на леви и десни?

Не знам дали вече някой дели на ляво и дясно. Има либерално-консервативно, което много ме дразни. Това е архаично, като някакъв въпрос, характерен за следосвобожденска България в края на 19 в. Не може да опростиш толкова разделението в България. За мен истинското разделение е ляво-дясно, пречупено през оптиката на неравния старт в живота. Това е винаги актуално.

Това правителство е антинационално. То се опитва да зачеркне абсолютно всички символи на държавността – като почнеш от националния празник, през историята и т.н. и това може би провокира пронационалистически реакции. Според мен това е циклично – този цикъл на консерватизъм дойде през последните 7-8 години. Процесът на глобализация не може да бъде спрян - може да се адаптира, може да има леко връщане, но тече. Очаквам, че пак ще имаме моменти в бъдеще, в които либералното ще надделее, но това не е основното. Основното е да се намалят неравенствата и да се повиши качеството на живота на всички хора.