- Хора трябва да имат контрол над системите с изкуствен интелект, а алгоритмите трябва да бъдат с отворен код;

- Забрана на частните бази данни за разпознаване на лица, изготвянето на поведенчески прогнози от правоприлагащите органи и оценяването на гражданите;

- Автоматизираното разпознаване не следва да се използва за граничен контрол или на обществени места.

Това са основните акценти в резолюцията за използване на изкуствения интелект (ИИ), която Европейският парламент прие. С цел борба с дискриминацията и гарантиране на правото на неприкосновеност на личния живот, ЕП настоява за строги гаранции, когато инструментите на ИИ се използват в правоприлагането.

В резолюцията, приета с 377 гласа "за", 248 гласа "против" и 62 гласа "въздържал се", членовете на ЕП посочват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ) и подчертават, че е необходим човешки надзор и силни правни правомощия, за да се предотврати дискриминацията от страна на ИИ, особено в контекста на правоприлагането или граничния контрол. Човешките оператори винаги трябва да взимат окончателните решения, а субектите, наблюдавани от основани на ИИ системи, трябва да имат достъп до средства за правна защита, казват членовете на ЕП.

Опасения за дискриминация

В резолюцията се предупреждава, че системите за идентификация, базирани на изкуствен интелект, по-често погрешно идентифицират малцинствени етнически групи, ЛГБТИ лица, възрастни хора и жени, което е особено тревожно в областта на правоприлагането и съдебната система. За да се гарантира спазването на основните права при използването на тези технологии, алгоритмите следва да бъдат прозрачни, проследими и достатъчно документирани, призовават членовете на ЕП. Когато е възможно, публичните органи следва да използват ИИ със софтуер с отворен код, за да бъдат по-прозрачни.

Дискриминацията става най-вече в приложенията с ИИ в прогнозирането в полицейската област, се казва в доклада. Пред Clubz.bg основният докладчик Петър Витанов посочи като пример скандала в Нидерландия, довел до оставката на правителството на Марк Рюте в началото на тази година. Причина бяха разкритията, че над 800 българи са получили незаконно детски надбавки и помощ за наеми в размер на общо 4 милиона евро за периода 2007-2013 г. В действителност те пребивавали в страната съвсем за кратко и изобщо не полагали никакъв труд. Поради всичко това на много други българи в Нидерландия неправомерно са отказани помощи, каза Витанов.

Но не само източноевропейци страдат от грешни изчисления на приложения с изкуствен интелект, допълни евродепутатът. Потърпевши са също по-бедните хора, тези с чужди имена, имигрантите, цветнокожи и други уязвими общности.

В някои алгоритми имената на източноевропейците например са зададени като чужди. Предположението е, че чужденците са по-склонни към извършването на определен тип престъпления или злоупотреби.

Противоречиви технологии

За да се зачитат неприкосновеността на личния живот и човешкото достойнство гражданите трябва да бъдат наблюдавани само при подозрение за престъпление. Парламентът призовава да се забрани използването на частни бази данни за лицево разпознаване (като системата ИИ на „КлиърВю“ (Clearview AI), която вече се използва) и прогнозиране на база на поведенчески данни от полицията.

Членовете на ЕП не искат повече да се използва масовото оценяване на гражданите от страна на публичните органи с помощта на ИИ, което те считат, че застрашава принципите на недискриминация и не е съобразно с основните права на ЕС.

В заключение, парламентът изразява загриженост от използването на биометрични данни за дистанционно идентифициране на хора. Например, вратите за граничен контрол, които използват автоматизирано разпознаване, и проектът iBorderCtrl ("интелигентна система за детектор на лъжата" за външните граници на ЕС) трябва да бъдат преустановени, казват членовете на ЕП, като настояват Комисията да започне производства за установяване на нарушения срещу държавите членки, ако е необходимо.

Петър Витанов (С&Д, България) заяви:

„Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за лицево разпознаване в контекста на правоприлагането, тъй като технологията е доказано неефективна и често води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска дейност, основана на използването на изкуствен интелект, както и на всяка обработка на биометрични данни, която води до масово наблюдение. Това е огромна победа за всички европейски граждани.“