ЕП забрани приложения с ИИ, които застрашават правата на гражданите

Европейският парламент одобри законодателния акт за изкуствения интелект, който гарантира безопасността и зачитането на основните права, като същевременно насърчава иновациите. Регламентът установява задължения за ИИ въз основа на потенциалните рискове и степента на въздействие.

Евродепутатите одобриха регламента, договорен с държавите членки през декември 2023 г., с 523 гласа "за", 46 гласа "против" и 49 гласа "въздържал се".

Новите правила забраняват някои приложения с ИИ, които застрашават правата на гражданите, включително системи за биометрична категоризация, основани на чувствителни характеристики, и нецеленасочено извличане на лицеви изображения от интернет или от записи от видеонаблюдение с цел създаване на бази данни за разпознаване на лица. Ще бъдат забранени също системите за разпознаване на емоции на работното място и в училищата, за социално оценяване, прогнозиране на престъпление (въз основа на профилиране или оценка на техните характеристики), както и ИИ, който манипулира човешкото поведение или използва уязвимостта на хората.

В областта на правоприлагането има някои изключения, като използването на системи за биометрична идентификация от правоприлагащите органи е забранено по принцип, освен в изчерпателно изброени и подробно определени ситуации. Системи за биометрична идентификация в реално време може да се използват само ако са спазени строги гаранции, например използването на такива системи е ограничено във времето и географския обхват и подлежи на специално предварително съдебно или административно разрешение. Те могат да се използват, например, за целенасочено търсене на изчезнало лице или предотвратяване на терористично нападение. Употребата на такива системи постфактум се счита за случай на използване на високорискови системи с ИИ, който изисква съдебно разрешение във връзка с престъпление.

Предвидени са ясни задължения и за други високорискови системи с ИИ (поради значителните им потенциални вреди за здравето, безопасността, основните права, околната среда, демокрацията и принципите на правовата държава). Примерите за високорискови приложения на ИИ включват критична инфраструктура, образование и професионално обучение, заетост, основни частни и публични услуги (напр. здравеопазване, банково дело), определени системи в областта на правоприлагането, миграцията и управлението на границите, правосъдието и демократичните процеси (напр. оказване на влияние върху изборите).

Подобни системи трябва да оценяват и намаляват рисковете, да поддържат регистри за употреба, да бъдат прозрачни и точни и да гарантират човешки надзор. Трябва да се гарантира правото на гражданите за подаване на жалби относно системи с ИИ и за получаване на обяснения за решения, базирани на високорискови системи с ИИ, които оказват значително въздействие върху техните права.

Системите за ИИ с общо предназначение и моделите, на които те се основават, следва да отговарят на определени изисквания за прозрачност, например спазване на законодателството на ЕС в областта на авторското право и публикуване на подробно обобщение на съдържанието, използвано за обучение на модела. Моделите на по-мощните системи за ИИ с общо предназначение, които биха могли да породят системни рискове, ще бъдат подложени на допълнителни изисквания, включително извършване на оценка на модела, оценяване и ограничаване на системните рискове и докладване за инциденти.

Евродепутатът Ева Майдел (ЕНП) обясни на пресконференция пред журналисти в ЕП в Страсбург, че законът е хоризонтален и се разпростира във всяка една сфера.

"Той е като пирамида - най-високо в пирамидата са примери, които са опасни и не искаме да се случват. Например лицевото разпознаване, което се използва в социалната кредитна система в Китай. Тя следи дали един гражданин си е платил сметките, дали закъснява за работа и лицевото разпознаване се използва, за да накаже гражданите в Китай. Това искаме да забраним да се случва в Европа", посочи евродепутатът.

Много често deepfake видеа имат пропагандна цел, но то може и да не бъде с политици, може да е видео, което промотира определен продукт или красотата на една държава, тогава то трябва също да е ясно обозначено, че е с ИИ, каза още тя.

По думите ѝ Европа изостава с внедряването на ИИ и икономите в ЕС растат по-бавно в сравнение със САЩ и Китай. В момента само 11% от европейските компании използват изкуствен интелект и внедряването му може да стане двигател на икономиката.

"Ако се използва напълно потенциалът на ИИ, компаниите могат да се "пресъздадат" и една от най-важните мерки в този закон се отнася до конкурентоспособността", посочи още българският евродепутат и допълни, че законът ще регулира компаниите, които създават изкуствен интелект. 

Според Петър Витанов, евродепутат от Групата на Прогресивния алианс на социалистите и демократите в Европейския парламент, от една страна стои защитата на човешките права и свободи, от друга страна - да не се възпира този технологичен прогрес, "защото сме в едно технологично състезание и много често Европа изостава".

Законът предвижда налагане на глоби при неспазване на правилата, вариращи от 35 милиона евро или 7% от световния оборот, до 7,5 милиона евро или 1,5% от оборота - в зависимост от нарушението и размера на компанията.

Ева Майдел обясни, че законът ще се прилага на национално ниво и на европейско ниво, като ще бъде създаден нов офис по изкуствен интелект. В него ще бъдат наети 100 души, които познават ИИ.

"Този офис трябва да подпомага компаниите как да прилагат закона. Той няма да бъде там само за да налага глоби и мерки", уточни тя. 

На национално равнище ще бъдат създадени регулаторни лаборатории и ще се провеждат изпитвания в реални условия, които трябва да бъдат достъпни за МСП и стартиращите предприятия, с цел да се разработи и обучи новаторски ИИ преди пускането му на пазара.

Според Витанов регулациите не са строги, а необходими.

"Големият проблем на изкуствения интелект не е това, че работните места могат да претърпят изменения. Според мен нищо не може да замени човешката креативност и си мисля, че основното притеснение, че работните места ще бъдат иззети от компютъра, е несъстоятелно, защото това сме го наблюдавали в исторически план с индустриалната революция", заяви той.

Регламентът все още подлежи на окончателна проверка от юрист-лингвистите и се очаква да бъде окончателно приет преди края на законодателния мандат (чрез т.нар. процедура на поправка). Законът също трябва да бъде официално приет и от Съвета.

Той ще бъде напълно приложим 24 месеца след влизането му в сила, с изключение на забраните за непозволени практики, които започват да се прилагат шест месеца след датата на влизане в сила, кодексите за добри практики (девет месеца след влизането в сила), правилата за ИИ с общо предназначение, включително управление (12 месеца след влизането в сила), както и задълженията за високорискови системи (36 месеца).