Южна Корея първа в света започва регулация на AI

Южна Корея стана първата страна в света, която въведе закони, регулиращи работата на системи с изкуствен интелект. Изображенията, получени с помощта на ИИ, трябва да се маркират ясно, а хората са длъжни да контролират работата на компютърните системи в ключови области, съобщава Би Би Си.

Властите в Южна Корея заявяват, че новите закони целят да засилят доверието на хората към ИИ и да гарантират безопасността. Министерството на науката и информационните технологии на страната определи комплекса от закони като втория по рода си в света.

През юни 2024 г. Европейският парламент одобри „първите в света правила за ИИ“. Но за разлика от Европейския съюз, чиито закони за регулиране на изкуствения интелект влизат в сила постепенно до 2027 г., южнокорейският еквивалент започна да действа веднага.

В света все още съществуват разногласия за регулацията на ИИ. САЩ предпочитат по-мекия подход, за да не спъват иновациите. Китай също въведе редица правила и предложи създаване на орган за координация на глобалното регулиране.

Какво казват законите

Според новото южнокорейско законодателство компаниите трябва да осигурят човешки контрол над така наречените „високоефективни“ ИИ системи, включително в области като ядрена безопасност, производство на питейна вода, транспорт, здравеопазване и финансови услуги (например оценка на кредитоспособността и проверка преди отпускане на кредити).

Други правила гласят, че компаниите трябва предварително да уведомяват потребителите за продукти или услуги, използващи високоефективен или генеративен ИИ, както и ясно да маркират резултатите, получени с помощта на ИИ. Това важи и за дипфейковете, които е трудно да се отличат от действителността. Властите няма да наказват незабавно нарушителите на новото законодателство. Компаниите получават годишен нулев период, след изтичането на който ще им бъдат налагани административни глоби за нарушения.

Глобите не са пренебрежими: например за липса на маркировка на генеративен ИИ се предвижда наказание до 30 милиона вона (20 400 щатски долара).

Всъщност в сравнение с ЕС тези суми са малки. В Европа неизпълнението на правилата може да доведе до глоби от 1% от глобалния оборот на компанията за леки нарушения и до 7% – за нарушения на забраните за използване на ИИ с висок риск. Много основатели и ръководители на южнокорейски технологични компании са разочаровани, заяви Лим Чунг-вук, съръководител на Startup Alliance. 

Според Startup Alliance някои формулировки в закона не са достатъчно ясни и компаниите могат по подразбиране да прилагат безопасни, но по-малко иновативни подходи, за да избегнат рискове.

Президентът на Южна Корея Ли Чжэ Мьон призова вчера политиците да обърнат внимание на притесненията на представителите на бизнеса и да осигурят достатъчна подкрепа за венчърните компании и стартъпите.

„Важно е да се използва максимално потенциалът на сектора с институционална подкрепа, като същевременно се предвидят очакваните странични ефекти“, – заяви той.

Министерството на науката и информационните технологии планира да създаде платформа за препоръки през преходния период и специален център за подкрепа на компаниите.

„Освен това ще продължим да обмисляме мерки за минимизиране на натоварването върху сектора“, – заяви представител на министерството.

Той добави, че властите обмислят удължаване на преходния период, ако ситуацията в бизнеса го изисква.

Регулиране на изкуствения интелект

През последните години много специалисти по ИИ алармират за необходимостта от регулиране на този сектор.

„Изкуственият интелект може да доведе до изчезването на човечеството“, – с такова например апокалиптично предупреждение група ръководители и учени от технологични компании, включително OpenAI и Google DeepMind, излязоха през май 2023 г.

„Намаляването на риска от изчезване на човечеството поради развитието на изкуствения интелект трябва да стане глобален приоритет наравно с други рискове като пандемии и ядрена война“, – се казва в заявлението.

Малко преди това водещи фигури в разработката на ИИ, включително Илон Мъск и основателят на Apple Стив Возняк, призоваваха да се спрат изследванията в тази област, докато не бъдат разработени и приложени надеждни протоколи за безопасност.

Въпреки това днес някои от подписалите документа активно участват в развитието на ИИ индустрията, чиято стойност се оценява на стотици милиарди долари.

През януари 2025 г. президентът на САЩ Доналд Тръмп обяви създаването на компанията Stargate, която през следващите няколко години ще инвестира 500 млрд. долара в развитие на технологии за изкуствен интелект и инфраструктура. В проекта ще участват Лари Елисън от Oracle и Сам Алтман от OpenAI. Месец по-късно САЩ и Великобритания отказаха да подпишат международна декларация за изкуствен интелект по време на конференция в Париж.

На форума вицепрезидентът на САЩ Джей Ди Вънс критикува подхода към регулиране, предложен от президента на Франция Еманюел Макрон и други лидери. На Даунинг стрийт заявиха, че Великобритания „ще подписва само инициативи, които отговарят на националните интереси“ на страната. Такъв договор подкрепят 60 държави, включително Франция, Китай, Австралия, Япония и Индия. От документа следва, че подходът към развитието на ИИ технологиите трябва да е „отворен“ и „етичен“. На конференцията за първи път се обсъди и енергийното потребление на ИИ, което, както предупреждават експертите, през следващите години може да нарасне до ниво на малки държави.

През ноември Сундар Пичаи, глава на Alphabet, на която принадлежи Google, предупреди, че ажиотажът около технологиите за изкуствен интелект може да има „ирационални елементи“ и в резултат този балон може да се спука.

Следете новините ни в GoogleNews