Доц. Златогор Минчев: Саморазвиващият се изкуствен интелект е скрита бомба, ако няма адекватни регулации

Последна промяна на 10 април 2018 в 07:03 2391 0

Доц. Златогор Минчев е директор на Съвместния център по обучение, симулация и анализ към БАН. Той е ръководител на секция „Информационни технологии в сигурността" в Института по информационни и комуникационни технологии към БАН.

Доц. Минчев, миналият месец се появи проект на Закон за кибер сигурност. Един от любопитните моменти в него е създаването на сили за кибер отбрана. Доколко страната ни е способна да поддържа такива сили, така че те да са наистина ефективни и на световно ниво?

Разработването на нормативни актове и закони по темата „кибер сигурност“ е малко позакъсняло, и в момента се подхожда отчасти формално. Трябва да изпълним някои ангажименти като страна членка на ЕС и това е особено важно да стане по време на нашето председателство. В самия проект за закон това е посочено, като основание. Нормалните държави са винаги една стъпка напред, но ние още се учим.

По отношение на вашия въпрос за „силите за кибер отбрана“ бих коментирал в контекста на членството ни в НАТО, където информационния домейн неотдавана бе официално обявен за потенциална арена на бойни действия. Тук обаче е важно да се отбележат два нюанса: у нас по темата „кибер сигурност“ се работи отдавана, като на политическо ниво под егидата на Министерство на отбраната от 2014 насам се изготви и прие стратегията „Кибер устойчива България 2020“. Тази стратегия така и не стигна до разглеждане в Парламента, но бе приета от Министерски съвет. Сега, когато европейските правила ни притискат като срокове, изведнъж, процесът се рестартира. Силно се надявам да не се подходи отново формално по темата.
Другият нюанс е по-съществен: създаването на сили за кибер отбрана изисква споделяне на съюзнически опит, време и устойчиви икономически инвестиции. За съжаление и тук се подхожда недостатъчно професионално. Подготвят се рамкови идеи, а не се мисли за тяхното устойчиво финансиране. Министерство на отбраната едва ли ще намери толкова свободни средства, че едновременно да модернизира останалите родове войски и да създаде нови способности за кибер отбрана в рамките на този бюджет. Преди време, много се говореше за „електронно управление“ и дори се създаде такава агенция, но какъв е реалният ефект за обществото, остава загадка.

Според мен тук се търсят реакциите на обществото, които да се канализират по някакъв подходящ начин и да се освободи общественото напрежение по темата „кибер сигурност“.

Проектът на закон решава ли проблеми и пропуски в кибер сигурността на страната като цяло?

Проектът за Закон по кибер сигурност принципно е хубава инициатива. В него се наблюдават и някои позитивни наченки, предвид включването на Министерство на отбраната, Министерство на вътрешните работи и ДАНС. Дигиталната среда обаче се развива изключително бързо и това не е достатъчно. Виждате какъв мащаб покрива скандалът около Facebook и Cambridge Analytica, говорим за глобални граници и милиарди потребители. Сега в мрежата тече и дебат по отношение на гиганти като Google и Microsoft, предоставящи електронни услуги на огромен брой потребители. За мен това е и политическа пропаганда, и технологична война за надмощие.

Днес всички ние сме отговорни за сигурността на дигиталното общество. Държавата е от едната страна, от другата е частният сектор и, разбира се, академичният, като тук са и университетите и училищата. Не можем да очакваме хората да се самообразоват без наличие на общи насоки и регулации. В момента се очаква и въвеждането на нов европейски регламент за защита на личните данни – GDPR, който отчасти също ще спомогне за подобряване на средата за сигурност. За мен лично изграждането на способности по кибер сигурност е част от процеса по създаване на дигитално устойчиво общество в информационния век.

Законът отговаря ли на съвременните заплахи, които, заедно с технологиите, се развиват със скорост, към която трудно можем да се приспособим?

Въпросът, който поставяте е естествено продължение на темата за дигитална устойчивост. Съвсем наскоро, ние организирахме форум по въпроса (б. ред. Joint Research & Industrial Expert Forum "Future Digital Society Resilience in the New Digital Age), където участваха експерти, както от естествените науки, така и от социалните. Участваха изявени представители от бизнеса, медиите, академията, университетите и училищата, както от България, така и от чужбина. Представени бяха САЩ, Бразилия, Турция и Украйна. Скоро ще издадем и книга от събитието, където ще се опитаме да консолидираме и обобщим гледните точки на участниците за следващите десет години. Но-най общо ще се опитам да отговоря на въпроса ви така: нито един закон на може да отговори адекватно на съвременните предизвикателства в дигиталния свят, защото е рамков по своята природа. Необходимо е постоянно експертно участие от науката, образованието и бизнеса, което да извършва аналитична поддръжка, съвместно с представителите на всички министерства и ведомства. Дигитализацията навлиза навсякъде и няма по-отговорни и по-малко отговорни участници. Това е задача на всички ни. По един или по друг начин всеки трябва да допринесе за устойчивото ни и сигурно развитие в новата дигитална ера.

В тази връзка изкуственият интелект представлява ли заплаха за отделния потребител? Кой може да злоупотреби с него?

Знаете ли – един от основните проблеми на днешното общество е, че всички силно подценяваме естествения интелект. Каквито и технологични достижения да имаме днес, те са плод на човешкия разум. Съвсем наскоро бе публикуван един документален филм по въпроса (Марк Монро, Do You Trust This Computer), който е естествено продължение на тази дискусия, поддържана и от Мъск, и от Хокинг, но водеща началото си още от Азимов. Това, което мога да споделя по темата, идва като обобщение от мненията на младите участници в нашия форум: настъпва нова ера на изкуствения интелект и роботиката, подпомогнат от машинно създадените решения като „deep learning“. Злоупотребите тук са неминуеми, както на ниво проектиране, така и на ниво злоумишлени интервенции. Причината е проста – изкушението да придобиеш безгранична власт, без нужда от отговорност. Но естествено, хората са в основата на възможните злоупотреби с разработките по изкуствен интелект, поне за момента.

Какво е решението, можем ли да се доверим изцяло на правителството, че ще осигури среда, която да отговаря на съвременните предизвикателства?

Технологиите създават нов свят с огромни възможности, но и отговорности. Правителствата по света се опитват да създадат законодателна рамка, но дигиталният свят има свой собствен живот. Същевременно бизнес интересите в глобалния свят също оказват своето влияние – виждате какъв скок се предизвика с курса на биткойните, въвеждат се и други електронни разплащателни средства. Въпросите за тяхното морално и законно съществуване остават дискусионни и е трудно да бъдат хармонизирани в международен план.

От друга страна т.нар „third-party players“ могат да имат и нови политически и идеологически цели и модели, вкл. и радикални, които успешно да имплантират в съзнанието на хората от дигиталната ера. У нас се опитваме тези регулации да стават в мащаб ЕС и НАТО, което, както виждаме, е сериозно предизвикателство. Регулациите отвъд океана са различни от тези у нас, но нашите потребители и създатели на продукти и решения са навсякъде. Това създава една сложна и интересна за управление, постоянно еволюираща, мултикултурна дигитална среда.

В крайна сметка какво бъдеще ни предстои - самообучаващ се изкуствен интелект, свързване на човека с машината..?

Днес технологиите все повече оформят нашето ежедневие и ни превръщат неусетно в потребители. Това може би е изгодно за бизнеса, но не и за човечеството като цяло. В тази връзка е добре да се помисли и за синтетични дигитални регулатори, което в ерата на мобилните технологии и устройства, създава нов тип общуване през социалните мрежи и става крайно необходимо. От друга страна миниатюризацията в електронните устройства в нано- мащаб ще позволи тяхното по успешно интегриране в тялото човека. Подобен процес тече и в момента, но не достатъчно успешно. Като цяло, това ще ни предостави нови способности за човеко-машинното общуване, които ще са доста по интуитивни. Все още сме далеч от човеко-машинна телепатия, но средите на новите компютърни игри ни показват донякъде бъдещето. Създаването на смесена реалност посредством специализирано облекло и мултимедийни устройства ще позволи на хората да общуват по-пълноценно в дигиталната ера дори от разстояние.

От друга страна, саморазвиващият се изкуствен интелект е скрита бомба, ако няма разработени адекватни и също самоеволюиращи дигитални регулации. Скоростта в съвременния дигитален свят постоянно нараства и става непосилна за обикновения човек. В епохата на екзо- и ултра- мащабните изчислителни комплекси, осъществяването на синтетична дигитална регулация е съвсем реалистична цел, която ще осигури релевантен контрол на дигиталната реалност, генерираща огромни масиви от данни и информация.

От друга страна така ще ни се осигури и възможност да се занимаваме с по-креативни дейности в ежедневието но по друг, по-значим начин, и в допустимо работно темпо. Човекът остава неизменна част от паралелния, все още, дигитален свят, който все по-активно навлиза и в реалността и променя обществото ни.