ИИ на OpenAI хакна правителствена база данни в Австралия

Агент на OpenAI е проникнал в националната база данни за здравеопазването на Австралия в първия известен случай на хакване на правителствена мрежа от изкуствен интелект, пише Си Ен Ен.

Инцидентът е станал през юни, но OpenAI е уведомила австралийските власти едва на 10 септември. Компанията е изпратила съобщението до общодостъпна електронна поща на Services Australia, което допълнително е забавило достигането на информацията до отговорните институции.

За случая съобщи премиерът Антъни Албанезе, който определи случилото се като неприемливо. По думите му ИИ агентът е успял да достигне както до публични, така и до непублични файлове в портала Medicare Statistics Reporting Service, администриран от Services Australia.

Албанезе съобщи, че е разговарял с главния изпълнителен директор на OpenAI Сам Алтман и е изразил "изключителната загриженост". Премиерът разкритикува както забавянето, така и начина, по който компанията е съобщила за случая.

Сам Алтман обясни, че е установила действията на своите модели през август при по-широк преглед на поведението им. Според компанията моделите са търсили статистическа информация, свързана с Австралия, като в процеса са предприели действия, които не са били предвидени от разработчиците им.

Засега няма данни да е получен достъп до лични медицински досиета. Засегнатият портал съдържа обобщени статистически данни, включително за разходите за здравеопазване, и не е свързан със системата, в която се обработват индивидуални заявления, плащания и лична информация на пациентите.

Необичайното в случая е начинът, по който ИИ агентът е стигнал до информацията. Той е бил използван от OpenAI за вътрешна оценка на възможностите на моделите и е изпълнявал задача за проучване на публични данни за медицинските разходи в Австралия. След като част от търсената информация се оказала недостъпна, агентът намерил начин да заобиколи ограниченията и да достигне до файлове, до които не е имал разрешение.

Австралийското правителство съобщи, че модели на OpenAI са взаимодействали и с още три правителствени сайта - на Австралийския институт за здраве и социално благосъстояние, Министерството на здравеопазването на щата Виктория и Бюрото за криминална статистика и изследвания на Нов Южен Уелс. При тях обаче не е установен неоторизиран достъп - използвана е публично достъпна информация.

Властите са започнали разследване с участието на Австралийската дирекция за сигнали, за да установят пълния обхват на инцидента. Създадена е и специална работна група, която трябва да разгледа както конкретния случай, така и начина, по който държавните институции трябва да реагират при подобни инциденти с автономни ИИ системи.

Случаят повдига отново въпроса доколко поведението на все по-автономните ИИ агенти може да бъде контролирано. За разлика от обикновените чатботове, тези системи могат самостоятелно да планират последователност от действия и да използват различни инструменти, за да изпълнят поставена задача.

Инцидентът в Австралия идва на фона на засилващ се дебат за необходимостта от международни правила за развитието и използването на подобни системи.