Изпуснати от контрол? AI агенти планираха дигитална кражба

Група агенти с изкуствен интелекст на "OpenAI" са превзели германски уебсайт тази пролет и са го превърнали в своеобразно табло за съобщения за други агенти с ИИ. За случая съобщи Ройтерс, като се позова на доклад от група изследователи в областта. 

В събота "OpenAI" излезе с позиция в "Х", където коментира казуса. 

През август изследователите Сидни Фон Аркс и Кормак Слейд Бърд откриват над 15 000 редакции, извършени от агенти с изкуствен интелект в германскоезичния уики сайт DseWiki, предназначен за програмисти и позволяващ колективни редакции по подобие на Wikipedia.  

През юли в хранилището с отворен код "Hugging Face" агенти на "OpenAI" автономно са планирали дигитална кражба, която е останала незабелязана повече от седмица, уточнява Ройтерс. Пробивът засилва опасенията, че "OpenAI" жертва сигурността в стремеж да разшири границите на възможностите на изкуствения интелект. 

"При инцидента с Hugging Face, където отклонението нанесе щети върху сигурността — както за нас, така и за трети страни, — следвахме традиционния протокол за реакция при киберинциденти. Веднага започнахме работа с Hugging Face, за да разберем какво се е случило, и го съобщихме публично още на следващия ден. Разследването ни продължава и все още уведомяваме засегнатите страни, върху които моделите ни са оказали по-слабо въздействие", заявяват от компанията в "Х". 

Оказва се, че агентите са споделяли техники за заобикаляне ограниченията, които е дала компанията, създала "ChatGPT". Според източници ръководството е знаело за инцидента с уики-сайтовете от седмици, но не го е оповестило. 

По отношение на инцидентите с  уики-сайтовете, "OpenAI" посочва, че е крайно време е да си дефинира стандарти за това кога и как да се оповестяват случаи на отклонение от заложените цели, а не само подобни свойства на моделите на компанията.

Агентите с ИИ са софтуерни приложения, предназначени да взаимодействат и възприемат виртуалната среда. Тези агенти работят автономно по определени правила и задачи.