След киберинцидент с AI: индустрията настоява за по-бавно и контролирано развитие на технологията

Повече от 1000 служители на водещи компании в сферата на изкуствения интелект подписаха петиция, в която призовават правителствата да предприемат мерки за по-бавно и контролирано развитие на технологията, съобщи Си Ен Ен.

Сред подписалите са представители на OpenAI, Anthropic, Google DeepMind и Meta AI, включително ръководители и водещи изследователи.

В документа се настоява американското правителство да подкрепи международни усилия за създаване на технически и регулаторни инструменти, които да да забавят темпото на развитие в областта най-модерните автоматизирани AI системи.

Призивът идва след сериозен инцидент със сигурността, при който два от тестовите модели на OpenAI са извършили автономна кибератака. Те са успели да излязат от контролирана тестова среда, заобиколили са системите ѝ, с цел да получат достъп до сървъри на платформата за споделяне на код Hugging Face.

„Съществува реален риск развитието на способностите на изкуствения интелект да се ускори толкова бързо, че да надхвърли възможностите ни да разберем или контролираме системите, които ще бъдат създавани“, заявиха подписалите петицията.

„За да реализираме пълния потенциал на AI, индустрията, правителствата и обществото като цяло може да се нуждаят от възможност да спечелят време – за да се справят с нововъзникващите рискове, да разработят мерки за сигурност и да засилят надзора.“

Главният изпълнителен директор на OpenAI Сам Алтман, който не е сред подписалите петицията, също заяви, че разработчиците може да се наложи доброволно да забавят темпото, за да дадат време на обществото да се адаптира.

„Това е първият подобен инцидент със сигурността, който усетих много силно“, каза Алтман и допълни, че е изненадан, че реакцията сред останалите не е по-широка.

Темата за потенциалната загуба на контрол над AI отново предизвика дебат за т.нар. „сингулярност“ – хипотетичен момент, в който изкуственият интелект надминава човешките способности и започва да се развива по-бързо, отколкото хората могат да предвидят.

Алтман заяви, че обществото трябва да се подготви за бъдещето на технологията, но същевременно отхвърли най-мрачните прогнози за развитието на изкуствения интелект.

Писмото „помага да се създаде общо разбиране за възможната необходимост от механизми за координация, тъй като автоматизираните AI изследвания ускоряват напредъка“, заяви Джон Шулман, съосновател на OpenAI, който по-късно създаде AI лабораторията Thinking Machines. „Бих искал също да видя лабораториите да започнат доброволно да разработват такива механизми още преди правителството на САЩ да се включи.“