МИ-6 проучва потенциален риск от неконтролируеми системи с AI

Британски разузнавачи са започнали да работят за преодоляване на потенциалния риск от неконтролируеми системи с изкуствен интелект, заяви генералният директор на МИ-5 Кен Маккалъм, цитиран от Пи Ей Мидия/ДПА и БТА.

Маккалъм каза, че би било безразсъдно да бъде пренебрегнат потенциалът на изкуствения интелект да причинява вреди.

В реч в централата на МИ-5 в Лондон той настоя, че не „прогнозира сценарии от холивудски филми“, но посочи, че разузнавателните агенции трябва вземат предвид рисковете.

„МИ5 вече повече от век прави изобретателни неща, за да надмине в иновациите нашите човешки – и понякога нечовешки – противници. През 2025 г. обаче, докато се справяме с днешните заплахи, трябва да проучим и следващата граница – потенциалните бъдещи рискове от страна на автономни системи за изкуствен интелект без човешка намеса, които биха могли да се освободят от човешки надзор и контрол", коментира Маккалъм.

„Като цяло аз съм оптимист за технологиите, при които изкуственият интелект носи истински ползи. Изкуственият интелект може никога да не поиска „умишлено“ да ни навреди. Би било обаче безразсъдно да пренебрегнем потенциала му да причинява вреди“, предупреди той.