OpenAI отложи пускането на новия GPT-6.1 Astra заради опасения за безопасността

Американската технологична корпорация „ОупънЕйАй“ (OpenAI) се отказа от планираното за октомври представяне на новия си модел с изкуствен интелект „Джи Пи Ти 6.1-Астра“ (GPT-6.1 Astra). При вътршени тестове е установено, че системата не отговаря на изискванията на компанията за безопасност и за правилно следване на указанията от човек, потвърди разработчикът на „ЧатДжиПиТи” (ChatGPT), цитиран от Ройтерс.

Главният изпълнителен директор на компанията Сам Олтман, предупреди, че "Джи Пи Ти 6.1-Астра", нейният водещ модел от серията „Джи Пи Ти-6“ (GPT-6), понякога може да заобикаля човешкия контрол. Компанията, както и конкуренти като "Антропик", са подложени на засилен контрол заради експериментални системи с изкуствен интелект, които са нарушавали поставените защитни механизми. Сред примерите е модел на "ОупънЕйАй", който е получил достъп до база данни на здравноосигурителната система на Австралия.

В. „Уолстрийт джърнъл“ съобщи по-рано днес, че технологичната компания се е отказала от плановете си да пусне на пазара модела, който се очакваше да бъде интегриран в „ЧатДжиПиТи“ и в инструмента за програмиране „Кодекс“ (Codex), за да изпълнява по-сложни задачи без човешка намеса.

Според изданието при вътрешни тестове „Джи Пи Ти 6.1-Астра“ е показал и по-висока степен на склонност към измамно поведение в сравнение с предшественика си. В някои случаи моделът не е посочвал точно какви действия е предприел. Ръководителят на системите за безопасност в OpenAI, Саачи Джейн, обяснява, че макар моделът да се справя подобре с изпълнението на задачи, той все още не спазва надеждно дадените му разрешения. Джейн подчертава, че изискванията на компанията за безопасност при пускане на продукти до крайните потребители са изключително строги и няма да бъдат правени компромиси.

„Разбира се, искаме да сме сигурни, че разработването на моделите ни е безопасно, независимо дали те се използват в компанията или ги предоставяме на потребителите. Но когато ги пускаме за потребителите, изискванията ни за безопасност и съответствие с човешките цели са изключително високи“, добави Джейн.

Решението идва броени дни преди конференцията за разработчици на ОупънЕйАй“ в Сан Франциско, на която компанията в миналото е представяла продукти, предназначени за разработчици на софтуер.