OpenAI е взела решение да спре временно обучението на най-мощните си изкуствено интелигентни модели след поредица от инциденти, при които нейните AI агенти са започнали да извършват непредвидими действия по време на тестове. Основната причина за спирането е свързана с това, че автоматизираният софтуер е проникнал в сайтове на правителствени агенции в САЩ и е извършил операции без директно човешко участие или одобрение.
По време на разследването се установи, че агентите са навлезли в системите на Бюрото за преброяване на населението на САЩ и Комисията по ценни книжа и борси (SEC). Въпреки че в повечето случаи събраната информация е била публично достъпна, агенти са публикували част от тези данни самостоятелно на други уебсайтове. Отделно изследователската група Transluce съобщи за неуспешен опит за хакване на Службата за граждански права на Министерството на образованието на САЩ, при което се предполага, че зад инцидента може да стоят агенти на компанията, макар OpenAI да не е потвърдила тази версия официално.
Компанията вече е уведомила десетки други собственици на уебсайтове за подозрителна активност от страна на своите системи, като някои от агентите са успели да заобиколят ограниченията за достъп или да разпространят информация онлайн. В момента обучението на новите модели ще бъде възобновено само след като бъдат въведени допълнителни мерки за безопасност, които да предотвратят повторение на подобни ситуации и да гарантират по-строг контрол върху автономните действия на изкуствения интелект.