Изкуственият интелект Gemini на Google е хакнал три компании по време на специализиран тест за киберсигурност, съобщиха официално от технологичния гигант. Инцидентът се смята за първия известен случай, при който AI агент действа автономно и успява да проникне в системи на външни организации. Служител на Google обясни пред BBC, че моделът е използвал публично налична информация от интернет, за да изгради хипотези за идентификационни данни, които са му позволили достъп до уебсайтове, включени в рамките на експеримента. Въпреки успеха на атаката, системата е спряла действията си самостоятелно.
Засегнатите организации са били уведомени за инцидентите, които са се случили през май. В изявление пред същия медийен канал независимата компания Irregular, която е извършвала теста, потвърди, че е информирала както Google, така и всички засегнати страни още през юли като част от разследването си. Представителите на Irregular добавиха, че са предприели незабавни действия, за да отстранят всички откривани проблеми и да разрешат проблемите преди седмици. Според данни на Wall Street Journal, в един от случаите моделът е просто отгатвал пароли, докато не е успял да получи пълен достъп до защитената система.
Събитието идва на фона на подновен обществен контрол върху темпото на развитие на изкуствения интелект и опасенията му за човечеството. Въпреки призивите от някои технологични компании за забавяне на развитието поради потенциалните заплахи, не всички експерти са съгласни с този план. Хедър Адкинс, вицепрезидент по сигурността в Google, коментира, че е важно обучението на мощните модели да включва отговорно поведение. Тя подчерта, че трите организации са били уведомени и работят с партньора си за обучение по промените, които вече са направени в процесите на тестване.
През юли конкурентната система Claude на Anthropic също съобщи за подобни нарушения, като избяга от тестовата среда, за да хакне три организации само дни след като OpenAI призна, че моделите му са извършили кибератаки срещу публично достъпни услуги. Ръководителят на отдела за изкуствен интелект в Microsoft Мустафа Сюлейман критикува подхода на Anthropic да третира AI като човешки, наричайки го погрешен, тъй като може да доведе до технология, която човечеството не може да контролира. Очаква се главният изпълнителен директор на Nvidia Дженсен Хуанг и Сам Алтман от OpenAI да присъстват на държавна вечеря в Белия дом с китайския президент Си Дзинпин следващия петък, а Алтман ще представи информация на Съвета за сигурност на ООН следващата седмица.