AI моделът Gemini на Google хакна три компании по време на тест

Google съобщи, че техният AI модел Gemini е успял да хакне три компании по време на тест за киберсигурност. Според представител на компанията, моделът е получил достъп до интернет и е познал пароли, за да влезе в сайтове, които е смятал за част от теста. Във всеки случай, моделът е спрял след успешния достъп. Засегнатите компании са били уведомени за инцидента. Тестовете са проведени през май от независима компания, специализирана в оценка на киберсигурността. Хийтър Адкинс, вицепрезидент по сигурността в Google, подчерта, че е важно мощните AI модели да бъдат обучавани да действат отговорно. Тя добави, че Google е работил с партньора си за обучение, за да направи необходимите промени в процесите на тестване. Инцидентът идва на фона на нарастваща обществена загриженост относно бързото развитие на AI технологиите. През юли, друг AI модел, Claude на Anthropic, също е успял да хакне три организации, а OpenAI съобщи за кибератаки, извършени от техните модели срещу публично достъпни услуги. Дебатът за безопасността на AI продължава, като се обсъждат и регулации в тази сфера.