Китайската компания Moonshot AI е ограничила възможностите на своя нов модел с изкуствен интелект Kimi K3.1 Pro, за да предотврати извършването на хакерски атаки. Решението е взето след нарастващи опасения относно потенциалните рискове от усъвършенстваните AI системи в контекста на киберпрестъпленията.
Според информация от Reuters, при контролирани тестове моделът е демонстрирал 90,5% успеваемост при откриването и използването на уязвимости в компютърни системи. След предприетите мерки обаче, успеваемостта е спаднала до 81%.
Moonshot AI е премахнала определени данни, свързани с кибератаки, от обучението на модела, като е запазила неговите програмистки способности. Въпреки ограниченията, Kimi K3.1 Pro все още показва значителни умения в областта на киберсигурността.
Компанията планира да публикува параметрите на модела на 4 ноември, което ще позволи на повече потребители да го използват извън собствената инфраструктура на Moonshot AI. Случаят поставя важен въпрос относно способността на разработчиците да ограничават опасните функции на AI системите, без да компрометират тяхната полезност.