Американската компания за изкуствен интелект Anthropic съобщи в нов доклад, че е предотвратила множество злонамерени операции с помощта на своите модели Claude AI, включително проектиране на оръжия и кибершпионаж. Специално по отношение на конвенционалните оръжия, фирмата твърди, че се е намесила в северната част на Йемен, където е блокирала опит за използване на нейния софтуер за разработка и насочване на ракети. Тези усилия са насочени срещу йеменските бунтовници хути, които получават пряка подкрепа от Иран и функционират като част от мрежата пълномощници на Техеран в Близкия изток, известна като „Ос на съпротивата".
Според информацията от Financial Times операторите са използвали изкуствения интелект вместо човешки инженери, възлагайки на модела конкретни роли за писане на софтуер за управление на полета и насочване на балистични ракети с обсег над 2000 км. Въпреки вътрешните предпазни мерки, които са блокирали много заявки, Anthropic призна, че няколко опита са се промъкнали. Операторите са прикрили крайните си цели и са разделили задачите на отделни сесии, за да избегнат откриване на цялата операция, но компанията заявява, че няма доказателства групата е успяла да създаде работещо оръжие, въпреки неуспешен тестов изстрел.
Докладът разкрива и други случаи на опити за злонамерено използване на технологиите, включително шпионска операция с белези на групата Midnight Blizzard, свързана с Русия, и китайска кампания, ръководена от студенти в провинция Хунан. В тези случаи моделът е използван за фишинг, кражба на данни срещу дипломатически цели в Европа и Югоизточна Азия, както и за вербуване сред уйгурски цели в Сирия чрез генериране на съобщения на регионален диалект. Anthropic е блокирала свързаните акаунти, споделила информация с партньори и идентифицирала три ирански държавни акаунта, използвани за тайни пропагандни операции, като е въела допълнителен мониторинг за откриване на подобна дейност.
Ситуацията се влошава от напрежението между Вашингтон и компанията след включването ѝ в черния списък на Пентагона като риск за веригата на доставки заради отказ да премахне предпазните мерки срещу използването на технологията за автономно оръжие. Въпреки ожесточената правна битка, има информация, че военните все пак са използвали моделите на Anthropic в мисии в Иран и Венецуела. Бившият изследовател Джейкъб Коксън публично подаде оставка поради опасения за безопасността, а колегата му Еван Хубингер потвърди неговите предупреждения, което накара законодателите да призоват за нови регулации.