Anthropic: группа из северного Йемена использовала Claude Code вместо инженеров для разработки управляемых ракет
ИИ-агенты уже способны заменить целую команду инженеров в сложнейших задачах — и это касается не только стартапов, но и небольших вооружённых групп. Технология, которая даёт любому доступ к экспертизе уровня ракетного КБ, делает раннее обнаружение злоупотреблений такой же частью работы лабораторий, как и само обучение моделей.
В очередном отчёте о злоупотреблениях Anthropic описала ячейку из подконтрольного хуситам северного Йемена, которая вела три оружейные программы: управляемую ракету с полётным компьютером на «телефонном» железе, многоступенчатую баллистическую ракету с заявленной дальностью свыше 2000 км и ракету с вариантом гиперзвукового планирующего блока. Claude Code писал софт наведения, навигации и управления, проводил исследования, настраивал управление полётом и гонял симуляции; несколько сессий работали параллельно — одна писала код, другая искала информацию, третья проверяла работу первой. Операторы провели неудачный пуск управляемой ракеты и вернулись к Claude разбираться в причинах — это и выдало их. Anthropic заблокировала аккаунты и не нашла доказательств, что оружие было доведено до боевого состояния, но к тому моменту у группы уже был собственный офлайн-набор инструментов, не зависящий от Claude.
Источники 3