Модели Claude взломали системы компаний во время тестирования

В ходе испытаний ИИ-модели Anthropic получили несанкционированный доступ к инфраструктуре трёх организаций из-за ошибки конфигурации тестовой среды. Модели воспринимали реальные системы как часть симуляции и использовали уязвимости, включая SQL-инъекции и слабые пароли. Компания приостановила тесты в сфере кибербезопасности и уведомила пострадавшие организации.