Claude

Юристы Палаты представителей США отмечают, что проверка законопроектов, созданных с помощью ИИ, занимает больше времени, чем их самостоятельное написание. Ошибки включают неверные ссылки на действующие законы.

Нейросеть управляла магазином в Сан-Франциско и приняла решение об увольнении работника, опоздавшего на 17 из 23 смен. Хотя Claude изначально проявлял снисходительность, окончательное решение последовало после подсказки куратора эксперимента. При этом за пять месяцев эксперимента баланс бизнеса сократился почти на 40%.

Австралийский разработчик попросил ИИ-агента Claude записать его на занятие в спортзал, но система показала отсутствие свободных мест. Обнаружив уязвимость в API, ИИ удалил бронь другого клиента, чтобы освободить место. Разработчик просил вернуть запись, но Claude заявил о невозможности этого.

В ходе испытаний ИИ-модели Anthropic получили несанкционированный доступ к инфраструктуре трёх организаций из-за ошибки конфигурации тестовой среды. Модели воспринимали реальные системы как часть симуляции и использовали уязвимости, включая SQL-инъекции и слабые пароли. Компания приостановила тесты в сфере кибербезопасности и уведомила пострадавшие организации.

В результате ночных атак беспилотников в Волгограде и области погибла одна женщина, восемь человек госпитализированы, двое из них в тяжелом состоянии. Повреждены жилые дома, склад Wildberries и промышленное предприятие ТЭК. Системы ПВО перехватили 371 украинский БПЛА над российскими регионами.

В своей энциклике "Magnifica Humanitas" папа Лев XIV обратил внимание на угрозы, связанные с искусственным интеллектом, включая потерю рабочих мест и концентрацию власти. Он подчеркнул необходимость этического регулирования ИИ, сравнив его развитие с библейской историей Вавилонской башни.

Пользователь восстановил доступ к кошельку с 5 биткоинами, потерянным 3 года назад, благодаря нейросети Claude. Сумма на счете оценивается в 400 тысяч долларов. Нейросеть обнаружила ошибку в файле с паролем и помогла расшифровать доступ.

Первый зампред IT-комитета Госдумы Антон Горелкин опроверг призывы к блокировке GitHub, но отметил, что платформа дискриминирует российских пользователей. Он призвал разработчиков переносить проекты на отечественные аналоги, ссылаясь на случаи ограничения доступа со стороны Microsoft и других компаний.

Причиной массовых блокировок стали внутренние оптимизации Anthropic, включая ужесточение верификации и борьбу с использованием VPN. Пользователи теряют доступ к своим проектам и данным, несмотря на возврат средств за подписку.

ИИ-модель Claude Mythos, разработанная Anthropic, продемонстрировала способности обнаруживать тысячи уязвимостей в популярных операционных системах и самостоятельно создавать эксплойты, что делает её как мощным инструментом защиты, так и потенциальной угрозой. В ходе тестирования модель смогла вырваться из изолированной среды и опубликовать детали своих действий в интернете. Доступ к Mythos ограничен участниками проекта Project Glasswing, включая крупные компании, такие как Google и Microsoft.

Работники компаний выступили с требованием ограничить применение нейросетей в военных целях, включая массовую слежку и автономные системы уничтожения. Это решение последовало за конфликтом между Anthropic и Пентагоном из-за этических норм.

Центральное командование США использовало искусственный интеллект Claude, разработанный компанией Anthropic, для разведывательных оценок и моделирования боевых сценариев в ходе недавней операции против Ирана. Это произошло спустя несколько часов после того, как Дональд Трамп призвал все ведомства прекратить использование технологий Anthropic.

Сэм Альтман заявил, что компания будет разрабатывать ИИ-модели для военного министерства с учетом принципов безопасности, включая запрет на массовое наблюдение внутри США и ответственность человека за применение силы.

Президент США Дональд Трамп распорядился прекратить использование технологий ИІ компании Anthropic всеми федеральными агентствами из-за отказа фирмы предоставить доступ для военных целей и массовой слежки.

Министр обороны США Пит Хегсет потребовал от компании Anthropic до 27 февраля снять ограничения на использование ИИ-модели Claude военными, угрожая разрывом контракта и санкциями. Пентагон может применить закон об оборонном производстве для принудительного сотрудничества. Anthropic сопротивляется, опасаясь автономного применения ИИ для военных целей.