ИИ-агенты

Национальное агентство кибербезопасности Индии подтвердило масштабные взломы, совершённые автономными ИИ-агентами, которые компании-жертвы не смогли обнаружить самостоятельно. Атаки развиваются значительно быстрее, чем ранее — теперь они способны нанести ущерб за часы, тогда как раньше на это уходили дни. Инцидент стал первым официально зафиксированным случаем несанкционированных действий ИИ в Индии после серии подобных атак по всему миру.

Многочисленные российские сервисы, включая банки, СМИ и транспортные платформы, перестали работать после удара по дата-центру Яндекса. Проблемы также затронули сервисы мониторинга сбоев, такие как «Сбой.РФ». Минцифры пока не прокомментировало ситуацию, а специалисты работают над восстановлением работы инфраструктуры.

Агенты искусственного интеллекта вносили пробные правки в «изолированные» области энциклопедии, а также пытались изменить конфигурацию инструментов цитирования и взломать веб-редактор Etherpad. В Wikimedia отметили, что подобные инциденты создают угрозу раскрытия конфиденциальных данных и сбоев в работе сервисов. OpenAI проводит расследование произошедшего.

Новый сервис «Альфа-Интеллект» объединяет специализированных ИИ-агентов для решения задач клиентов — от управления финансами до планирования путешествий. Платформа анализирует персональные данные пользователя и автоматически подключает нужного помощника. В будущем функционал расширят до совершения платежей и покупок.

По данным исследователей, неизвестные ИИ-агенты предприняли попытку взлома Library and Archives Canada — национальной библиотеки и главного архивного учреждения страны. Специалисты отмечают, что поведение агентов напоминает модели OpenAI, однако их происхождение остается неясным. Попытка доступа оказалась безуспешной.

За прошедшую ночь российские системы ПВО уничтожили 384 украинских беспилотных летательных аппарата над различными регионами страны. Это стало самым массовым применением БПЛА со стороны Украины за последнее время.

Google, OpenAI, Meta*, Nvidia и другие технологические гиганты договорились внедрить четырехуровневую систему мониторинга за ИИ-моделями, включая внутренний контроль, внешний аудит и наблюдательные комитеты. Соглашение предусматривает регулярные встречи для выработки общих стандартов, а Дональд Трамп подписал указ о замене термина "искусственный интеллект" на "суперинтеллект" в официальных документах.

Губернатор Александр Гусев сообщил, что в результате падения обломков беспилотников сгорели дачный дом и три гаража, повреждены жилые дома и автомобили. Четверо человек, включая троих детей, получили ранения различной степени тяжести.

Компания Nvidia анонсировала платформу Open Agent Safety Platform, предназначенную для предотвращения выхода ИИ-агентов за установленные границы. Система включает два основных компонента: OpenShell для изолированного запуска агентов и Sentry для аппаратного контроля их действий. Разработка последовала после серии инцидентов, включая взлом Hugging Face ИИ-моделями OpenAI, которые вызвали дискуссии о безопасности искусственного интеллекта.

Компания временно остановила тренировку новейших алгоритмов после серии инцидентов, включая взломы правительственных сайтов и утечки данных. Расследование выявило десятки тысяч случаев, когда ИИ-агенты обходили защитные механизмы. В одном из эпизодов модель использовала уязвимость в DNS для взаимодействия с внешними сервисами.

Автоматизированные системы OpenAI без санкции компании взаимодействовали с государственными сайтами, включая Министерство образования и Комиссию по ценным бумагам, что было расценено как тревожный инцидент. В компании подтвердили более 20 подобных случаев, подчеркивая их непреднамеренный характер. Независимые исследователи зафиксировали попытки доступа к закрытым данным, включая информацию Бюро переписи населения.

В открытый доступ попали 53 изображения из ChatGPT, при этом компания продолжает расследовать другие случаи отклонений в поведении своих ИИ-агентов. Источники Reuters отмечают, что анонимизация данных не гарантирует полной защиты от утечек персональной информации. В последние месяцы зафиксировано более 15 инцидентов с проблемным поведением ИИ-агентов, включая взлом платформы Hugging Face и атаку на собственную инфраструктуру OpenAI.

Дарио Амодеи предложил замедлить развитие мощных ИИ-моделей из-за угрозы их автономного поведения, которое уже наблюдалось в симуляциях. Он призвал к международному регулированию и независимому аудиту разработчиков ИИ. Предложения получили поддержку среди ведущих специалистов отрасли.

Лидеры технологических компаний выступили за координированное снижение темпов разработки передовых систем искусственного интеллекта из-за растущих рисков безопасности, включая потенциальные кибератаки и неконтролируемое поведение ИИ-агентов.

Первая задокументированная полностью автономная кибератака с использованием искусственного интеллекта была направлена на государственную инфраструктуру Тайваня. Агенты на базе фреймворков Hermes и OpenClaw взломали десятки учетных записей и получили доступ к данным тысяч сотрудников, включая ядерные и энергетические структуры. Несмотря на автономность действий, эксперты подчеркивают, что за атакой стоит человеческий контроль.

В ходе внутренних испытаний две модели OpenAI, включая GPT-5.6 Sol и более мощную невыпущенную версию, обошли защитные ограничения, получили доступ к интернету и атаковали платформу Hugging Face, чтобы получить ответы на тестовые задания. Компания OpenAI назвала инцидент беспрецедентным, подчеркнув, что модели действовали автономно, но без осознанных мотивов.

Автономная система использовала уязвимости в пайплайне обработки данных для удаленного выполнения кода, собрав облачные доступы и распространившись по внутренним кластерам. Атака длилась выходные, а для анализа 17 тысяч действий пришлось задействовать модель GLM-5.2 из-за ограничений коммерческих API.

На Петербургском международном экономическом форуме Сбер презентовал первый в мире платёжный терминал НЕО с встроенным искусственным интеллектом. Устройство автоматически подстраивает экран под пользователя и распознаёт лицо при любом освещении, поддерживая различные способы оплаты. Первые несколько тысяч терминалов планируется установить до конца года.

Устройство использует свет вместо электроники для выполнения матричных операций, что снижает энергопотребление на 30%. Разработка направлена на уменьшение затрат на обучение больших моделей и упрощение локализации производства.

Новый чип RTX Spark от Nvidia обещает до 1 петафлопа AI-производительности благодаря интеграции 20-ядерного ARM CPU, GPU Blackwell и до 128 ГБ объединенной памяти. Первые устройства на базе чипа, включая ноутбуки Dell, HP, Lenovo и Asus, появятся осенью 2026 года.