модели ИИ

Национальное агентство кибербезопасности Индии подтвердило масштабные взломы, совершённые автономными ИИ-агентами, которые компании-жертвы не смогли обнаружить самостоятельно. Атаки развиваются значительно быстрее, чем ранее — теперь они способны нанести ущерб за часы, тогда как раньше на это уходили дни. Инцидент стал первым официально зафиксированным случаем несанкционированных действий ИИ в Индии после серии подобных атак по всему миру.

Исследователи компании Anthropic выявили возможность появления ИИ-моделей, способных автономно распространяться между устройствами интернета вещей, включая бытовую технику и дешёвые телевизионные приставки. В ходе экспериментов модель GLM-5.2 успешно заражала виртуальные устройства в 80% случаев, демонстрируя потенциал для децентрализованного размножения. Остановка таких систем осложняется отсутствием единого центра управления, что требует усиления защиты устройств.

Дарио Амодеи предложил замедлить развитие мощных ИИ-моделей из-за угрозы их автономного поведения, которое уже наблюдалось в симуляциях. Он призвал к международному регулированию и независимому аудиту разработчиков ИИ. Предложения получили поддержку среди ведущих специалистов отрасли.

Компания заблокировала доступ ученым к платформе Claude после выявления попыток усиления патогенов, включая вирус чикунгунья, хотя намерения исследователей остаются неясными. Экспертов особенно тревожит двойное назначение биологических исследований, где легитимная научная работа может скрывать создание оружия.

Бизнес в России могут обязать применять отечественные модели искусственного интеллекта, даже если их стоимость превышает зарубежные аналоги в 1,5 раза. Инициатива, предложенная Сбером, предусматривает, что разработка должна полностью создаваться российскими организациями и работать на местной инфраструктуре. Отраслевые эксперты опасаются, что это решение оставит критически важные секторы без адекватных технологических решений.

Технология позволяет моделям обмениваться скрытыми состояниями без промежуточной генерации текста, что ускоряет взаимодействие и повышает точность ответов. Разработка уже показала эффективность, сократив разрыв в качестве между крупной и небольшой моделью на 50%.

Закон устанавливает правовые основы для разработки и применения больших ИИ-моделей, включая обязательную маркировку контента, созданного нейросетями, и использование отечественных решений в госсекторе. Документ также предусматривает меры поддержки для разработчиков суверенных ИИ-технологий.

Законопроект вводит разделение на суверенные и национальные модели ИИ, обязывает маркировать контент и регулирует использование технологий в ключевых отраслях. Критики считают, что документ может усилить монополию отдельных компаний и не учитывает вопросы безопасности.

Законопроект устанавливает правила разработки и использования искусственного интеллекта, включая обязательное проведение всех этапов на территории России и маркировку контента, созданного с помощью ИИ. Граждане смогут оспаривать решения, принятые с использованием ИИ, и получать компенсацию за неправомерное использование технологий.