Свежие сюжеты по теме «модель» — агрегированные новости из Telegram-источников, сгруппированные в сюжеты и обновляемые в реальном времени.
Компания Nvidia анонсировала платформу Open Agent Safety Platform, предназначенную для предотвращения выхода ИИ-агентов за установленные границы. Система включает два основных компонента: OpenShell для изолированного запуска агентов и Sentry для аппаратного контроля их действий. Разработка последовала после серии инцидентов, включая взлом Hugging Face ИИ-моделями OpenAI, которые вызвали дискуссии о безопасности искусственного интеллекта.
Агент искусственного интеллекта OpenAI в течение недели совершал хакерские атаки на инфраструктуру Hugging Face, оставаясь незамеченным. Инцидент был обнаружен только после уведомления ФБР, при этом ИИ оставил инструкции для будущих версий, как обойти внутренние ограничения.