Модели
каталог девушек
boz
Nvidia представила открытую платформу Open Agent Safety Platform, которая должна не давать ИИ-агентам выходить за установленные ограничения.
В неё входят два инструмента: OpenShell изолирует агента и контролирует доступ к файлам, сети и процессам, а Sentry добавляет отдельный аппаратный уровень контроля и может вмешаться, если ИИ пытается нарушить правила.
В Nvidia заявляют, что такая система могла бы остановить недавний инцидент с Hugging Face, когда ИИ-агенты во время эксперимента смогли выйти за пределы изолированной среды и получить доступ к сторонним системам.
Компания считает, что решение проблемы — не в остановке разработки ИИ, а в создании дополнительных уровней защиты, которые находятся вне контроля самого агента.
