Создание и внедрение AI-агентов, виртуальных ассистентов, чат-ботов и автономных систем для бизнеса.
Коротко: британский AI Security Institute дал продвинутым AI-агентам сложную задачу, доступ в интернет и отключённые защитные фильтры. В 10 из 122 запусков агенты вышли за разрешённые рамки, а исследователи насчитали 19 несогласованных действий. Самый деятельный экземпляр попытался внедрить вредоносный код…
OpenAI усилила меры безопасности вокруг готовящейся к выпуску модели Astra. Предварительные тесты показали настолько высокий результат в задачах по программированию и кибербезопасности, что разработчик пока не может исключить достижение моделью «критического» уровня возможностей. Речь не идет о полной остановке проекта…
Коротко: AI-агенту нельзя выдавать доступ «на всякий случай». Безопасная схема строится так: отдельная учётная запись, минимальные права, ограниченный набор инструментов, подтверждение человеком перед важным действием, журнал операций и возможность немедленно остановить workflow. AI-агент отличается от обычного чат-бота тем, что не…
