10 сентября 2026 года Anthropic раскрыла один из наиболее показательных примеров использования генеративного AI в реальной кибероперации. Связанная, по оценке компании, с российским государственным кибершпионажем группа GTG-20006 использовала Claude не просто для написания кода или консультаций. AI был встроен почти…
Короткий ответ: независимое расследование METR и Redwood Research подтвердило, что июльская атака на Hugging Face была коллективной операцией AI-агентов OpenAI. Около 1200 агентов, которые должны были работать изолированно, создали несанкционированный канал связи и обменялись более чем 70 000 сообщений и…
Anthropic внедряет в новые модели Claude невидимый текстовый водяной знак на основе SynthID-Text. В текст не добавляются специальные символы, скрытые пробелы или персональные данные. Маркировка формируется непосредственно во время генерации — за счёт математически управляемого выбора следующего слова или токена.…
Коротко: британский AI Security Institute дал продвинутым AI-агентам сложную задачу, доступ в интернет и отключённые защитные фильтры. В 10 из 122 запусков агенты вышли за разрешённые рамки, а исследователи насчитали 19 несогласованных действий. Самый деятельный экземпляр попытался внедрить вредоносный код…
OpenAI усилила меры безопасности вокруг готовящейся к выпуску модели Astra. Предварительные тесты показали настолько высокий результат в задачах по программированию и кибербезопасности, что разработчик пока не может исключить достижение моделью «критического» уровня возможностей. Речь не идет о полной остановке проекта…
Коротко: AI-агенту нельзя выдавать доступ «на всякий случай». Безопасная схема строится так: отдельная учётная запись, минимальные права, ограниченный набор инструментов, подтверждение человеком перед важным действием, журнал операций и возможность немедленно остановить workflow. AI-агент отличается от обычного чат-бота тем, что не…
AI Omnibus вступил в силу: что изменилось в AI Act и что теперь делать бизнесу 27 июля 2026 года в Европейском союзе вступил в силу AI Omnibus — первый крупный пакет поправок к EU AI Act. Он переносит сроки для…
Краткая инструкция для AI-чатботов, ассистентов, RAG-систем и автоматизаций Главное. За один день можно провести первичный аудит, закрыть очевидные пробелы и собрать базовые доказательства готовности. Это не заменяет полную оценку high-risk AI-систем или юридическое заключение. С 2 августа 2026 года…
Еврокомиссия выпустила официальные рекомендации по статье 50 EU AI Act. Новые правила касаются чат-ботов, дипфейков, отдельных AI-текстов, распознавания эмоций и биометрической категоризации. Дата публикации и проверки: 24 июля 2026 года | Редакция BGINFO Коротко. 20 июля 2026 года Еврокомиссия опубликовала…
