Краткая инструкция для AI-чатботов, ассистентов, RAG-систем и автоматизаций
|
С 2 августа 2026 года применяются требования прозрачности статьи 50 EU AI Act. Для бизнеса это прежде всего понятное уведомление о взаимодействии с AI, правильная маркировка отдельных видов контента и возможность показать, как система контролируется.
Сначала определите: это обычный или high-risk проект?
Остановите однодневный сценарий и назначьте отдельную оценку, если AI влияет на найм, кредитование, доступ к образованию или важным услугам, использует биометрию/распознавание эмоций либо связан с безопасностью и медициной.
- Обычный чат-бот поддержки или поиск по базе знаний: чаще всего начинайте с прозрачности, GDPR, безопасности и контроля человека.
- AI-агент, который отправляет письма, меняет CRM, создаёт платежи или удаляет данные: добавьте подтверждение критичных действий и подробный журнал.
- High-risk кейс: потребуется более глубокая классификация, управление рисками, техническая документация и, возможно, оценка соответствия.
План на один рабочий день
| Время | Задача | Результат |
| 09:00–10:00 | Инвентаризация | Карта: функции AI, пользователи, данные, интеграции, действия и ответственный. |
| 10:00–11:00 | Прозрачность | Уведомление о взаимодействии с AI показано до или в начале первого контакта. |
| 11:00–12:00 | AI-контент | Правила маркировки текста, изображений, аудио, видео и дипфейков. |
| 12:00–14:00 | GDPR | Минимизация данных, основание обработки, сроки хранения, DPA и уведомление о конфиденциальности. |
| 14:00–15:00 | Журналирование | Логи действий агента, ошибок, подтверждений человека и версий системы. |
| 15:00–16:00 | Безопасность | Минимальные права, защита ключей, лимиты, human approval и аварийная остановка. |
| 16:00–17:00 | Документация | Паспорт системы, схема данных, роли, риски, изменения и порядок инцидентов. |
| 17:00–18:00 | Тест и фиксация | Скриншоты, тест-кейсы, образец лога и подписанное решение о готовности/доработке. |
Что именно сделать: короткая инструкция
1. Уведомите человека, что он общается с AI
Покажите сообщение с начала первого взаимодействия. Оно должно быть ясным, заметным и доступным. Не прячьте информацию только в пользовательском соглашении.
|
2. Установите правила маркировки AI-контента
| Ситуация | Что сделать |
| AI-чатбот / агент | Сообщить о взаимодействии с AI в начале диалога. |
| Дипфейк: реалистичные изображение, аудио или видео | Добавить ясную видимую пометку не позднее первого показа. |
| Текст по общественно значимой теме | Маркировать, если он создан/существенно изменён AI и не прошёл содержательную проверку человеком. |
| Редакционный материал после реальной проверки | Отдельная пометка обычно не требуется, если человек может изменить/отклонить текст и несёт редакционную ответственность. |
| Ваш собственный генеративный AI-сервис | Проверить машинно-читаемую маркировку и обнаруживаемость выходного контента. |
3. Сократите использование персональных данных
- Не отправляйте в модель ФИО, телефоны, документы и переписку, если задача решается без них.
- Зафиксируйте цель и правовое основание обработки, обновите privacy notice и проверьте договоры/DPA с поставщиками.
- Установите срок хранения для диалогов и логов; ограничьте доступ и учтите передачу данных за пределы ЕЭЗ.
- Если обработка вероятно создаёт высокий риск для людей, отдельно проверьте необходимость DPIA.
4. Включите журналирование действий AI-агента
Для high-risk AI автоматическое логирование — прямое требование. Для обычного агента это практическая мера: без логов трудно расследовать ошибку и доказать, что критичное действие подтвердил человек.
| Блок | Что зафиксировать |
| Минимум | Время; ID операции; версия workflow/модели; инструмент или действие; результат/ошибка; подтверждение человека. |
| Не хранить без необходимости | Полные пароли, API-ключи, платёжные реквизиты, лишние персональные данные и полный prompt. |
| Контроль | Срок хранения, права доступа, защита от изменения и понятный поиск по инциденту. |
5. Ограничьте права и оставьте человеку контроль
- Выдайте агенту только нужные доступы; храните ключи в защищённом хранилище, а не в prompt или коде.
- Требуйте подтверждение перед отправкой сообщения, публикацией, платежом, удалением или изменением важных данных.
- Добавьте rate limits, allowlist действий, резервный сценарий, кнопку остановки и уведомление об ошибке.
- Проверьте prompt injection, утечку данных, неверный инструмент, повторное действие и недоступность модели.
6. Соберите минимальный пакет документов
| Документ | Содержание |
| Паспорт AI-системы | Цель, пользователи, владелец, модель, поставщики, интеграции и границы применения. |
| Схема данных | Какие данные входят, куда передаются, где и сколько хранятся. |
| Реестр рисков | Ошибка, вред, вероятность, контроль, владелец и остаточный риск. |
| Human oversight | Какие решения проверяет человек и как остановить/отменить действие. |
| Change & incident log | Версии, изменения, тесты, сбои, принятые меры и ответственные. |
Итоговый чек-лист готовности
Отмечайте пункт только тогда, когда есть подтверждение: скриншот, настройка, фрагмент документа, тест или запись в журнале.
| Проверка | Доказательство | |
| ☐ | Назначен владелец AI-проекта и ответственный за инциденты. | Имя и роль |
| ☐ | Описаны цель, пользователи, модель, поставщики и интеграции. | Паспорт системы |
| ☐ | Проверено, не относится ли сценарий к high-risk или запрещённым практикам. | Результат классификации |
| ☐ | Пользователь видит уведомление об AI с начала первого взаимодействия. | Скриншот |
| ☐ | Есть понятный переход к сотруднику для сложных и спорных случаев. | Тест диалога |
| ☐ | Определены случаи видимой и машинно-читаемой маркировки контента. | Правило публикации |
| ☐ | Для общественно значимых текстов назначены содержательная проверка и редакционная ответственность. | Редактор / порядок |
| ☐ | Собираются только необходимые персональные данные. | Список полей |
| ☐ | Проверены privacy notice, основание обработки, DPA, сроки хранения и трансграничная передача. | GDPR-проверка |
| ☐ | Логи фиксируют действие, версию, результат, ошибку и human approval. | Образец лога |
| ☐ | Секреты не попадают в prompt, логи или репозиторий. | Проверка секретов |
| ☐ | У агента минимальные права; опасные действия требуют подтверждения. | Матрица доступов |
| ☐ | Настроены лимиты, аварийная остановка и резервный сценарий. | Тест отказа |
| ☐ | Протестированы ошибки, prompt injection, повторные действия и утечка данных. | Протокол теста |
| ☐ | Определены порядок изменений, повторного тестирования и регистрации инцидентов. | Change/incident log |
| ☐ | Сотрудники, работающие с системой, получили инструктаж по AI. | Запись об обучении |
Что должно быть готово к концу дня
- уведомление для пользователя и правила маркировки контента;
- паспорт системы, схема данных, реестр рисков и порядок human oversight;
- образец лога, матрица доступов, результаты тестов и список доработок с приоритетами.
|
Как CenterAI может помочь
CenterAI проводит практический AI-аудит: разбирает workflow, данные и доступы, находит очевидные риски, предлагает настройки прозрачности, логирования, human approval и минимальный пакет документации. После аудита можно отдельно внедрить необходимые доработки.
Обсудить AI-проект и записаться на консультацию: https://centerai.eu/