Для CISO, CIO и владельцев AI-продуктов
Безопасность и управление
рисками ИИ
Помогаем компании внедрять AI с понятными правилами, ограничениями и ответственностью. Оцениваем риски данных, моделей и агентов, проектируем защитные меры и порядок допуска AI-систем к промышленной эксплуатации.
Состав работПериметр проекта
- РискиСценарии угроз и оценка последствий для бизнеса
- КонтрольМеры защиты и проверка их эффективности
- УправлениеОтветственность, допуск и контроль изменений
Задачи компании
Контроль рисков на всем жизненном цикле AI
Работаем с новыми проектами и уже действующими решениями. Связываем технические меры с конкретными последствиями для компании.
Обсудить диагностикуСотрудники уже используют внешние AI-сервисы
Нужны инвентаризация использования, правила работы с данными и согласованный перечень инструментов.
AI получает доступ к корпоративным знаниям и действиям
Нужно проверить права поиска, доступ к API, допустимые операции и подтверждение критичных действий человеком.
Пилот готов к выходу в промышленную среду
Требуются критерии допуска, проверка защитных мер, владельцы рисков и порядок мониторинга и реагирования.
Архитектурный подход
Защита на уровне данных, моделей и действий
Один фильтр запросов не решает все задачи безопасности. Формируем несколько уровней контроля и проверяем их на сценариях конкретной системы.
Уровни связаны между собой.
Решения согласуем в общей архитектуре.
Данные и доступ
Проверяем, какие данные попадают в AI-систему и кто может получить их через ответы, поиск или журналы.
- Данные и документы
- Права и фильтрация
- Разрешенный контекст
Ключевые решения
- Классификация, допустимые среды обработки и сроки хранения
- Права на источники и поиск в RAG, изоляция пользователей и подразделений
- Секреты, персональные данные и чувствительная информация в логах
Матрица доступа и требования к обработке данных по каждому сценарию.
Модели и ответы
Оцениваем поведение системы при вредоносных инструкциях, недостоверном контексте и некорректных ответах.
- Запрос и контекст
- Модель / проверки
- Проверенный вывод
Ключевые решения
- Прямая и косвенная prompt injection, попытки раскрытия чувствительных данных
- Обработка ответов перед передачей в интерфейсы, код и бизнес-системы
- Происхождение моделей, зависимости, обновления и условия провайдера
Модель угроз, сценарии проверки и требования к защитным механизмам.
Агенты и инструменты
Ограничиваем действия агентов средствами приложения и инфраструктуры, а не только текстовыми инструкциями модели.
- Намерение агента
- Проверка полномочий
- Действие / подтверждение
Ключевые решения
- Минимальные права, разрешенные инструменты и проверка аргументов
- Подтверждение человеком операций с существенными последствиями
- Лимиты расходов и запросов, изолированное исполнение и аварийная остановка
Матрица полномочий агентов и правила выполнения и подтверждения операций.
Управление и мониторинг
Закрепляем ответственность за риски и порядок контроля системы после запуска.
- Реестр и владелец
- Допуск / наблюдение
- Разбор и изменение
Ключевые решения
- Реестр AI-систем, классификация риска и ответственные за его принятие
- Контроль изменения моделей, промптов, данных и инструментов
- Мониторинг, журналирование, реагирование и повторная оценка
Процесс AI Governance и регламент допуска и сопровождения AI-систем.
Обсудим вашу архитектуру
Разберем текущее состояние, ограничения и целевые сценарии.
Состав работ
От технических решений
к работающей системе
Согласуем периметр оценки с IT, ИБ, владельцами процессов и юридической функцией. Глубина проверки зависит от данных, полномочий системы и последствий возможной ошибки.

Инвентаризация и оценка рисков
Определяем, где компания использует AI и какие риски требуют приоритетного контроля.
- Реестр AI-систем и провайдеров, сценарии применения, категории данных и владельцы.
- Моделирование угроз с учетом архитектуры, интеграций и границ доверия.
- Оценка вероятности, последствий и остаточного риска, план обработки и ответственные.
Результат этапа
Реестр рисков, модель угроз и приоритетный план мероприятий.

Защита данных и корпоративных знаний
Проверяем весь путь данных от источника до ответа пользователю.
- Классификация и минимизация данных, маскирование, хранение и удаление.
- Контроль доступа в RAG: источники, индексы, поиск и выдача, включая отзыв прав.
- Оценка внешних сервисов, сетевых обращений, телеметрии и журналов.
Результат этапа
Требования к обработке данных, матрица доступа и план устранения разрывов.

Безопасность LLM и AI-агентов
Проектируем ограничения, соответствующие полномочиям системы.
- Защита от инъекций инструкций и небезопасной обработки вывода, проверка недоверенного контента.
- Разграничение доступа к инструментам и API, валидация параметров и подтверждение критичных действий.
- Контроль зависимостей и моделей, изоляция исполнения, квоты и управление секретами.
Результат этапа
Архитектура защитных мер и требования к реализации и настройке.

Проверка эффективности защиты
Проверяем меры на согласованном наборе нормальных и неблагоприятных сценариев.
- Программа тестирования: обход прав, утечка данных, prompt injection и нежелательные действия агентов.
- Проверки в разрешенном контуре с согласованными тестовыми данными и ограничениями.
- Разбор результатов, приоритет исправлений и повторная проверка после изменений.
Результат этапа
Отчет с воспроизводимыми проверками, оценкой последствий и рекомендациями.

Корпоративное AI Governance
Встраиваем управление AI в действующие процессы компании.
- Политика использования AI, разрешенные сценарии, инструменты и правила работы с данными.
- Роли бизнеса, IT, ИБ и юридической функции; порядок согласования и принятия остаточных рисков.
- Критерии допуска в эксплуатацию, управление поставщиками и процесс контроля изменений.
Результат этапа
Пакет политик, матрица ответственности и регламент жизненного цикла AI.

Мониторинг и реагирование
Определяем, как обнаруживать отклонения и управлять ими после запуска.
- События для наблюдения, алерты, аудит действий и интеграция с действующими процессами ИБ.
- Сценарии реагирования: ограничение доступа, остановка инструментов, откат и восстановление.
- Периодическая переоценка рисков, обучение ответственных и контроль выполнения мероприятий.
Результат этапа
Регламент мониторинга, сценарии реагирования и план регулярных проверок.
Согласуем периметр проекта
Определим необходимые работы, участников и критерии результата.
Результаты консалтинга
Документы для решений
и реализации
Состав пакета фиксируем в начале проекта. Материалы должны быть пригодны для согласования с бизнесом, IT и ИБ и для дальнейшей работы инженерной команды.

Реестр AI и рисков
Системы, владельцы, сценарии, последствия и приоритеты.
Модель угроз
Границы доверия, точки воздействия и применимые сценарии угроз.
Архитектура защиты
Меры, доступы, ограничения агентов и контроль данных.
Отчет о проверках
Условия, наблюдения, приоритет исправлений и повторные проверки.
Политики и допуск
Правила использования, роли и критерии запуска системы.
План сопровождения
Мониторинг, инциденты, изменения и переоценка рисков.
Организация проекта
Работаем вместе
с вашей командой
На каждом этапе согласуем решения и следующие действия. Сроки зависят от периметра, доступности исходных данных и глубины технических проверок.
- 01
Определить периметр
Выбираем системы, данные и сценарии, согласуем доступы и правила проверок с владельцами и ИБ.
- 02
Оценить риски
Изучаем архитектуру, процессы и полномочия. Формируем модель угроз и приоритеты по последствиям для бизнеса.
- 03
Спроектировать и проверить меры
Готовим требования и проводим согласованные испытания. Документируем ограничения и остаточные риски.
- 04
Встроить контроль в работу
Согласуем владельцев, критерии допуска, мониторинг и план исправлений. Передаем регламенты ответственным командам.
Что потребуется
для старта
- Перечень AI-систем, моделей и провайдеров
- Схемы данных, интеграций и полномочий агентов
- Внутренние политики и требования ИБ
- Владельцы систем и допустимый периметр тестирования
Консалтинг и техническая оценка не являются сертификацией или юридическим заключением. Применимые обязательные требования согласуем с юридической функцией и ИБ заказчика. Решение о принятии остаточного риска остается за его владельцем.
Перед началом проекта
Вопросы и ответы
Гарантирует ли локальное размещение безопасность AI?
Нет. On-prem помогает контролировать размещение и доступ к инфраструктуре, но не устраняет ошибки прав, риски инъекций, небезопасные действия агентов и уязвимости интеграций. Проверяем систему целиком.
На какие подходы вы опираетесь?
При формировании оценки используем применимые практики NIST AI RMF и OWASP для LLM и генеративного AI, а также внутренние требования заказчика. Набор проверок адаптируем к архитектуре и сценариям, а не используем как универсальный сертификат безопасности.
Можно ли начать с действующего RAG-ассистента?
Да. Проверяем права на документы и поиск, обработку недоверенного контента, ответы и журналы. Согласуем тестовые учетные записи и данные, фиксируем найденные разрывы и план их устранения.
Как контролировать агента, который меняет данные в CRM или ERP?
Определяем разрешенные операции, минимальные права и проверку аргументов на стороне приложения. Для критичных действий предусматриваем подтверждение человеком, аудит и возможность остановки. Конкретные меры зависят от последствий операции.
Вы проводите проверки в продуктивной среде?
Контур и допустимые действия согласуем до начала работ. Приоритет отдаем изолированной среде с репрезентативными тестовыми данными. Проверки в продуктиве возможны только в отдельно утвержденных границах и с участием ответственных команд.
Следующий шаг
Определим риски и требования к вашему AI-проекту
На рабочей встрече уточним сценарии, данные и полномочия системы. Согласуем периметр оценки, участников и результаты, необходимые для решения о запуске.
