Practico.ai

Для CISO, CIO и владельцев AI-продуктов

Безопасность и управление
рисками ИИ

Помогаем компании внедрять AI с понятными правилами, ограничениями и ответственностью. Оцениваем риски данных, моделей и агентов, проектируем защитные меры и порядок допуска AI-систем к промышленной эксплуатации.

Состав работ

Периметр проекта

  • РискиСценарии угроз и оценка последствий для бизнеса
  • КонтрольМеры защиты и проверка их эффективности
  • УправлениеОтветственность, допуск и контроль изменений

Обсудим ваш проект

Расскажите о системах, сценариях и требованиях ИБ. Согласуем область оценки и необходимые результаты.

Укажите телефон или email

Задачи компании

Контроль рисков на всем жизненном цикле AI

Работаем с новыми проектами и уже действующими решениями. Связываем технические меры с конкретными последствиями для компании.

Обсудить диагностику
  1. Сотрудники уже используют внешние AI-сервисы

    Нужны инвентаризация использования, правила работы с данными и согласованный перечень инструментов.

  2. AI получает доступ к корпоративным знаниям и действиям

    Нужно проверить права поиска, доступ к API, допустимые операции и подтверждение критичных действий человеком.

  3. Пилот готов к выходу в промышленную среду

    Требуются критерии допуска, проверка защитных мер, владельцы рисков и порядок мониторинга и реагирования.

Архитектурный подход

Защита на уровне данных, моделей и действий

Один фильтр запросов не решает все задачи безопасности. Формируем несколько уровней контроля и проверяем их на сценариях конкретной системы.

Уровни связаны между собой.
Решения согласуем в общей архитектуре.

Уровень 01Консалтинг по безопасности и управлению рисками ИИ

Данные и доступ

Проверяем, какие данные попадают в AI-систему и кто может получить их через ответы, поиск или журналы.

  1. Данные и документы
  2. Права и фильтрация
  3. Разрешенный контекст

Ключевые решения

  • Классификация, допустимые среды обработки и сроки хранения
  • Права на источники и поиск в RAG, изоляция пользователей и подразделений
  • Секреты, персональные данные и чувствительная информация в логах
Фиксируем в проекте

Матрица доступа и требования к обработке данных по каждому сценарию.

Обсудим вашу архитектуру

Разберем текущее состояние, ограничения и целевые сценарии.

Обсудить архитектуру

Состав работ

От технических решений
к работающей системе

Согласуем периметр оценки с IT, ИБ, владельцами процессов и юридической функцией. Глубина проверки зависит от данных, полномочий системы и последствий возможной ошибки.

  1. Инвентаризация и оценка рисков

    Определяем, где компания использует AI и какие риски требуют приоритетного контроля.

    • Реестр AI-систем и провайдеров, сценарии применения, категории данных и владельцы.
    • Моделирование угроз с учетом архитектуры, интеграций и границ доверия.
    • Оценка вероятности, последствий и остаточного риска, план обработки и ответственные.

    Результат этапа

    Реестр рисков, модель угроз и приоритетный план мероприятий.

  2. Защита данных и корпоративных знаний

    Проверяем весь путь данных от источника до ответа пользователю.

    • Классификация и минимизация данных, маскирование, хранение и удаление.
    • Контроль доступа в RAG: источники, индексы, поиск и выдача, включая отзыв прав.
    • Оценка внешних сервисов, сетевых обращений, телеметрии и журналов.

    Результат этапа

    Требования к обработке данных, матрица доступа и план устранения разрывов.

  3. Безопасность LLM и AI-агентов

    Проектируем ограничения, соответствующие полномочиям системы.

    • Защита от инъекций инструкций и небезопасной обработки вывода, проверка недоверенного контента.
    • Разграничение доступа к инструментам и API, валидация параметров и подтверждение критичных действий.
    • Контроль зависимостей и моделей, изоляция исполнения, квоты и управление секретами.

    Результат этапа

    Архитектура защитных мер и требования к реализации и настройке.

  4. Проверка эффективности защиты

    Проверяем меры на согласованном наборе нормальных и неблагоприятных сценариев.

    • Программа тестирования: обход прав, утечка данных, prompt injection и нежелательные действия агентов.
    • Проверки в разрешенном контуре с согласованными тестовыми данными и ограничениями.
    • Разбор результатов, приоритет исправлений и повторная проверка после изменений.

    Результат этапа

    Отчет с воспроизводимыми проверками, оценкой последствий и рекомендациями.

  5. Корпоративное AI Governance

    Встраиваем управление AI в действующие процессы компании.

    • Политика использования AI, разрешенные сценарии, инструменты и правила работы с данными.
    • Роли бизнеса, IT, ИБ и юридической функции; порядок согласования и принятия остаточных рисков.
    • Критерии допуска в эксплуатацию, управление поставщиками и процесс контроля изменений.

    Результат этапа

    Пакет политик, матрица ответственности и регламент жизненного цикла AI.

  6. Мониторинг и реагирование

    Определяем, как обнаруживать отклонения и управлять ими после запуска.

    • События для наблюдения, алерты, аудит действий и интеграция с действующими процессами ИБ.
    • Сценарии реагирования: ограничение доступа, остановка инструментов, откат и восстановление.
    • Периодическая переоценка рисков, обучение ответственных и контроль выполнения мероприятий.

    Результат этапа

    Регламент мониторинга, сценарии реагирования и план регулярных проверок.

Согласуем периметр проекта

Определим необходимые работы, участников и критерии результата.

Обсудить проект

Результаты консалтинга

Документы для решений
и реализации

Состав пакета фиксируем в начале проекта. Материалы должны быть пригодны для согласования с бизнесом, IT и ИБ и для дальнейшей работы инженерной команды.

  1. Реестр AI и рисков

    Системы, владельцы, сценарии, последствия и приоритеты.

  2. Модель угроз

    Границы доверия, точки воздействия и применимые сценарии угроз.

  3. Архитектура защиты

    Меры, доступы, ограничения агентов и контроль данных.

  4. Отчет о проверках

    Условия, наблюдения, приоритет исправлений и повторные проверки.

  5. Политики и допуск

    Правила использования, роли и критерии запуска системы.

  6. План сопровождения

    Мониторинг, инциденты, изменения и переоценка рисков.

Организация проекта

Работаем вместе
с вашей командой

На каждом этапе согласуем решения и следующие действия. Сроки зависят от периметра, доступности исходных данных и глубины технических проверок.

  1. 01

    Определить периметр

    Выбираем системы, данные и сценарии, согласуем доступы и правила проверок с владельцами и ИБ.

  2. 02

    Оценить риски

    Изучаем архитектуру, процессы и полномочия. Формируем модель угроз и приоритеты по последствиям для бизнеса.

  3. 03

    Спроектировать и проверить меры

    Готовим требования и проводим согласованные испытания. Документируем ограничения и остаточные риски.

  4. 04

    Встроить контроль в работу

    Согласуем владельцев, критерии допуска, мониторинг и план исправлений. Передаем регламенты ответственным командам.

Что потребуется
для старта

  • Перечень AI-систем, моделей и провайдеров
  • Схемы данных, интеграций и полномочий агентов
  • Внутренние политики и требования ИБ
  • Владельцы систем и допустимый периметр тестирования

Консалтинг и техническая оценка не являются сертификацией или юридическим заключением. Применимые обязательные требования согласуем с юридической функцией и ИБ заказчика. Решение о принятии остаточного риска остается за его владельцем.

Перед началом проекта

Вопросы и ответы

Гарантирует ли локальное размещение безопасность AI?

Нет. On-prem помогает контролировать размещение и доступ к инфраструктуре, но не устраняет ошибки прав, риски инъекций, небезопасные действия агентов и уязвимости интеграций. Проверяем систему целиком.

На какие подходы вы опираетесь?

При формировании оценки используем применимые практики NIST AI RMF и OWASP для LLM и генеративного AI, а также внутренние требования заказчика. Набор проверок адаптируем к архитектуре и сценариям, а не используем как универсальный сертификат безопасности.

Можно ли начать с действующего RAG-ассистента?

Да. Проверяем права на документы и поиск, обработку недоверенного контента, ответы и журналы. Согласуем тестовые учетные записи и данные, фиксируем найденные разрывы и план их устранения.

Как контролировать агента, который меняет данные в CRM или ERP?

Определяем разрешенные операции, минимальные права и проверку аргументов на стороне приложения. Для критичных действий предусматриваем подтверждение человеком, аудит и возможность остановки. Конкретные меры зависят от последствий операции.

Вы проводите проверки в продуктивной среде?

Контур и допустимые действия согласуем до начала работ. Приоритет отдаем изолированной среде с репрезентативными тестовыми данными. Проверки в продуктиве возможны только в отдельно утвержденных границах и с участием ответственных команд.

Следующий шаг

Определим риски и требования к вашему AI-проекту

На рабочей встрече уточним сценарии, данные и полномочия системы. Согласуем периметр оценки, участников и результаты, необходимые для решения о запуске.

Запросить встречу

Оставить заявку

Связаться в мессенджереЗакрыть способы связи