AI-агент, подключённый к вашим системам, это пользователь с правами. Проверяем его как пользователя

Проверка безопасности AI-агентов, чат-ботов и подключений MCP: до выхода в продакшн или когда они уже там.

Кратко

AI-агент читает почту, документы и базы данных, вызывает инструменты и действует от имени организации. Вредоносный текст внутри документа или письма может заставить его сделать то, чего вы не планировали, или раскрыть данные. Поэтому мы проверяем, что агент может сделать, а не только что он должен делать: права, инструменты, данные и действия, которые требуют одобрения человека.

Почему сейчас

9 декабря 2025 года OWASP опубликовал отдельный список десяти рисков в приложениях с AI-агентами. Gartner оценивает, что больше 40% проектов с агентами будут отменены из-за затрат, неясной пользы для бизнеса и слабого контроля рисков.

Что мы проверяем

  • Права доступа: к каким системам подключён агент, что он может в них делать и нет ли у него лишних прав.
  • Внедрение инструкций (prompt injection): попытки заставить агента выполнить нежелательные действия через вредоносные инструкции в документах, письмах и на веб-страницах.
  • Утечка данных: что агент может раскрыть, кому, и что остаётся в его логах и памяти.
  • Подключения MCP и инструменты: кто кого аутентифицирует, где хранятся ключи и что произойдёт, если внешний сервер изменится.
  • Необратимые действия: где требуется одобрение человека, например платёж, удаление или отправка клиенту.
  • Мониторинг и остановка: видно ли, что сделал агент, и можно ли сразу его остановить.
  • Стоимость: сколько стоит каждое действие и что будет при реальной нагрузке.

Что вы получаете

Отчёт с находками по степени серьёзности, способ исправления для каждой и ясную рекомендацию: запускать в продакшн, исправить до запуска или продолжать работу, либо остановить до исправления. Если нужно, исправления делаем сами.

Объём проверки и цену определяем после короткого разговора об агенте и системах, к которым он подключён.

Два пути

  • До продакшна: пилот работает в демо-режиме, и пока неясно, готов ли он к настоящим пользователям.
  • Агент уже работает: проверяем по логам и правам, что происходит на самом деле.

Почему мы

Мы сами строим RAG-системы, чат-боты и подключения MCP и знаем, где они ломаются. Кроме того, мы обучаем разработчиков безопасной разработке. Основные векторы атак разобраны в статье о безопасности корпоративного AI.

Частые вопросы

Это тест на проникновение?

Не совсем. Традиционный тест на проникновение не обязательно проверяет, как модель реагирует на вредоносные инструкции и какие права у неё есть на инструменты. Мы проверяем и поведение агента, и безопасность его подключений и прав.

Нужен ли вам доступ к коду?

Лучше да: так можно найти больше. Но начать можно и с внешней проверки.

Агент построен на готовой платформе, а не на коде, который мы написали сами. Проверка имеет смысл?

Да. И на готовой платформе права, подключения и данные, к которым агент может обратиться, остаются важными точками риска.

С чего начать

Напишите, что делает агент, к каким системам он подключён и работает ли уже в продакшне. С этого и начинается проверка.

Написать мне

По теме: Безопасность корпоративного AI, Проверка безопасности AI-кода, MCP под задачу

SLAtech LTD