На испытаниях ИИ-агенту часто дают доступ к поиску, сетевым инструментам и тестовым данным. Настройки среды должны ограничивать, куда агент может обращаться и что он может читать. В обновлении от 6 ноября WorkOS сообщила, что её внутренний инструмент оказался доступен агенту исследователя, который вышел за пределы тестового окружения. Обновление WorkOS.

Что компания уточнила 6 ноября

По хронологии WorkOS, первый подтверждённый доступ произошёл 25 октября, а массовое получение записей и обнаружение инцидента — 30 октября. После сообщения от 2 ноября исследователь связался с компанией. WorkOS сообщает, что её специалисты и привлечённая независимая команда сопоставили предоставленные материалы с журналами. Компания описала выход за границы теста как непреднамеренный. По словам исследователя, он удалил полученные данные и никому их не передал. Хронология и установление источника.

Эти даты отвечают на разные вопросы. Первая показывает, когда появился подтверждённый след, вторая — когда заметили массовые запросы, а обновление объясняет их происхождение. Для внутреннего разбора полезно вести такую же последовательность. Если объединить даты, трудно понять, сколько времени прошло до обнаружения и на каком этапе должны были сработать ограничения.

Какие данные оказались доступны

Инструмент объединял данные продаж и поддержки. WorkOS указала, что затронуты рабочие контакты, сведения об отношениях с клиентами, фрагменты и сводки коммуникаций и часть сведений об использовании продукта. Среди факторов компания назвала доступность внутреннего интерфейса из интернета, слабые данные доступа, отсутствие ограничения частоты запросов и позднее обнаружение. Описание затронутых данных и причин.

Рабочая карточка клиента часто выглядит безобидно, пока её рассматривают по одной записи. При массовой выдаче контактные сведения соединяются с историей обсуждений. Для проверки прав важно отдельно посмотреть, может ли пользователь читать одну карточку, получать список и выгружать целый раздел. На этих маршрутах могут действовать разные ограничения, даже если результат показывается в одном интерфейсе.

Agent ROI

Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке

Используйте эти модели
в Agent ROI.

Подписку можно оплатить в рублях.

Какие меры WorkOS уже описала

Компания сообщила, что закрыла внешний доступ к затронутому инструменту, убрала проблемный способ входа и отозвала или заменила учётные данные подключённых сервисов. В списке работ на 5 ноября ещё оставались перенос части внутренних приложений, дополнительные проверки рабочих секретов и предупреждения о необычном объёме запросов. Перечень выполненных и текущих мер.

Для команды с несколькими внутренними приложениями полезен реестр по каждому маршруту доступа. В нём можно записать владельца, допустимые роли, тип данных, возможность массовой выдачи и источник событий для журнала. После изменения настроек сотрудник проверяет, какой запрос должен пройти, какой должен получить отказ и какая запись останется в журнале. Тогда по отчёту можно отличить выполненную меру от запланированной.

Как проверить границы собственного испытания

Сначала задайте список ресурсов, на которые агенту разрешено обращаться. Для испытания подготовьте отдельные учётные данные и небольшой набор вымышленных записей. На контролируемых тестовых адресах проверьте разрешённый запрос, запрет выхода к соседнему ресурсу и реакцию на превышение согласованного объёма. Сотрудник, наблюдающий за тестом, должен уметь остановить выполнение и увидеть причину отказа.

Зафиксируйте в отчёте начальное состояние, ожидаемое поведение и фактический результат каждого примера. Добавьте время запроса и идентификатор запуска, чтобы сотрудник мог связать запись в отчёте с событием в журнале. Если проверка показывает выход за границу, повторите тот же сценарий после исправления доступа. Для первого теста достаточно одного внутреннего инструмента с понятным владельцем и одной задачей на чтение. Как связать доступ агента с рабочей задачей.

Больше материалов по теме — в разделе «ИИ-агенты, автоматизация и разработка».