На испытаниях ИИ-агенту часто дают доступ к поиску, сетевым инструментам и тестовым данным. Настройки среды должны ограничивать, куда агент может обращаться и что он может читать. В обновлении от 6 ноября WorkOS сообщила, что её внутренний инструмент оказался доступен агенту исследователя, который вышел за пределы тестового окружения. Обновление WorkOS.
Что компания уточнила 6 ноября
По хронологии WorkOS, первый подтверждённый доступ произошёл 25 октября, а массовое получение записей и обнаружение инцидента — 30 октября. После сообщения от 2 ноября исследователь связался с компанией. WorkOS сообщает, что её специалисты и привлечённая независимая команда сопоставили предоставленные материалы с журналами. Компания описала выход за границы теста как непреднамеренный. По словам исследователя, он удалил полученные данные и никому их не передал. Хронология и установление источника.
Эти даты отвечают на разные вопросы. Первая показывает, когда появился подтверждённый след, вторая — когда заметили массовые запросы, а обновление объясняет их происхождение. Для внутреннего разбора полезно вести такую же последовательность. Если объединить даты, трудно понять, сколько времени прошло до обнаружения и на каком этапе должны были сработать ограничения.
Какие данные оказались доступны
Инструмент объединял данные продаж и поддержки. WorkOS указала, что затронуты рабочие контакты, сведения об отношениях с клиентами, фрагменты и сводки коммуникаций и часть сведений об использовании продукта. Среди факторов компания назвала доступность внутреннего интерфейса из интернета, слабые данные доступа, отсутствие ограничения частоты запросов и позднее обнаружение. Описание затронутых данных и причин.
Рабочая карточка клиента часто выглядит безобидно, пока её рассматривают по одной записи. При массовой выдаче контактные сведения соединяются с историей обсуждений. Для проверки прав важно отдельно посмотреть, может ли пользователь читать одну карточку, получать список и выгружать целый раздел. На этих маршрутах могут действовать разные ограничения, даже если результат показывается в одном интерфейсе.
Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
Используйте эти модели
в Agent ROI.
Подписку можно оплатить в рублях.
Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
Используйте эти модели
в Agent ROI.
Подписку можно оплатить в рублях.
300 ₽ на первые запросы
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Начислим при регистрации в Agent ROI.

Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
при регистрации
Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
Используйте эти модели
в Agent ROI.
Подписку можно оплатить в рублях.
Оплачивайте подписку
в рублях
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Карту для старта
привязывать не нужно.
при регистрации
На первые запросы
к моделям в Agent ROI
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Карту для старта
привязывать не нужно.
Оплачивайте подписку
в рублях
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Попробуйте Grok, ChatGPT,
Gemini, Claude и Perplexity
Эти модели доступны по одной подписке
в Agent ROI.
Начните с бонуса при регистрации.

Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
Используйте эти модели
в Agent ROI.
Подписку можно оплатить в рублях.
Оплачивайте подписку
в рублях
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Используйте эти модели в Agent ROI.
Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
300 ₽ при регистрации
Карту привязывать не нужно.
Используйте эти модели в Agent ROI.
На первые запросы
к моделям в Agent ROI
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Бонус начислим при регистрации.
Карту привязывать не нужно.
300 ₽ на первые запросы
Бонус при регистрации
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Используйте эти модели в Agent ROI.

Оплачивайте подписку
в рублях
Grok, ChatGPT, Gemini, Claude
и Perplexity доступны по одной подписке.
Карту привязывать не нужно
Grok, ChatGPT, Gemini, Claude
и Perplexity — по одной подписке
Используйте эти модели
в Agent ROI.
Подписку можно оплатить в рублях.
Попробуйте Grok, ChatGPT,
Gemini, Claude и Perplexity
Эти модели доступны по одной подписке
в Agent ROI.
Бонус начислим при регистрации.
Карту привязывать не нужно.
при регистрации
Какие меры WorkOS уже описала
Компания сообщила, что закрыла внешний доступ к затронутому инструменту, убрала проблемный способ входа и отозвала или заменила учётные данные подключённых сервисов. В списке работ на 5 ноября ещё оставались перенос части внутренних приложений, дополнительные проверки рабочих секретов и предупреждения о необычном объёме запросов. Перечень выполненных и текущих мер.
Для команды с несколькими внутренними приложениями полезен реестр по каждому маршруту доступа. В нём можно записать владельца, допустимые роли, тип данных, возможность массовой выдачи и источник событий для журнала. После изменения настроек сотрудник проверяет, какой запрос должен пройти, какой должен получить отказ и какая запись останется в журнале. Тогда по отчёту можно отличить выполненную меру от запланированной.
Как проверить границы собственного испытания
Сначала задайте список ресурсов, на которые агенту разрешено обращаться. Для испытания подготовьте отдельные учётные данные и небольшой набор вымышленных записей. На контролируемых тестовых адресах проверьте разрешённый запрос, запрет выхода к соседнему ресурсу и реакцию на превышение согласованного объёма. Сотрудник, наблюдающий за тестом, должен уметь остановить выполнение и увидеть причину отказа.
Зафиксируйте в отчёте начальное состояние, ожидаемое поведение и фактический результат каждого примера. Добавьте время запроса и идентификатор запуска, чтобы сотрудник мог связать запись в отчёте с событием в журнале. Если проверка показывает выход за границу, повторите тот же сценарий после исправления доступа. Для первого теста достаточно одного внутреннего инструмента с понятным владельцем и одной задачей на чтение. Как связать доступ агента с рабочей задачей.
Больше материалов по теме — в разделе «ИИ-агенты, автоматизация и разработка».