Кратко: Cloudflare 26 октября сообщила, что модель GLM-5.3 в сервисе Workers AI с 27 августа по 9 сентября в 155 ответах выдала текст из запросов других пользователей. Причина – слишком маленький кэш и ошибка в программе запуска модели. Урок для бизнеса: не отправляйте в ИИ-сервис больше персональных данных, чем нужно.
26 октября Cloudflare опубликовала подробный разбор инцидента, в котором модель GLM-5.3 в сервисе Workers AI выдала часть содержимого запросов других пользователей. Случай хорошо показывает, какие риски несёт использование ИИ-сервисов даже у крупных и надёжных поставщиков.
Что произошло?
- 8 сентября исследователь безопасности сообщил, что на очень длинные запросы GLM-5.3 иногда возвращала текст из сессий других пользователей;
- по данным Cloudflare, проблема существовала с запуска модели 27 августа до исправления 9 сентября;
- затронуто 155 ответов, и все они – ответы на запросы длиннее 681 280 токенов;
- по словам Cloudflare, нет признаков намеренного использования ошибки.
Почему это случилось?
Совпали две проблемы. Во-первых, кэш модели (KV cache) вмещал 681 280 токенов, хотя модель допускала контекст до 1 048 576 токенов, – Cloudflare знала об этом расхождении ещё до запуска. Во-вторых, в программе запуска моделей SGLang была ошибка: слишком длинный запрос не получал корректную ошибку, а продолжал обрабатываться и читал из кэша данные предыдущих запросов. Cloudflare увеличила кэш примерно до 2,04 млн токенов и исправила ошибку; исправления вошли и в версии SGLang 0.5.21 и 0.5.22.
Чему это учит компанию, которая использует ИИ?
- Минимизация данных. Отправляйте в ИИ-сервис только то, что нужно для ответа. Личные коды, данные о здоровье и коммерческая тайна должны исключаться или маскироваться до отправки.
- Выбирайте прозрачного поставщика. Хороший поставщик раскрывает инциденты, причины и исправления. Запросите договор об обработке данных (DPA) и место хранения данных.
- Ведите журнал. Знайте, какие данные уходят в какой сервис, – тогда при инциденте вы быстро поймёте, затронуты ли вы.
- Обязанности по GDPR. Если утечка касается персональных данных, контролёр, как правило, должен уведомить надзорный орган в течение 72 часов.
Об этих принципах мы писали и в статьях внедрение ИИ в компании и ИИ в CRM. Когда мы подключаем ИИ к сайту, CRM или магазину, защиту данных планируем с самого начала – см. ИИ-решения для бизнеса.
Часто задаваемые вопросы
Каких клиентов Cloudflare затронула утечка?
Пользователей модели GLM-5.3 в Workers AI, чьи запросы были длиннее 681 280 токенов, в период с 27 августа по 9 сентября 2026 года.
Утечка устранена?
Да. Cloudflare исправила ошибку и увеличила кэш 9 сентября; исправления вошли и в открытые версии SGLang 0.5.21 и 0.5.22.
Опасно ли пользоваться ИИ-сервисами?
Нет, если делать это продуманно: отправлять только нужные данные, выбирать прозрачного поставщика и заключать договор об обработке данных.
Хотите использовать ИИ так, чтобы данные были защищены? Напишите нам.
