Безопасность нейросетей: данные, утечки и доступы

Безопасность нейросетей — это не про взлом модели, а про то, что вы в неё отправляете. Каждый запрос уходит на чужой сервер и может храниться, попадать в логи и использоваться для улучшения сервиса. Правила простые, но их нарушают чаще всего.
Что нельзя отправлять
| Категория | Примеры | Риск |
|---|---|---|
| Персональные данные | Паспорт, телефон, адрес | Нарушение закона |
| Медицинские сведения | Диагнозы, анализы | Особо чувствительные данные |
| Платёжные данные | Карты, счета | Мошенничество |
| Коммерческая тайна | Договоры, цены, планы | Ущерб бизнесу |
| Секреты кода | Ключи, пароли, токены | Компрометация систем |
Как утекают данные
Три пути: сервис хранит историю и обучается на ней; сотрудник вставляет реальный документ «для примера»; сторонний плагин получает доступ к переписке. Четвёртый — взлом аккаунта, если пароль простой и нет двухфакторной аутентификации.
Чек-лист для компании
- Список разрешённых сервисов и запрещённых категорий данных.
- Настройка хранения истории: отключить обучение на данных, где возможно.
- Корпоративный аккаунт вместо личных — с журналом доступа.
- Правило обезличивания: заменять имена и номера на метки.
- Обучение сотрудников: один короткий разбор на примерах.
Промпт-инъекции
Если модель читает внешние документы или сайты, в тексте может оказаться инструкция «игнорируй предыдущие правила». Для агентов это реальная угроза: они умеют выполнять действия. Защита — ограничение прав инструментов и подтверждение опасных операций человеком.
Что делать, если данные уже ушли
Удалить историю диалога, сменить затронутые ключи и пароли, уведомить ответственного за безопасность. Если утекли персональные данные, дальше действует установленный в компании порядок — не «подождём, может, обойдётся».
Настройки, которые стоит изменить сразу
- Отключить обучение на ваших данных, если сервис это позволяет.
- Ограничить срок хранения истории.
- Включить двухфакторную аутентификацию на аккаунте.
- Проверить, какие расширения браузера имеют доступ к страницам.
- Запретить автозагрузку файлов из общих папок в чат.
Что делать при инциденте
Порядок: зафиксировать, что именно ушло, сменить затронутые пароли и ключи, удалить историю, уведомить ответственного. Если данные персональные — действовать по внутреннему регламенту и в установленные сроки, а не «когда разберёмся».
Почему это касается не только ИТ
Большинство утечек — человеческие: сотрудник вставил договор в чат, чтобы «быстро перевести». Технические запреты без обучения не работают: люди обходят их, чтобы не срывать сроки.
Три запроса для регламента
1. «Составь политику использования нейросетей для компании на 20 человек: что можно, что нельзя». 2. «Какие данные обязательно обезличивать перед отправкой в модель». 3. «Составь чек-лист на 10 пунктов для сотрудников».
Готовый документ на одну страницу работает лучше длинной инструкции: его реально читают.
Что важно помнить
Безопасность начинается с правила «не отправляй то, что не готов показать». Технические настройки важны, но 80 % рисков закрываются простым списком запрещённых данных и коротким обучением сотрудников.
Итог
Безопасность нейросетей — это гигиена данных, а не борьба с моделью. Один список запрещённых данных, отключённое обучение на запросах и короткий инструктаж закрывают большинство реальных инцидентов. Всё остальное — детали, которые уточняются по мере роста использования.
И ещё одно правило, которое редко записывают: чем больше контекст, тем больше данных уходит. Загружая целиком документ «на всякий случай», вы отправляете лишнее — передавайте фрагменты, а не весь файл.
И ещё: проверяйте, какие плагины и расширения имеют доступ к вашим диалогам. Часто утечка происходит не через сервис, а через стороннюю надстройку, которую установили «для удобства».
Обучаются ли модели на моих запросах?
Зависит от сервиса и тарифа. В корпоративных тарифах обучение обычно отключено; в бесплатных — может быть включено по умолчанию.
Можно ли обезличить данные и отправить?
Да, это рабочий подход: заменить имена, телефоны и суммы на метки. Для большинства задач структура важнее содержания.
Опасны ли браузерные расширения?
Могут читать всё, что вы видите на страницах. Ставьте только те, которым доверяете, и проверяйте разрешения.
Что важнее всего сделать в первую очередь?
Запретить отправку персональных данных и секретов — это закрывает большинство реальных инцидентов.