Конфиденциальность данных при работе с ИИ: мифы и ФЗ-152

Каждое моё касание с бизнесом рано или поздно приводит к одному и тому же вопросу: что с конфиденциальностью данных при работе с ИИ? Вопрос логичный и обоснованный, особенно с учётом ФЗ-152. Собственники боятся, что нейросеть сольёт коммерческую тайну, а сотрудник случайно нарушит закон. Давайте разберёмся, где здесь реальная угроза, а где миф, который мешает бизнесу пользоваться очевидно полезным инструментом.

Два лагеря тех, кто боится за данные

По моему опыту бизнес делится на два лагеря:

1. Те, кто беспокоится за конфиденциальность из-за закона.

2. Те, кто переживает, что их информация попадёт в руки конкурентов.

Второй лагерь обычно формулирует страх так: «Сотрудник загрузит нашу финмодель в ChatGPT, а конкурент потом спросит — и модель ему всё расскажет».

Спешу вас обрадовать — это так не работает.

Почему модель не отдаст ваши данные конкуренту

Модель — это не база данных. Когда вы отправляете запрос, она считает ответ и забывает его. Переписка сохраняется в истории вашего аккаунта, но у самой модели к ней доступа нет. Это два разных хранилища, между которыми нет соединения.

Если хотите глубже понять, откуда нейросеть вообще берёт ответы, я разбирал это отдельно в статье: «Почему нейросети врут: откуда ChatGPT берёт ответы»

Обучение — это не запоминание документов

Обучение на данных — это не запоминание текстов. Раз в несколько месяцев модель тренируют на огромном массиве, и в неё записываются закономерности языка, а не сами документы.

Представьте юриста, который прочитал 10 000 договоров. Он понял, как устроены договоры в принципе, но не помнит наизусть договор ООО «Ромашка». С моделью то же самое.

За все годы нет ни одного подтверждённого случая, когда конкурент вытащил чужую коммерческую тайну через запрос к модели. Даже знаменитый кейс Samsung — это запрет из-за хранения данных на чужом сервере, а не реальная утечка через обучение.

Где риск на самом деле

Риск есть, но он не там, где его обычно ищут.

Личный бесплатный аккаунт сотрудника. В бесплатных версиях данные по умолчанию могут идти в обучение, а пароль «123456» открывает историю чатов кому угодно. В корпоративных тарифах и через API данные в обучение не идут вообще — это прямо прописано в условиях OpenAI и Anthropic.

ФЗ-152: вот это уже серьёзно

А точнее — дороже. Отправка персональных данных клиентов в зарубежный сервис — это трансграничная передача, и штрафы здесь доходят до 6 млн рублей.

Но важно понимать: закон касается именно персональных данных. Финмодель, стратегия, тексты без ФИО и телефонов — это не персональные данные. И проблема здесь не в том, что персональные данные якобы «сохраняются в модели», а в том, что нарушается закон о трансграничной передаче.

Как я развёл всё по трём полкам

У себя я разложил работу с ИИ по трём полкам:

• Обычные задачи — через корпоративный доступ.
• Данные клиентов — только после обезличивания.
• Там, где персональных данных много — локальная модель на своём сервере, данные вообще не покидают периметр компании.

Вывод: уязвимость не в технологии

Главная уязвимость не в технологии, а в отсутствии правил. ИИ не сливает данные конкурентам. Это делает бардак с аккаунтами и непонимание того, как правильно пользоваться моделями.

Если вы только подходите к внедрению и хотите избежать типичных промахов, посмотрите разбор: «С чего начать внедрение ИИ в компанию: 5 ошибок предпринимателей»