Подрядчики OpenAI читают переписки пользователей ChatGPT — так компания улучшает ответы нейросети

OpenAI наняла сотни людей, чтобы те читали ваши чаты с ChatGPT Когда вы спрашиваете нейросеть о рецепте ужина, просите помочь с письмом начальнику или обсуждаете личные проблемы, диалог выглядит как разговор с машиной. Но за кулисами этот разговор может попасть на стол живому человеку.

OpenAI уже несколько лет использует человеческую проверку для обучения своих моделей, и свежие внутренние документы, о которых пишет 404 Media, показывают масштаб этой практики: речь идёт о сотнях подрядчиков, которые просматривают реальные переписки пользователей.

Как это работает

Компания передаёт подрядчикам чаты из ChatGPT для оценки качества ответов чат-бота. Перед этим специальная модель должна вычистить личную информацию — имена, контакты, другие персональные данные. Но механизм не идеален: в документах прямо указано, что некоторые персональные данные могут остаться. Пользователи при этом остаются анонимными — подрядчики не видят имён тех, с кем вели диалог.

Зачем OpenAI это нужно

Автоматические метрики не умеют оценивать тонкие вещи: уместен ли юмор в ответе, достаточно ли эмпатии в разговоре о болезни родственника, не звучит ли совет слишком роботизированно. Человеческие оценки превращаются в данные для дообучения модели — так нейросеть учится давать ответы, которые люди считают полезными. Это стандартная практика в индустрии, но именно масштаб — сотни внешних подрядчиков — и возможные пробелы в анонимизации делают ситуацию чувствительной.

Что это значит для вас

Если вы пользуетесь бесплатной версией ChatGPT, подпиской Plus или Pro, ваши чаты теоретически могут попасть на проверку. Для многих это приемлемо: диалоги о погоде или программировании не содержат ничего интимного. Но если вы обсуждали симптомы заболевания, финансовые трудности, конфликты на работе или детали личных отношений — даже обезличенный текст может быть узнаваем для читающего. Важный нюанс: отключить использование переписок для улучшения моделей можно.

В настройках ChatGPT есть соответствующий параметр, и он работает для всех трёх тарифов — Free, Plus и Pro. Правда, большинство пользователей не заглядывает в настройки приватности, а интерфейс не подсказывает, что ваш вчерашний разговор о разводе могут оценивать на предмет «естественности ответа нейросети».

Что делать

Проверьте настройки, если вам важна конфиденциальность. Не вводите в чат то, что не готовы увидеть в чужих руках — даже обезличенных. И помните: когда сервис бесплатный или стоит 20 долларов в месяц, вы платите не только деньгами, но и данными о своём поведении. Вопрос в том, осознаёте ли вы это при каждом новом диалоге.