 |
Издание 404 Media изучило недавно просочившиеся внутренние документы OpenAI и выяснило, что компания работает над улучшением своих моделей, в том числе используя труд людей, которые вручную читают переписки пользователей. Эта внутренняя программа называется Project Lily.
Нанятые для этой работы люди не видят имен пользователей, и, как утверждают в OpenAI, компания старается удалять всю личную информацию до того, как запросы попадают к аудиторам. Тем не менее, часть конфиденциальных данных все-таки может оставаться — это признает сам разработчик ChatGPT.
Один из сотрудников, читающих переписки, сообщил изданию 404 Media, что получает за эту работу более 50 долларов в час.
OpenAI — не единственная компания, которая так делает. В уведомлении о конфиденциальности Gemini от Google говорится, что «люди могут проверять некоторые сохраненные чаты для улучшения Google AI».
Ручную проверку для улучшения моделей также используют в Anthropic. Это сама компания подтвердила 404 Media.
Разрешение на использование сохраненных чатов для улучшения моделей ChatGPT автоматически включено для бесплатных, Plus и Pro учетных записей, но его можно отозвать. При этом настройка не применяется задним числом к старым беседам. То есть все ваши предыдущие разговоры с ChatGPT по-прежнему останутся доступными для ручной проверки.