Le Projet Lily d'OpenAI : Des sous-traitants examinent les conversations des utilisateurs de ChatGPT pour améliorer le service

OpenAI a lancé une initiative interne connue sous le nom de Projet Lily, en embauchant des centaines de sous-traitants pour examiner de vraies conversations d'utilisateurs avec ChatGPT. Cette initiative vise à améliorer les réponses du chatbot, en particulier en corrigeant ses tendances à la flatterie excessive et à un comportement trop humain.

Selon un rapport de 404 Media, les sous-traitants sont recrutés via des plateformes comme Crossing Hurdles et Mercor, gagnant plus de 50 $ de l'heure pour leur travail. Les demandes des utilisateurs sont traitées par un modèle de filtre de confidentialité avant d'être examinées, ce qui est censé supprimer les informations personnellement identifiables. Cependant, des documents internes indiquent que ce filtre n'est pas infaillible, permettant à des détails sensibles de potentiellement passer à travers.

OpenAI offre aux utilisateurs la possibilité de ne pas avoir leurs conversations utilisées pour l'entraînement du modèle, mais cela ne s'applique qu'aux interactions futures. Les conversations qui ont eu lieu avant le désengagement restent accessibles pour examen, soulevant d'importantes préoccupations en matière de confidentialité pour les utilisateurs qui pourraient ignorer que de vraies personnes évaluent leurs discussions.

L'ampleur de cette initiative est remarquable, car ChatGPT compte plus de 900 millions d'utilisateurs qui utilisent la plateforme pour diverses demandes sensibles, allant des conseils médicaux au soutien émotionnel. Les précédentes critiques des régulateurs, y compris une interdiction temporaire en Italie en raison de problèmes de confidentialité, soulignent les défis persistants auxquels OpenAI est confronté en matière de pratiques de données.

Alors que le Projet Lily se déploie, les implications pour la confidentialité et la confiance des utilisateurs restent cruciales, incitant les utilisateurs à revoir leurs paramètres et à comprendre comment leurs données peuvent être utilisées.