Dans cet article Dans cet article
- Project Lily, une chaîne de relecture payée plus de 50 dollars de l’heure
- Ce que le relecteur a réellement sous les yeux
- Un filtre de confidentialité qui reconnaît ses propres angles morts
- Couper l’envoi de vos conversations en quatre gestes
- Chez Anthropic et Google, la même relecture avec d’autres règles
- Ce que l’on continue de taper dans une fenêtre vide
Taper une question dans ChatGPT donne l’impression d’un tête-à-tête : une fenêtre blanche, un curseur, et personne d’autre dans la pièce. Le média américain 404 Media a publié le 14 septembre 2026 des documents internes qui décrivent un dispositif baptisé Project Lily, dans lequel des centaines de prestataires recrutés par OpenAI lisent, résument et notent de vraies conversations d’utilisateurs. Le programme n’a rien de clandestin au sens juridique, mais il n’a jamais été présenté publiquement sous cette forme.
Faire relire par des humains ce qu’une machine produit reste la manière la plus fiable de corriger son ton, et l’industrie du logiciel le pratique depuis longtemps. Ce qui change ici, c’est la matière première : elle vient de conversations utilisées comme confident, assistant professionnel ou thérapeute de secours. Alors que voit exactement la personne payée pour relire, et comment sort-on du dispositif ?
Project Lily, une chaîne de relecture payée plus de 50 dollars de l’heure
Les documents obtenus par 404 Media décrivent une organisation industrielle plutôt qu’un coup de sonde. Les relecteurs ne sont pas salariés d’OpenAI : ils passent par des sociétés de placement tierces, et l’une des personnes interrogées en Amérique du Nord dit être payée plus de 50 dollars de l’heure pour ce travail. Leur tâche tient en trois gestes : lire le message d’un utilisateur, résumer ce que celui-ci cherchait, puis évaluer quatre réponses possibles du modèle sur une échelle de 1 à 7.
L’objectif affiché est d’améliorer la façon dont ChatGPT répond. Les guides internes visent deux travers bien identifiés : l’anthropomorphisme, quand le modèle s’invente un vécu humain, et la complaisance, quand il flatte l’utilisateur ou valide un raisonnement bancal. Le second point n’a rien de cosmétique : plusieurs procédures judiciaires visent OpenAI aux États-Unis après des suicides dans lesquels la sycophantie du modèle 4o est mise en cause.
Cette mécanique dit aussi quelque chose de la façon dont les modèles progressent. Le récit habituel met en avant l’aspiration massive du web, la puissance de calcul et le talent des équipes de recherche, et il oublie systématiquement cette couche de travail humain peu visible qui relit et corrige à longueur de journée. Encore faut-il savoir ce qui atterrit réellement sur l’écran du relecteur.
Ce que le relecteur a réellement sous les yeux
Le dispositif repose sur une promesse d’anonymat qui tient au nom de compte, pas au contenu. Les prestataires ne voient aucun identifiant d’utilisateur, mais le tableau de bord qui leur est présenté contient bien davantage que la seule question posée.
- la conversation complète entre l’utilisateur et le modèle, et pas seulement le message isolé ;
- un résumé des mémoires du compte, qui récapitule ce que la personne a demandé les fois précédentes ;
- les indices que ce résumé laisse filtrer sur la zone géographique, le métier ou la situation personnelle ;
- quatre réponses générées à comparer, à résumer et à noter.
Le troisième point est le plus gênant des quatre. Trois informations suffisent à ré-identifier un compte anonyme : la ville où vit la personne, le métier qu’elle exerce et le problème qu’elle traînait la semaine précédente. C’est exactement le genre de matière que la fonction mémoire de ChatGPT accumule au fil des mois.
Un filtre de confidentialité qui reconnaît ses propres angles morts
OpenAI fait passer les conversations par un modèle de filtrage chargé de retirer les éléments identifiants avant qu’elles n’arrivent aux relecteurs. La page que l’entreprise consacre à ce filtre admet elle-même qu’il peut se tromper, rater des identifiants peu courants et sous-caviarder quand le contexte manque. Rapporté aux plus de 900 millions d’utilisateurs hebdomadaires que ChatGPT revendiquait en février 2026 d’après TechCrunch, une marge d’erreur même faible se compte en volumes considérables.
Non. Je ne pense pas qu’ils imagineraient qu’un prestataire, quelque part, analyse les conversations.
Une personne travaillant sur la relecture des prompts ChatGPT, interrogée par 404 Media dans son enquête du 14 septembre 2026, à qui il était demandé si les utilisateurs savent que des humains lisent leurs échanges.
L’écart entre le dispositif et ce qu’en perçoivent les utilisateurs est le vrai sujet. Certains messages relevés par 404 Media demandent explicitement au modèle de garder la chose entre eux, sans savoir qu’une instruction tapée dans le prompt ne change rien au traitement des données côté serveur. Une simple balise oubliée avait déjà suffi, cet été, à rendre publiques des conversations de chatbot indexées par Google.
Couper l’envoi de vos conversations en quatre gestes
Le réglage existe, il est actif par défaut sur les comptes personnels et il se trouve à trois clics. Les formules Free, Plus et Pro versent leurs conversations au pot commun d’entraînement sans rien demander, tandis que les comptes Enterprise, Business et Edu sont désactivés d’office. Le chemin est le même sur le web et dans l’application mobile.
- ouvrir ChatGPT dans un navigateur ou dans l’application ;
- cliquer sur l’icône de profil, puis entrer dans les réglages ;
- ouvrir la section consacrée aux contrôles des données ;
- basculer sur « Off » l’option qui propose d’améliorer le modèle pour tout le monde.
La bascule ne vaut que pour la suite. Les messages déjà envoyés et déjà entrés dans la file de traitement restent dans le cycle d’entraînement, et l’interrupteur ne bloque pas les analyses automatiques liées à la sécurité ou aux conditions d’utilisation. Couper aujourd’hui protège demain, pas hier.
Le mouvement de fond est ailleurs : la conversation est devenue la ressource. Elle entraîne les modèles, et elle alimente aussi un assistant financé par la réclame en France depuis le 24 août 2026. Deux usages différents de la même matière, avec deux réglages distincts à surveiller.
Chez Anthropic et Google, la même relecture avec d’autres règles
OpenAI n’est pas seul dans ce cas, et l’enquête le précise. Les trois principaux assistants grand public reposent sur de la relecture humaine, mais chacun l’encadre à sa manière et la rend plus ou moins visible dans son interface.
| Assistant | Relecture humaine | Ce qu’en dit l’éditeur |
|---|---|---|
| ChatGPT (OpenAI) | Des centaines de prestataires externes | Filtre de confidentialité présenté comme faillible |
| Claude (Anthropic) | Oui, si l’entraînement reste activé | Confirmation donnée à 404 Media |
| Gemini (Google) | Sur une sélection de conversations enregistrées | Mention affichée dans le produit |
Le point commun est facile à résumer : dans les trois cas, la relecture humaine est la contrepartie d’un service gratuit ou peu cher, et dans les trois cas elle se désactive. Le décalage ne porte pas sur la possibilité de refuser, il porte sur le nombre de gens qui savent qu’il y a quelque chose à refuser.
Ce que l’on continue de taper dans une fenêtre vide
La fenêtre de discussion fabrique une intimité que rien ne justifie techniquement. Blanche, silencieuse, sans fil de commentaires ni compteur de vues, elle ressemble à un carnet plutôt qu’à un formulaire expédié vers un serveur américain. Cette impression est précisément ce qui fait basculer un outil de productivité vers le statut de confident, pour une bonne part des 900 millions de personnes qui l’ouvrent chaque semaine.
Le calcul se pose déjà pour les agents capables de gérer vos achats, qui réclament un accès autrement plus large que celui d’un chatbot : boîte mail, moyens de paiement, historique de commandes. Chaque cran d’autonomie accordé élargit la surface exposée, et la relecture humaine n’en est qu’un aspect parmi d’autres.
Ce qui se joue dans les prochains mois tient moins au réglage lui-même qu’à sa visibilité. Un interrupteur enfoui dans un sous-menu et activé par défaut relève difficilement du consentement éclairé au sens où le RGPD l’entend depuis 2018, et les régulateurs européens regardent ce type d’architecture de près. En attendant qu’ils tranchent, la règle la plus robuste reste celle qui ne dépend d’aucun réglage : ce qu’on n’aimerait pas voir lu par un inconnu n’a pas grand-chose à faire dans un prompt.
