Aller au contenu principal

Le calendrier finit par sonner

Filigranes, soucis oubliés, et ce que coûte d’arriver trop tôt

Quiet archival composition of two overlapping mechanical clock mechanisms at different phases on tactile paper, with graphite geometry and restrained signal-red accents suggesting a statistical pattern becoming visible
  • Filigranes et attaques : publics dès 2023, pas août 2026.
  • Filigrane volontaire ≠ empreinte accidentelle.
  • MachinaLabs 2023 : détectabilité sous incertitude, pas Google.
  • Art. 50 : le marché s’éveille ; l’idée attendait.
  • Voir juste l’avenir ≠ tenir une entreprise.
  • Deux horloges : ingénierie et marché ; le marketing les cale.
  • Archéologie : hypothèses fausses, en attente, rattrapées.
MachinaLabs a-t-elle retiré des filigranes IA en 2023 ?

Pas au sens où les traces encore disponibles l’établiraient. L’équipe traitait la détectabilité comme un problème d’ingénierie dans un pipeline de publication. Savoir si les modèles en amont filigranaient exprès est une autre question d’histoire.

Google pénalisait-il le texte généré par IA en 2023 ?

Le 8 février 2023, Google indiquait que le classement récompensait l’utile, quel que soit le mode de production. L’infraction, c’était truquer le rang par automatisation — pas l’IA en soi. Le travail de MachinaLabs répondait à un risque sous incertitude, non à une sanction connue.

Qu’est-ce qui a vraiment changé en août 2026 ?

L’article 50 du règlement sur l’IA est devenu applicable le 2 août 2026. Quelques jours plus tard, Anthropic filigranait le texte de Claude au niveau du modèle et s’appuyait, pour les fichiers, sur le C2PA. Utilisateurs, droit, opposition, outils de lavage : l’horloge du marché a rattrapé une course de recherche plus ancienne.

Si l’idée était en avance, pourquoi cela ne sauve-t-il pas MachinaLabs ?

Une entreprise réussit en convertissant un besoin en quelque chose qu’on adopte au bon moment. Devancer techniquement n’est pas le même métier que tenir un commerce au présent. MachinaLabs a échoué ; un souci technique précoce ne réécrit pas ce dénouement.

Août 2026. Anthropic fait savoir que Claude marquera désormais ce qu’il produit.

Pour le texte, rien à l’œil. Pas d’étiquette. Pas de mention écrit par une IA. Pas un champ de métadonnées qui tombe dès qu’on colle un paragraphe dans un autre fichier.

Un motif statistique, tissé dans les mots.

Les phrases restent lisibles. Le sens ne change pas. Mais, au fil des choix de génération, le modèle peut laisser un filigrane que le lecteur ne voit pas : assez tenace pour survivre au copier-coller, et parfois à une retouche, assez discret pour qu’on puisse, plus tard, dire que la machine a écrit.

Pour les fichiers — images surtout — c’est une autre technique. Là où le format le permet, Anthropic s’engage à coller une provenance signée, au standard C2PA. Deux familles de marques, un même calendrier : le texte emporte le signal dans ses tokens ; le fichier l’emporte dans ses métadonnées.

La réaction n’a pas tardé. Vie privée, paternité, code : les développeurs ont discuté fort. D’autres ont demandé comment on détecte. Et, comme d’habitude, des outils ont promis d’effacer les traces de provenance.

On a parlé d’un problème neuf. Ce n’en était pas un. Nous y étions déjà — et, pour moi, ce n’était pas qu’un article de presse.

Un souci de 2023

En 2023, à MachinaLabs, mon ancienne startup — elle n’existe plus — nous bâtissions Kurz Notiert pour la Basler Kantonalbank et Bank Cler.

L’IA générative n’avait pas encore de manuel. ChatGPT était public depuis la fin 2022. Les entreprises tâtonnaient. Les politiques internes hésitaient. Les moteurs de recherche changeaient de pied. Personne ne savait où le droit, le marché et les usages se figeraient.

Nous publiions vraiment. Une question, dès lors, n’était pas théorique :

Que laisse la machine dans le texte ?

Nous craignions qu’un contenu généré soit reconnu plus loin dans la chaîne, et que cette reconnaissance pose problème — surtout côté recherche.

Le pipeline ne se contentait donc pas d’envoyer le brut vers la publication. Un petit maillon le transformait, entre autres pour atténuer ce par quoi un texte de machine se trahit comme tel.

Un composant parmi d’autres. De la quincaillerie.

À l’époque, cela n’avait rien d’une catégorie de produit.

Trois ans plus tard, l’industrie s’est prise de passion pour les filigranes de texte et pour des dépôts ouverts qui promettent d’en ôter la provenance. Ma première pensée n’avait rien de noble : On redécouvre ça maintenant ?

La réponse n’est ni oui ni non.

Plus ancien que le grand modèle

Cacher de l’information dans la langue ne date pas de ChatGPT.

Dès 2001 au moins, on étudiait le filigranage en langage naturel. Vingt ans plus tard, des travaux comme l’Adversarial Watermarking Transformer cherchaient, par des réseaux, à tracer d’où venait un texte généré.

Puis les grands modèles de langage. Le filigrane est entré dans la conversation presque tout de suite.

Décembre 2022 : moins de deux semaines après la sortie publique de ChatGPT, Scott Aaronson, alors chez OpenAI, décrivait un filigranage statistique des sorties de modèles de type GPT.

L’idée est nette. Un modèle ne désigne pas, d’ordinaire, le mot suivant. Il dresse une distribution.

Après :

Le chat s’est assis sur le…

tapis est plausible. sol, fauteuil, canapé aussi.

Cette marge, un filigrane peut s’y glisser.

Au lieu de tirer uniquement selon l’échantillonnage habituel, le générateur favorise, selon une règle secrète, certains tokens encore vraisemblables. Pas besoin d’un caractère Unicode bizarre. Pas besoin d’un champ caché collé au document. Rien à ajouter en fin de phrase.

Le marqueur est éparpillé dans les choix. Un mot ne dit presque rien. Des centaines de choix peuvent faire signature.

En 2023, on cassait déjà

Le 24 janvier 2023, John Kirchenbauer et ses collègues publient A Watermark for Large Language Models.

Leur schéma coupe les tokens candidats en ensembles pseudo-aléatoires, puis relève un peu la probabilité de ceux d’un des ensembles. Assez de texte, et un détecteur peut juger que le motif n’est pas dû au hasard. Le lecteur, lui, n’y voit rien.

En 2026, cela sonne déjà connu. La suite importe davantage.

On n’a pas seulement proposé un filigrane en 2023. On a tout de suite cherché à le faire tomber.

En mars, Vinu Sankar Sadasivan et ses collègues font paraître Can AI-Generated Text be Reliably Detected ? Ils confrontent des détecteurs — y compris ceux fondés sur un filigrane — à la paraphrase répétée : reprendre un texte de machine, le réécrire, encore, encore. Le constat gêne : on peut casser beaucoup de la détection sans ruiner le texte.

Vers mai, Miranda Christ, Sam Gunn et Or Zamir poussent plus loin : des filigranes d’inspiration cryptographique, invisibles à qui n’a pas la clé.

En juin, Kirchenbauer et ses collègues regardent précisément ce qui reste du motif quand un humain réécrit, qu’un autre modèle paraphrase, ou que l’on mélange le tout à de la prose humaine.

En juillet, à Stanford, on propose des filigranes sans distorsion, pensés pour tenir sous de fortes perturbations.

En six mois à peine, le champ était déjà passé de peut-on marquer ? à peut-on ôter la marque ? à tient-elle à la paraphrase ? à peut-on cacher jusqu’à l’existence du filigrane, hors clé ?

Le bras de fer que 2026 croit neuf était ouvert en 2023.

Ce que les preuves tiennent

J’aimerais écrire :

Chez MachinaLabs, en 2023, nous retirions les filigranes de l’IA.

Cela ferait un bel après-coup. Cela dirait aussi plus que ce que les traces encore disponibles permettent d’affirmer.

Un filigrane volontaire n’est pas une empreinte. Le premier, le générateur l’insère exprès. La seconde peut naître toute seule : le langage de machine a des régularités que l’écriture humaine n’a pas. Les premiers détecteurs misaient là-dessus. S’y ajoutent métadonnées, scories de mise en forme, autres signaux de provenance.

Ce que je peux dire, c’est qu’en 2023, dans un système de publication réel, nous portions déjà la détectabilité comme un problème d’ingénierie. Savoir si les modèles en amont filigranaient délibérément est une autre question d’histoire. Elle se tranche sur pièces, pas sur souvenir.

L’histoire sert moins quand on la recoud pour qu’elle nous flatte.

Nous nous trompions aussi

Nous pensions d’abord au référencement. L’inquiétude était répandue : publier de l’IA, c’était risquer une sanction des moteurs.

Google, publiquement, disait autre chose. Le 8 février 2023, Search Central posait que le classement devait récompenser un contenu utile, peu importe comment on l’avait produit. L’IA n’était pas l’infraction. L’automatisation pour truquer le classement l’était.

Je ne dirais plus, aujourd’hui, que nous répondions à une pénalité Google connue contre le texte généré. Il n’y avait pas de règle aussi plate. Nous gérions un risque sous incertitude.

La nuance compte. Elle dit aussi ce qu’était 2023 : pas de mode d’emploi. La technique courait plus vite que les politiques d’entreprise, celles des moteurs, le droit, les usages. Une équipe de production tranchait avant que quiconque puisse lui dire quels choix seraient, plus tard, les bons.

Parfois, de l’ingénierie de trop. Parfois, une intuition qui précède le marché. Le plus souvent, on ne savait pas encore laquelle des deux on tenait.

Le calendrier s’est mis en marche

Google a industrialisé l’idée avec SynthID. En 2024, Google DeepMind annonce SynthID Text pour Gemini : pendant la génération, on pèse les tokens pour y loger un signal statistique, toujours invisible. Une implémentation de référence a suivi. Le sujet de labo devenait de l’infrastructure.

Puis le droit. L’article 50 du règlement (UE) 2024/1689 — le règlement sur l’intelligence artificielle — demande aux fournisseurs de systèmes qui produisent du texte, des images, de l’audio ou de la vidéo synthétiques de veiller à ce que leurs sorties soient marquées de façon lisible par machine, et détectables comme artificiellement générées ou manipulées, dans la mesure techniquement possible.

Ces obligations de transparence sont devenues applicables le 2 août 2026. Neuf jours plus tard, Anthropic occupait les unes. Claude filigranerait le texte au niveau du modèle ; la marque voyagerait avec le copier-coller et tiendrait à certaines retouches ; des mécanismes de détection viendraient. Pour les fichiers, le C2PA — déjà adopté, ailleurs, par Adobe, OpenAI, Google — porterait la provenance signée.

Soudain, le problème avait des utilisateurs, un règlement, des titres, des adversaires — et, bien sûr, des outils pour laver le filigrane.

Le neuf n’était pas neuf

On date trop souvent une idée du jour où on la remarque.

Un sujet de recherche devient technologie nouvelle quand un grand nom le déploie. Une capacité devient marché quand la règle pousse à s’en soucier. Une faille devient problème quand assez de gens la rencontrent en même temps.

Inventer, devenir pertinent, être reconnu : trois instants distincts. Le filigranage de texte le montre avec une clarté rare.

On filigranait la langue avant l’IA générative moderne. Fin 2022, on parlait déjà publiquement de marquer les LLM. Début 2023, des schémas statistiques tenaient la route. En quelques mois, on les attaquait par paraphrase, on en bâtissait de plus durs, on songeait au cryptographique. 2024 : Google déploie à l’échelle. 2026 : le droit européen aide à en faire une exigence d’industrie.

Rien, dans l’idée, n’a changé de nature en août 2026.

Le calendrier a sonné.

MachinaLabs a échoué — et alors

MachinaLabs a échoué.

Il faut laisser cette phrase.

On raconte trop bien les échecs : chaque brique abandonnée prouverait que les fondateurs voyaient loin, et que le marché n’a pas compris. Je refuse ce récit.

On ne tient pas une entreprise en empilant des paris techniques justes sur l’avenir. On la tient en convertissant un besoin en quelque chose que des gens adopteront, quand ils sont prêts à l’adopter. Ce n’est pas le même métier.

À MachinaLabs, nous avions multiplié de petits bouts d’infrastructure, convaincus qu’un usage sérieux de l’IA générative en production les exigerait. Certains, sans doute, ne servaient à rien. D’autres étaient peut-être faux. D’autres, simplement trop poussés.

Puis il y a des instants comme celui-ci. Un souci technique d’un pipeline de publication, en 2023, reparaît trois ans plus tard dans une conversation d’industrie : Anthropic, Google, des dépôts ouverts, l’article 50.

Cela n’implique pas que MachinaLabs aurait dû réussir. Cela dit quelque chose de plus utile.

Voir juste l’avenir n’est pas avoir une entreprise aujourd’hui.

Deux horloges

J’ai longtemps cru que devancer était un atout. J’en doute davantage.

La technique avance sur deux horloges.

La première, celle de l’ingénierie, part dès qu’une chose devient possible. Les chercheurs la voient. Les ingénieurs bricolent. Quelques maisons un peu à part construisent autour. Les problèmes naissent ; les parades suivent.

La seconde, celle du marché, part quand assez de monde comprend pourquoi s’en soucier. Des années peuvent les séparer.

Il faut que le capital tienne. Les équipes. Les fondateurs. Et que le produit survive assez longtemps pour que le vocabulaire autour de lui devienne évident.

Le marketing, dès lors, n’est pas un vernis. Au mieux, il met les deux horloges d’accord. Il donne à une capacité un problème qu’on peut nommer. Il nomme le problème. Il dit pourquoi maintenant.

Sans cela, être en avance ressemble, à s’y méprendre, à avoir tort.

Archéologie de ce qui n’a pas tenu

Peut-être un exercice, pour qui a vu une société s’arrêter.

Ne vous contentez pas d’une autopsie. Fouillez.

Rouvrez les dépôts. Relisez les architectures. Regardez les utilitaires dont plus personne ne se souvient. Retrouvez le code défensif écrit pour des peurs que les clients comprenaient à peine. Puis demandez :

Quelles hypothèses étaient fausses ?

Lesquelles attendent encore ?

Et, plus intéressant :

Lesquelles le monde a-t-il, sans bruit, rattrapées ?

Non que le vieux code mérite, en général, de revivre. Rarement. Mais un produit mort contient de l’information. Il fixe ce qu’une équipe croyait de l’avenir, à une date. Trois ans plus tard, on peut comparer la prédiction au réel.

C’est ce que je compte faire avec MachinaLabs. Pas pour prouver que nous avions raison. Pour voir où nous étions.

Ce n’est pas la même enquête.

Et, parmi la quincaillerie oubliée, quelques problèmes ont peut-être, enfin, leur horloge de marché.


Sources

  1. Déploiement du filigrane Claude d’Anthropic — The Verge, 12 août 2026 Annonce : filigrane statistique du texte Claude, métadonnées de provenance C2PA pour les fichiers, et voyage du signal avec le texte. The Verge

  2. Anthropic says it will watermark text generated by its AI models — TechCrunch, 11 août 2026 Compte rendu de la décision d’Anthropic de marquer le texte issu de ses modèles. TechCrunch

  3. Anthropic Claude text watermark — developer concerns — Business Insider, 14 août 2026 Mise en œuvre, détection, et ce que la communauté technique en discute. Business Insider

  4. Règlement (UE) 2024/1689 — règlement sur l’intelligence artificielle, article 50 Obligations de transparence : marquage lisible par machine du contenu synthétique, dans la mesure techniquement possible. EUR-Lex

  5. Commission européenne — Code of Practice on Transparency of AI-Generated Content Documents d’appui sur la transparence du contenu généré par IA dans le cadre de l’Union. European Commission

  6. EU AI Act Service Desk — article 50 Précisions sur les obligations de transparence des fournisseurs et de certains déployeurs. AI Act Service Desk

  7. John Kirchenbauer et al. — A Watermark for Large Language Models, janvier 2023 ; ICML 2023 Schéma statistique fondateur : listes pseudo-aléatoires de tokens favorisés. arXiv:2301.10226 · ICML proceedings

  8. Scott Aaronson / travaux OpenAI sur le filigranage — décembre 2022 Première discussion publique d’un filigrane statistique pour des sorties de type GPT, juste après ChatGPT. TechCrunch

  9. Vinu Sankar Sadasivan et al. — Can AI-Generated Text be Reliably Detected?, mars 2023 Attaque par paraphrase récursive : la détection par filigrane (et d’autres) recule nettement. arXiv:2303.11156

  10. Miranda Christ, Sam Gunn & Or Zamir — Undetectable Watermarks for Language Models, 2023 Filigranes d’inspiration cryptographique, indétectables sans la clé secrète. arXiv:2306.09194

  11. John Kirchenbauer et al. — On the Reliability of Watermarks for Large Language Models, juin 2023 Tenue du filigrane sous réécriture humaine, paraphrase par LLM, mélange à du texte humain. arXiv:2306.04634

  12. Rohith Kuditipudi et al. — Robust Distortion-free Watermarks for Language Models, juillet 2023 Constructions sans distorsion, pensées pour tenir sous perturbation ; aussi présentées par Stanford CRFM. arXiv:2307.15593 · Stanford CRFM

  13. Google DeepMind — SynthID Text (2024) Déploiement industriel du filigranage statistique pour Gemini, avec code de référence public. DeepMind blog · SynthID · Reference implementation

  14. Google Search Central — contenu généré par IA, 8 février 2023 Position publique : le classement récompense l’utile, pas le mode de production ; il sanctionne l’automatisation destinée à truquer le rang. Google Search Central

  15. Guillaume Meyer — watermarks-remover Discussion et outillage ouverts autour du retrait des signaux de provenance / filigrane dans le texte. GitHub