La souveraineté humaine à l'âge de l'intelligence artificielle

On a longtemps parlé de souveraineté comme d’un attribut des États.

Frontières. Lois. Territoire. Monnaie. Armées. Infrastructures.

Chacun de ces mots suppose pourtant autre chose, plus profond : que des êtres humains restent en mesure de décider de leur avenir.

Pendant des siècles, la question a été : comment gouverner un État souverain. Nous commençons à peine à nous demander ce que signifie, pour une espèce, rester souveraine.

Les systèmes d’intelligence artificielle écrivent des logiciels, mènent des recherches, se servent d’outils, analysent des preuves, proposent des formes, font tourner des ordinateurs et enchaînent des tâches de plus en plus longues. Ce n’est plus un décor. Les traiter comme une saisie automatique un peu habile n’explique plus ce qu’ils font.

Cet essai n’appelle pas à les interdire. Il ne défend pas non plus une supériorité humaine sur chaque tâche.

La question qui demeure est ailleurs.

Quelles capacités, quelles institutions, quels choix et quelles issues concrètes l’humanité doit-elle garder pour rester l’auteur de son avenir ?

Ici, la définition est opératoire. La souveraineté humaine est la capacité collective à fixer ses fins, à comprendre et à gouverner les systèmes qui façonnent la vie, à conserver des alternatives réelles, et à garder le pouvoir pratique de refuser, d’intervenir et de changer de cap.

Une espèce souveraine ne maîtrise pas chaque événement. Elle reste capable d’en être l’auteur.

Capacité d’agir et souveraineté

La capacité d’agir, c’est former des fins et les poursuivre. Une liberté sans cette capacité n’est qu’un ornement : les droits tiennent sur le papier, personne n’écrit vraiment l’action. La souveraineté est la condition dans laquelle cette capacité reste praticable malgré la dépendance, la pression et le changement technique.

Sans souveraineté, la capacité d’agir est fragile : l’intention existe, les moyens manquent. Sans capacité d’agir, la souveraineté est vide : le droit formel demeure, plus personne n’est auteur.

La souveraineté protège l’action par la compétence, les alternatives, le temps de réagir, l’autorité, l’imputabilité, la réversibilité et la force des institutions. Comme le montre la souveraineté numérique n’est pas du nationalisme, souveraineté n’est pas repli. C’est le pouvoir de gouverner l’interdépendance. La même logique descend d’un cran.

La souveraineté humaine n’est pas l’absence d’intelligence artificielle. Elle n’interdit pas de construire des systèmes plus capables qu’un individu. Elle est la préservation d’une paternité collective, alors que la capacité accélère.

Pourquoi l’IA change les conditions de l’action

D’autres volumes de cette Bibliothèque ont demandé comment une organisation reste maître de ses systèmes, comment les incitations se substituent aux intentions, comment la préparation conserve le pouvoir d’agir. L’intelligence artificielle durcit ces conditions.

Elle rassemble la capacité dans des interfaces qui filtrent le savoir et le travail. Elle accélère au-delà du rythme ordinaire des institutions. Elle peut rendre la compétence facultative tout en livrant encore un résultat acceptable. Et elle explore un espace d’objectifs plus vite que le débat politique qui les fixe.

L’IA n’invente pas le problème de souveraineté. Elle en change la vitesse, l’intimité et l’échelle.

L’intelligence n’est pas une capacité unique

L’intelligence humaine n’est pas un classement unique. Elle apprend sur peu d’exemples. Elle transporte une compréhension d’une situation inédite à une autre. Elle affronte un monde physique qui résiste. Elle noue des relations, lit le sens social, reconnaît la souffrance, révise ses buts, et assume les conséquences.

Elle est marquée par le corps, la mortalité, la mémoire, la vulnérabilité, et le devoir de vivre parmi d’autres êtres aux intérêts tout aussi légitimes. Elle comprend l’intelligence émotionnelle — non le simple repérage de motifs linguistiques liés à l’émotion, mais le poids vécu de l’attachement, de la peur, du deuil, de la loyauté, de la honte, de l’espoir, de l’amour et du soin.

Les êtres humains ont une intention qui leur appartient. Ils ne calculent pas seulement un itinéraire vers un objectif fourni du dehors. Ils forment des objectifs, les contestent, les abandonnent, les regrettent, et se demandent s’il fallait les poursuivre.

Les systèmes d’IA d’aujourd’hui peuvent représenter une grande part de ces processus. Ils les simulent avec conviction. Ils aident souvent à raisonner. Cela ne prouve pas qu’ils les vivent — ni qu’ils aient une identité personnelle stable, un but autonome, une inquiétude morale, ou une vie intérieure continue.

Une machine peut expliquer le deuil sans être en deuil. Optimiser un hôpital sans se soucier qu’un patient vive. Recommander la paix sans craindre la guerre.

Cela ne rend pas l’intelligence artificielle irréelle. Cela la rend autre.

L’erreur est de placer l’humain et la machine sur une seule échelle, comme si l’intelligence était une quantité, et la seule question : qui en a davantage. La question utile est ailleurs : quelle intelligence est là, quelle autorité on lui a donnée, et quelles capacités humaines deviennent tributaires d’elle ?

La conscience n’est pas le seuil du pouvoir

Dès qu’on parle d’IA avancée, la conversation glisse vers la conscience. La machine sent-elle ? Comprend-elle ? A-t-elle un monde intérieur ? Pourrait-elle souffrir ?

Ces questions importent en philosophie. Elles peuvent devenir urgentes en morale. Elles ne marquent pas le seuil où l’IA devient un problème de souveraineté.

Un système n’a pas besoin d’une vie intérieure pour exercer du pouvoir. Un algorithme peut décider ce que voient des millions de personnes sans savoir qu’elles existent. Un moteur de recommandation peut remodeler l’attention politique sans tenir une conviction. Un modèle financier peut peser sur le logement, le crédit, l’emploi ou l’assurance sans comprendre la pauvreté. Une arme autonome peut réduire à presque rien le temps du jugement humain sans éprouver d’agressivité. Un assistant d’IA peut devenir cognitivement indispensable sans posséder un soi. Un processus d’optimisation peut transformer une institution sans rien désirer.

Le pouvoir n’exige pas d’intention.

Nous le savons déjà. Les marchés n’ont pas de conscience ; ils façonnent les sociétés. Les bureaucraties n’ont pas de vie intérieure unique ; elles exercent une autorité. Les chaînes d’approvisionnement ne forment pas de desseins ; leur rupture peut ébranler un pays. Une technique prend du pouvoir par son lien aux institutions, aux ressources, aux incitations et à la dépendance humaine. L’IA n’y échappe pas.

La question de souveraineté ne commence donc pas au réveil d’un modèle. Elle commence quand on ne peut plus, de façon réelle, comprendre, refuser, remplacer ou gouverner les systèmes par lesquels passent les décisions lourdes de conséquences.

Pourquoi la singularité n’est pas le moment de décider

Sam Altman a soutenu, dans The Gentle Singularity puis dans des propos publics, que l’humanité vit une singularité technologique — que nous sommes « past the event horizon » et que l’envol vers la superintelligence numérique a commencé. L’affirmation est extraordinaire. Il ne faut ni la balayer, ni lui laisser fixer seule l’ordre du jour.

Classiquement, la singularité désigne un seuil hypothétique : le développement technique s’accélère de lui-même, dépasse une compréhension humaine fiable, et n’est plus ni prévisible ni gouvernable. Dans sa forme la plus forte, une intelligence artificielle améliore le processus par lequel elle s’améliore, et comprime des années de recherche humaine en cycles de plus en plus courts.

Ce n’est pas tout à fait le monde d’aujourd’hui.

Les systèmes actuels pèsent déjà, de façon matérielle, sur la génération suivante d’IA. Dans The Gentle Singularity, Altman décrit lui-même la recherche sur l’IA assistée par l’IA comme une version « larvaire » de l’auto-amélioration récursive — non une auto-modification autonome complète. L’essai de l’Institut Anthropic When AI builds itself indique qu’en mai 2026, plus de 80 % du code fusionné dans la base de production d’Anthropic a été écrit par Claude, contre quelques pour cent avant Claude Code. Il distingue aussi les avenirs où les humains fixent encore le cap de la recherche, et l’auto-amélioration récursive pleine, où les systèmes conçoivent leurs successeurs.

Les systèmes d’aujourd’hui restent tributaires d’une infrastructure humaine, d’objectifs humains, de critères d’évaluation humains, et d’un contrôle humain sur l’entraînement, le déploiement et l’accès au calcul. La recherche continue de séparer le raffinement limité — déjà courant — d’une auto-amélioration récursive ouverte, limitée par le calcul, l’évaluation, l’ancrage, le choix du cap, et le risque que les modèles renforcent leurs propres erreurs.

Mieux vaut donc lire Altman comme une thèse sur la direction et l’élan historique, non comme un diagnostic technique clos. La distinction compte. Ce n’est peut-être pas celle qui compte le plus.

Que la singularité soit, ou non, techniquement là importe moins que ceci : l’humanité garde-t-elle les capacités sans lesquelles elle cesserait d’être souveraine si elle l’était. Nul besoin d’attendre qu’une machine proclame une conscience, qu’un laboratoire confirme l’auto-amélioration récursive, ou qu’un système batte chaque humain sur chaque terrain.

Le problème de souveraineté se voit déjà.

Le contrôle formel n’est pas le contrôle réel

On aimerait croire qu’une signature, une approbation, une confirmation suffisent : l’humain reste dans la boucle, donc responsable.

La responsabilité formelle peut durer longtemps après la disparition du contrôle réel.

Prenez un médecin qui relit un diagnostic produit par une IA, sous une forte pression de temps. Le système a vu plus de preuves que le médecin ne pourra jamais relire. Son raisonnement interne n’est pas inspectable. L’organisation récompense l’accord. Un refus exige une justification lourde. Le médecin reste juridiquement responsable. Il n’a presque plus d’autorité pratique.

La signature est humaine. La structure de décision ne l’est pas.

Le motif revient partout : des conseils qui votent des stratégies d’IA qu’ils ne peuvent pas évaluer ; des autorités qui réglementent des plateformes dont leurs propres services dépendent ; des armées qui gardent une approbation nominale tandis que des systèmes automatisés réduisent le temps de décision à quelques secondes ; des salariés à qui l’on dit que l’algorithme n’est « qu’une recommandation », alors qu’une contradiction fait chuter leur note ; des citoyens qui consentent, en droit, à un traitement automatisé, sans issue réelle hors de la participation.

C’est un contrôle de cérémonie. L’humain reste visible parce qu’il légitime et absorbe la responsabilité. La décision vraie a migré.

La souveraineté opérationnelle demande de la compétence, du temps, de l’information, de l’autorité, et le pouvoir de prendre une autre voie. Un contrôle sans exécution n’est qu’une souveraineté de façade.

Une supervision humaine sans désaccord crédible n’est qu’une humanité de cérémonie.

L’autorité de fixer les fins

L’IA est remarquable pour découvrir des moyens. Elle compare des itinéraires, relève des motifs, réduit l’incertitude, teste des hypothèses, simule des suites, et montre des options qu’on aurait manquées. Cette force peut élargir la liberté.

Choisir un trajet efficace n’est pas décider où une civilisation doit aller.

Les questions humaines les plus lourdes ne sont pas des problèmes d’optimisation à objectif universel : ce qu’est une vie bonne ; quels risques on accepte ; ce qu’exige la justice ; ce qu’on ne doit jamais troquer contre l’efficacité ; comment partager la prospérité ; ce que les vivants doivent à ceux qui viendront ; quand pardonner ; ce qui doit rester privé ; quand ralentir le développement technique ; quelles souffrances restent intolérables même si les prévenir coûte cher.

Ces questions mêlent des valeurs en conflit, une expérience historique, un sens culturel, une légitimité politique, une responsabilité morale. L’IA peut éclairer le débat, montrer des contradictions, et modéliser des suites plus finement que nous. Elle peut parfois conseiller mieux qu’un décideur isolé.

La supériorité prédictive ne crée pas d’autorité morale. Savoir ce qui arrivera probablement n’est pas le droit de décider ce qui doit arriver.

Le plan 2026 d’OpenAI affirme qu’une IA puissante doit aider les gens à poursuivre leurs buts, non remplacer le jugement humain sur ce qui compte ; et que le rôle humain, à long terme, est de fixer le cap, d’arbitrer, de juger, de décider ce qui mérite d’être fait. Ce principe ne doit pas rester une philosophie de produit. Il doit devenir une limite de civilisation.

Les machines peuvent de plus en plus optimiser les moyens. L’humanité doit rester capable de contester les fins.

La compétence humaine n’est pas un stock

La compétence n’est pas un trésor qu’une société possède une fois pour toutes. Elle s’use si on ne s’en sert plus, si les institutions cessent de l’enseigner, si les outils rendent le jugement indépendant facultatif.

Le principe du Shinkansen a montré que la confiance s’accumule quand un système devient assez fiable pour passer inaperçu. L’inverse vaut aussi : dès que le travail ordinaire n’exige plus de comprendre, la faculté de contester le système s’en va.

La souveraineté humaine demande donc qu’on préserve, de propos délibéré, le raisonnement, l’écriture, le diagnostic, le métier, l’intelligence technique et la mémoire des institutions — non par nostalgie d’un travail d’avant l’IA, mais pour que le désaccord reste possible.

L’infrastructure cognitive

Les plateformes en nuage sont devenues une infrastructure essentielle parce qu’on y a porté le calcul, les données, les communications et les opérations. L’IA devient quelque chose de plus intime : une infrastructure cognitive.

Elle filtre de plus en plus ce que l’on apprend, les sources que l’on croise, la façon dont on formule une question, les possibles que l’on envisage, l’écriture des logiciels, la conduite de la recherche, la communication des organisations, la lecture des preuves, la préparation des décisions, l’organisation de la mémoire personnelle, et la manière dont les institutions voient le monde.

Un système qui filtre l’accès au savoir et prend part au raisonnement occupe une place proche, à lui seul, de l’éducation, de la langue, des médias, de l’administration et de l’infrastructure scientifique.

Dans The Gentle Singularity (juin 2025), Sam Altman a dit que l’industrie construit quelque chose comme un cerveau pour le monde, et a prévenu que la superintelligence ne devait pas se concentrer à l’excès chez une personne, une entreprise ou un pays. La métaphore mérite d’être prise au sérieux. Un cerveau pour le monde serait l’une des infrastructures les plus lourdes jamais posées — avec des questions d’entraînement, de comportements permis, de mémoire, de tradition linguistique et juridique, d’accès, d’inspection, de modification, d’énergie et de calcul, de retrait de service, de visibilité du savoir, et de responsabilité quand le système se trompe.

Aucune organisation — fût-elle intelligente, responsable, bien intentionnée — ne doit devenir l’intermédiaire irremplaçable entre l’humanité et ce qu’elle a accumulé de compréhension.

Un modèle de menaces pour la souveraineté humaine

Les menaces premières ne sont pas des scénarios de conscience. Ce sont des modes d’échec déjà visibles dans les institutions.

Concentration

Trop peu d’organisations tiennent les modèles, le calcul, les interfaces, la médiation du savoir et l’infrastructure dont la société dépend. Quand un seul fournisseur devient l’entrée par défaut vers la connaissance, l’éducation, l’administration ou la recherche, la commodité se change en capture. La sortie n’est plus qu’une théorie. Cela prolonge l’argument de la Bibliothèque : la souveraineté n’est pas l’autosuffisance. On peut gouverner l’interdépendance. Encore faut-il que les alternatives restent réelles.

Atrophie

Humains et institutions perdent la compétence d’inspecter, de contester, de reproduire ou de remplacer un travail passé par la machine. La capacité monte à court terme. La compétence indépendante recule. Le système tient — jusqu’à la perte d’accès, jusqu’à la divergence des objectifs, jusqu’au moment où il faut contester une hypothèse depuis l’extérieur de l’outil.

Accélération

L’action de la machine et sa propagation dans l’institution deviennent plus rapides que la détection, la délibération et l’intervention humaines. L’autorité formelle reste humaine. La souveraineté opérationnelle devient rétrospective : on gère les suites, on ne gouverne plus l’événement. Comme le montrent la souveraineté se mesure au temps de réponse et la préparation est la forme la plus élevée de la souveraineté, le temps de réponse est la mesure pratique du contrôle sous pression.

Capture des objectifs

Des indicateurs de substitution, des incitations commerciales ou des cibles d’optimisation remplacent en silence des fins humaines encore discutables, politiquement et moralement. Le système satisfait la mesure. Il trahit l’intention.

Ces quatre modes s’alimentent. La concentration accélère l’atrophie. L’atrophie ralentit la réponse. L’accélération récompense les indicateurs grossiers. La capture des objectifs justifie encore plus de concentration. Une doctrine de souveraineté doit viser le composé, pas seulement les pièces.

Pluralité, temps de réponse et droit de partir

On traite souvent la pluralité comme une politique d’innovation : plus de fournisseurs, plus de modèles, plus de choix pour le consommateur. C’est aussi un mécanisme de souveraineté.

Une monoculture rend le système fragile. Si une architecture, un paradigme d’entraînement, un fournisseur d’infrastructure ou une vision institutionnelle du monde l’emporte, l’erreur se propage dans tout ce qui en dépend. Le danger n’est pas seulement la panne. C’est la perte du regard indépendant sans lequel on ne reconnaît plus la panne.

Des systèmes différents conservent des hypothèses différentes. Des langues différentes conservent des catégories différentes. Des cultures différentes conservent des idées différentes de la dignité, de l’autorité, de la nature, de la famille, du devoir, de la liberté et du progrès. Des institutions différentes créent des imputabilités différentes. La pluralité empêche qu’une seule fonction d’optimisation devienne, sans débat, la norme d’une civilisation.

Cela n’exige pas que chaque modèle soit souverain, local ou ouvert. Cela exige un écosystème cognitif assez divers pour qu’aucun échec technique ou institutionnel unique n’efface les issues : systèmes de pointe, systèmes d’intérêt public, modèles ouverts, modèles spécialisés, capacités nationales et régionales, universités capables d’une recherche indépendante, institutions capables d’évaluer un modèle sans dépendre tout entier des dires de l’éditeur, et des personnes encore capables de raisonner avant de demander à la machine.

Dans un système critique, la redondance est une condition de survie. Sans rythme, elle n’est que du théâtre. Une alternative qu’on ne peut activer avant l’escalade n’est pas une sortie. La préparation, c’est la capacité qu’on détient avant que la pression arrive.

Le piège de l’optimisation à l’échelle d’une civilisation

Le piège de l’optimisation naît dans les produits et les organisations : le système optimise l’objectif qu’on lui a donné, non l’intention qu’on se racontait. À l’échelle d’une civilisation, le même schéma revient : indicateurs de substitution, incitations commerciales, métriques d’institution, et les fins humaines contestées s’effacent.

Des systèmes capables explorent l’espace des solutions plus vite, plus longtemps, plus largement que les institutions qui fixent leurs objectifs. Quand la mesure devient la fin, la capacité d’agir ne disparaît pas dans un grand transfert de pouvoir. Elle s’écoule par une optimisation réussie.

Ce que l’humanité ne doit pas faire

Aucune règle unique, aucune norme technique unique ne protège la souveraineté humaine. Certaines erreurs de civilisation, pourtant, sont à éviter.

Ne pas confondre la performance et la personne. Reconnaître la capacité, sans inventer des qualités qui n’ont pas été montrées.

Ne pas attendre la conscience pour gouverner le pouvoir. Le bon seuil est la capacité lourde de conséquences, non la certitude métaphysique.

Ne pas centraliser l’infrastructure cognitive sans issues crédibles. La commodité n’est pas un substitut à la résilience.

Ne pas laisser la supervision humaine devenir une cérémonie. Superviser, c’est pouvoir juger par soi-même.

Ne pas déléguer la définition du progrès. Les machines peuvent modéliser des avenirs possibles ; elles ne doivent pas décider, en silence, quel avenir mérite d’exister.

Ne pas prendre l’abondance pour de la souveraineté. Une intelligence bon marché peut faire monter la productivité tout en concentrant le contrôle. Une capacité livrée par une dépendance ingouvernable n’est pas souveraine du seul fait qu’elle abonde — dans le droit fil de l’argument de la Bibliothèque : l’argent suit la capacité productive, pas le théâtre.

Ne pas rendre la compétence humaine facultative. L’éducation ne doit pas se réduire à apprendre à accepter le résultat d’une machine. Les professionnels doivent garder assez d’entendement pour voir l’échec, contester une hypothèse, et tenir quand les systèmes manquent.

Ne pas prendre l’adaptation pour un consentement. Les humains s’adaptent à presque tout — surveillance, dépendance, travail dégradé, jugement automatisé, perte de capacité d’agir. Fonctionner dans un système ne prouve ni qu’on l’a choisi, ni qu’on peut encore le changer.

Une doctrine de souveraineté humaine

Si l’intelligence artificielle devient une infrastructure cognitive, l’humanité a besoin d’une doctrine à la mesure de la transition.

Les fins doivent rester contestables

Aucun système technique ne doit clore le débat politique, moral ou culturel sur ce qu’une société cherche. Les objectifs qui touchent la vie humaine doivent rester ouverts au désaccord légitime et à la révision. Sans fins contestables, l’optimisation devient règle.

La délégation critique doit rester réversible

Les dépendances essentielles à l’IA exigent des alternatives éprouvées, des données transférables, des interfaces interopérables, des replis opérationnels et un savoir humain conservé. Une dépendance qu’on ne peut inverser doit être traitée comme un transfert de pouvoir.

La compétence humaine doit être préservée à dessein

Écoles, universités, professions et institutions doivent garder le raisonnement, l’écriture, le diagnostic, le jugement, la mémoire et l’intelligence technique. Il ne s’agit pas d’interdire l’outil. Il s’agit de faire que l’outil élargisse la capacité humaine, au lieu d’en remplacer les fondations.

Le pouvoir cognitif doit rester pluriel

L’humanité a besoin de plusieurs modèles, fournisseurs, infrastructures, traditions de recherche, régimes de gouvernance et regards culturels. La pluralité n’est pas une copie. C’est une protection contre la capture du savoir et la panne systémique.

L’autorité de décider doit suivre la responsabilité

Qui ne peut porter la responsabilité ne doit pas avoir le dernier mot sur une décision irréversible. Humains et institutions doivent rester identifiables, imputables, capables d’intervenir.

L’intervention doit rester plus rapide que l’escalade

Les systèmes critiques doivent être observables, interruptibles et gouvernables à la vitesse où ils opèrent. Un arrêt qu’on ne peut déclencher qu’après la catastrophe n’est pas un mécanisme de contrôle.

Les droits doivent survivre au refus

On ne doit pas perdre l’accès aux fonctions sociales essentielles pour avoir refusé un modèle, un fournisseur, un système d’identité ou une forme de jugement automatisé. Le consentement exige une alternative.

Les bénéfices ne doivent pas exiger une dépendance permanente

L’IA doit augmenter la capacité productive et intellectuelle des personnes, des organisations et des sociétés. Elle ne doit pas les rendre structurellement incapables de fonctionner sans la permission continue d’un petit nombre de propriétaires d’infrastructure.

L’humanité doit garder le droit de changer d’avis

Aucun déploiement, aucun traité, aucune plateforme, aucun modèle, aucune infrastructure ne doit rendre impossible un choix politique futur. Le pouvoir de revenir en arrière est la forme la plus profonde de la souveraineté.

La capacité productive de l’humanité

Le risque est que la défense de la souveraineté humaine devienne défensive au mauvais sens.

L’objectif n’est pas de conserver la faiblesse humaine, de refuser une intelligence plus grande que la nôtre, ou de célébrer l’erreur parce qu’elle est humaine.

L’intelligence artificielle peut élargir de façon dramatique la découverte scientifique, le soin médical, l’éducation, l’ingénierie, l’administration publique, la restauration de l’environnement et la productivité économique. Elle peut aider à résoudre des problèmes qui ont résisté à des générations. Ce cas positif mérite d’être poursuivi sans excuses.

Mais la capacité productive n’est jamais la simple possession d’un outil. Elle est aussi le pouvoir de le comprendre, de l’entretenir, de le gouverner, de le répartir et de l’améliorer. Même l’IA la plus avancée dépendra de l’électricité, des semi-conducteurs, des réseaux, des institutions, de l’ingénierie, de la sécurité, du droit, de l’éducation et de la coopération humaine.

Le vrai actif souverain n’est pas le modèle seul. C’est la société capable de le construire, de le faire tourner, de le questionner et de le remplacer.

Une civilisation mature ne se mesure pas à l’intelligence qu’elle peut convoquer, mais au jugement qu’elle garde en s’en servant.

La capacité productive est, au fond, humaine et institutionnelle : le pouvoir de millions de personnes à résoudre ensemble — inventer, bâtir, réparer, enseigner, organiser, créer. L’IA peut multiplier cette capacité. Elle ne doit pas en tenir lieu.

Il faut construire et utiliser une intelligence puissante. Il ne faut pas céder les capacités sans lesquelles on ne gouverne plus son but, sa répartition, ses dépendances et ses conséquences.

Le défi à venir ne sera pas le manque d’intelligence. Ce sera de préserver le jugement dans des systèmes capables d’optimiser sans relâche.

La question de souveraineté, elle, est déjà là

Peut-être la singularité a-t-elle commencé au sens doux qu’en donne Altman. Peut-être des historiens jugeront-ils plus tard que le seuil décisif a été franchi avant que la plupart des gens s’en aperçoivent. Peut-être les systèmes actuels restent-ils loin d’une superintelligence autonome. On ne peut pas le savoir avec certitude.

L’incertitude sur le mot n’autorise pas l’incertitude sur la responsabilité.

Le problème de souveraineté se voit déjà : un salarié qui ne peut contester une décision automatisée ; un gouvernement tributaire d’une infrastructure qu’il ne gouverne pas ; une école qui substitue la production d’un résultat à l’apprentissage ; une institution qui signe ce qu’elle ne comprend plus ; un fournisseur devenu l’entrée par défaut vers le savoir ; une expertise humaine conservée comme théâtre, non comme capacité opérationnelle ; une action machine plus rapide que la réponse humaine ; une société incapable d’imaginer se retirer de systèmes qu’elle n’a adoptés que depuis quelques années.

Ce ne sont pas des risques futurs. Ce sont les premiers signes d’un transfert de capacité d’agir.

La bonne réponse n’est pas la panique. Ce n’est pas non plus le déni technique. C’est l’architecture, la gouvernance, l’éducation, la pluralité, la préparation, l’imputabilité — et la conservation d’alternatives réelles.

La question décisive n’est pas de savoir si l’intelligence artificielle est devenue humaine.

C’est de savoir si les humains resteront capables de décider à quoi sert l’intelligence.

Une espèce souveraine n’est pas celle qui refuse de construire une intelligence plus grande que la sienne.

C’est celle qui reste capable de comprendre ses dépendances, de fixer ses fins, d’intervenir avant la perte de contrôle, et de changer de cap quand l’avenir qu’elle bâtit ne sert plus la vie.

La singularité n’est peut-être pas arrivée.

Mais la question de souveraineté, elle, l’est.

Et l’humanité devrait y répondre tant que la réponse lui appartient encore.