Tout au long de l'histoire, la souveraineté a généralement été abordée comme une propriété des États.
Frontières. Lois. Territoire. Monnaie. Armées. Infrastructure.
Pourtant, chacun de ces concepts suppose quelque chose de plus profond : que les êtres humains restent capables de décider de leur propre avenir.
Nous avons passé des siècles à nous demander comment les États souverains devraient être gouvernés. Nous commençons seulement à nous demander ce que signifie, pour une espèce, rester souveraine.
L'intelligence machine écrit désormais des logiciels, mène des recherches, utilise des outils, analyse des preuves, génère des conceptions, fait fonctionner des ordinateurs et accomplit des séquences de travail de plus en plus complexes. Ce sont des capacités réelles. Les écarter comme un autocomplete sophistiqué n'explique plus ce que ces systèmes peuvent faire.
Mais cet essai n'est pas un argument contre leur construction. Ce n'est pas non plus une défense de la supériorité humaine dans chaque tâche.
La question durable est différente.
Quelles capacités, institutions, choix et alternatives pratiques l'humanité doit-elle préserver pour rester l'auteur de son propre avenir ?
La définition de travail de cette Bibliothèque est opérationnelle. La souveraineté humaine est la capacité collective des personnes à déterminer leurs fins, comprendre et gouverner les systèmes qui façonnent leur vie, préserver des alternatives significatives et conserver la capacité pratique de refuser, d'intervenir et de changer de direction.
Une espèce souveraine n'est pas une espèce qui contrôle chaque événement. C'est une espèce qui reste capable d'être auteur de son avenir.
Agency et souveraineté
Agency est la capacité de former des fins et d'agir en conséquence. La liberté sans Agency est ornementale : les droits existent sur le papier tandis que les personnes ne peuvent pas être auteurs d'une action significative. La souveraineté est la condition dans laquelle cette Agency reste pratiquement exercisable sous la dépendance, la pression et le changement technologique.
L'Agency sans souveraineté est fragile : une personne ou une institution peut encore former des intentions tout en manquant des moyens pratiques pour les mettre en œuvre. La souveraineté sans Agency est vide : les droits formels subsistent tandis que la capacité d'auteur disparaît.
La souveraineté protège l'Agency par la compétence, les alternatives, le temps de réagir, l'autorité, la responsabilité, la réversibilité et la capacité institutionnelle. Comme la souveraineté numérique n'est pas du nationalisme l'argumente, la souveraineté n'est pas l'isolement de l'interdépendance, mais la capacité de la gouverner. La même logique s'applique désormais à un niveau plus profond.
La souveraineté humaine n'est pas l'absence d'intelligence machine. Ce n'est pas une interdiction de construire des systèmes plus capables que les humains individuels. C'est la préservation de la capacité d'auteur collective dans des conditions de capacité accélérée.
Pourquoi l'IA change les conditions de l'Agency
Des volumes antérieurs de la Bibliothèque se sont demandé comment les organisations conservent la propriété de leurs systèmes, comment les incitations remplacent silencieusement les intentions, et comment la préparation préserve la capacité d'agir. L'intelligence artificielle intensifie ces conditions.
Elle concentre la capacité dans des interfaces qui médient la connaissance et le travail. Elle accélère l'action au-delà du tempo institutionnel ordinaire. Elle peut rendre la compétence optionnelle tout en produisant encore des résultats acceptables. Et elle peut explorer des espaces d'objectifs plus vite que les processus politiques qui fixent ces objectifs.
L'IA n'invente pas le problème de souveraineté. Elle change la vitesse, l'intimité et l'échelle à laquelle l'Agency peut être perdue.
L'intelligence n'est pas une seule capacité
L'intelligence humaine n'est pas un benchmark unique. Elle inclut la capacité d'apprendre à partir d'une expérience limitée, de transférer une compréhension entre des situations inédites, d'interagir avec un monde physique résistant, de former des relations, d'interpréter le sens social, de reconnaître la souffrance, de réviser des objectifs personnels et d'accepter la responsabilité des conséquences.
Elle est façonnée par l'incarnation, la mortalité, la mémoire, la vulnérabilité et le besoin de vivre parmi d'autres êtres aux intérêts tout aussi légitimes. Elle inclut l'intelligence émotionnelle — non pas seulement la capacité d'identifier des motifs linguistiques associés à l'émotion, mais les conséquences vécues de l'attachement, de la peur, du deuil, de la loyauté, de la honte, de l'espoir, de l'amour et du soin.
Et les êtres humains possèdent une intention personnelle. Nous ne calculons pas seulement des routes vers des objectifs fournis de l'extérieur. Nous formons des objectifs, les contestons, les abandonnons, les regrettons et nous demandons s'ils auraient dû être poursuivis.
Les systèmes d'IA actuels peuvent représenter bon nombre de ces processus. Ils peuvent les simuler de manière convaincante et aident souvent les humains à raisonner à leur sujet. Cela ne démontre pas que les systèmes les vivent — ni qu'ils possèdent une identité personnelle stable, un but autonome, une préoccupation morale ou une vie intérieure continue.
Une machine peut produire une excellente explication du deuil sans être en deuil. Elle peut optimiser un système médical sans se soucier de savoir si un patient vit. Elle peut recommander la paix sans craindre la guerre.
Cela ne rend pas l'intelligence machine irréelle. Cela la rend différente.
L'erreur consiste à forcer les capacités humaine et machine sur une seule ligne, comme si l'intelligence était une quantité unique et que la seule question fût de savoir quel participant en possédait davantage. La question plus utile est : quelle sorte d'intelligence est présente, quelle autorité lui a été connectée, et quelles capacités humaines deviennent dépendantes d'elle ?
La conscience n'est pas le seuil du pouvoir
Les discussions sur l'IA avancée tournent souvent autour de la conscience. La machine peut-elle ressentir ? Comprend-elle ? Possède-t-elle un monde intérieur ? Pourrait-elle souffrir ?
Ces questions sont philosophiquement importantes et pourraient devenir moralement urgentes. Mais la conscience n'est pas le seuil à partir duquel l'IA devient un problème de souveraineté.
Un système n'a pas besoin d'une vie intérieure pour exercer du pouvoir. Un algorithme peut déterminer quelles informations des millions de personnes voient sans savoir que ces personnes existent. Un système de recommandation peut remodeler l'attention politique sans avoir de conviction politique. Un modèle financier peut influencer l'accès au logement, au crédit, à l'emploi ou à l'assurance sans comprendre la pauvreté. Un système d'armes autonomes peut comprimer le temps disponible pour le jugement humain sans éprouver d'agressivité. Un assistant IA peut devenir cognitivement indispensable sans posséder de soi. Un processus d'optimisation peut transformer une institution sans désirer quoi que ce soit.
L'intention n'est pas requise pour le pouvoir.
Cela nous est déjà familier. Les marchés n'ont pas de conscience, et pourtant ils façonnent les sociétés. Les bureaucraties n'ont pas de vie intérieure unifiée, et pourtant elles exercent une autorité. Les chaînes d'approvisionnement ne forment pas d'intentions, et pourtant leur défaillance peut déstabiliser des pays. La technologie acquiert du pouvoir par sa relation aux institutions, aux ressources, aux incitations et à la dépendance humaine. L'IA ne fait pas exception.
La question de la souveraineté ne commence donc pas quand un modèle s'éveille. Elle commence quand les humains ne peuvent plus comprendre, refuser, remplacer ou gouverner de manière significative les systèmes par lesquels les décisions conséquentes sont prises.
Pourquoi la singularité n'est pas le point de décision
Sam Altman a argumenté, dans The Gentle Singularity et dans des déclarations publiques ultérieures, que l'humanité vit une singularité technologique — que nous sommes « passés l'horizon des événements » et que la montée vers la superintelligence numérique a commencé. C'est une affirmation extraordinaire. Elle ne devrait ni être écartée ni être autorisée à fixer seule l'agenda.
Classiquement, la singularité décrit un seuil hypothétique au-delà duquel le développement technologique devient auto-accélérateur, dépasse la compréhension humaine fiable et ne peut plus être ni prédit ni contrôlé de manière significative. Dans sa forme la plus forte, une intelligence artificielle améliore le processus par lequel elle s'améliore elle-même, compressant des années de recherche humaine en cycles de plus en plus courts.
Ce n'est pas tout à fait ce qui existe aujourd'hui.
Les systèmes actuels contribuent déjà de manière substantielle à la prochaine génération d'IA. Dans The Gentle Singularity, Altman lui-même a décrit la recherche sur l'IA assistée par l'IA comme une version « larvaire » de l'auto-amélioration récursive — pas une auto-modification autonome complète. L'essai de l'Institut Anthropic When AI builds itself rapporte qu'en mai 2026, plus de 80 % du code fusionné dans la base de code de production d'Anthropic a été rédigé par Claude, contre de faibles chiffres à un seul chiffre avant Claude Code, tout en distinguant les futurs dans lesquels les humains fixent encore l'orientation de la recherche de l'auto-amélioration récursive complète dans laquelle les systèmes conçoivent leurs propres successeurs.
Les systèmes actuels restent dépendants de l'infrastructure construite par l'homme, des objectifs définis par l'homme, des critères d'évaluation générés par l'homme et du contrôle humain sur l'entraînement, le déploiement et l'accès au calcul. La recherche continue de distinguer le raffinement autolimité — déjà courant — de l'auto-amélioration récursive ouverte, contrainte par le calcul, l'évaluation, l'ancrage, la définition des orientations et le risque que les modèles renforcent leurs propres erreurs.
La formulation d'Altman se comprend donc mieux comme une affirmation sur la direction et l'élan historique que comme un diagnostic technique établi. La distinction compte. Mais ce n'est peut-être pas la distinction qui compte le plus.
Que la singularité soit techniquement arrivée importe moins que la question de savoir si l'humanité préserve les capacités requises pour rester souveraine si elle l'est. L'humanité n'a pas besoin d'attendre qu'une machine annonce la conscience, qu'un laboratoire confirme l'auto-amélioration récursive, ou qu'un système surpasse chaque humain dans chaque domaine.
Le problème de souveraineté est déjà visible.
Le contrôle formel n'est pas le contrôle effectif
Il est tentant de croire que la souveraineté peut être préservée simplement en gardant un humain dans la boucle — une signature, une approbation, une étape de confirmation. L'humain reste formellement responsable.
Mais la responsabilité formelle peut survivre longtemps après que le contrôle effectif a disparu.
Considérez un médecin examinant un diagnostic généré par l'IA sous une forte pression temporelle. Si le système a traité plus de preuves que le médecin ne pourrait examiner indépendamment, si son raisonnement interne ne peut pas être inspecté, si les mesures organisationnelles récompensent l'accord, et si le rejet exige une justification extensive, le médecin peut rester légalement responsable tout en possédant peu d'autorité pratique.
La signature est humaine. La structure de décision ne l'est pas.
Le même schéma apparaît dans les organisations : des conseils d'administration approuvant des stratégies IA qu'ils ne peuvent pas évaluer techniquement ; des autorités publiques réglementant des plateformes dont leurs propres services dépendent ; des armées conservant une approbation nominale tandis que les systèmes automatisés compriment le temps de décision à quelques secondes ; des travailleurs informés qu'un algorithme n'est « qu'une recommandation » tandis que la contradiction nuit à leur score de performance ; des citoyens qui consentent techniquement au traitement automatisé mais n'ont aucune alternative réaliste à la participation.
Ces arrangements créent un contrôle cérémoniel. L'humain reste visible parce que sa présence confère la légitimité et absorbe la responsabilité. La vraie décision a migré ailleurs.
La souveraineté opérationnelle exige la compétence, le temps, l'information, l'autorité et la capacité de choisir une autre voie. Le contrôle sans exécution est une souveraineté cérémonielle.
La supervision humaine sans désaccord crédible est une humanité cérémonielle.
L'autorité de déterminer les fins
L'IA est exceptionnellement utile pour découvrir les moyens. Elle peut comparer des routes, identifier des motifs, réduire l'incertitude, tester des hypothèses, simuler des conséquences et exposer des options que les humains pourraient manquer. Cette capacité peut élargir considérablement la liberté humaine.
Mais choisir une route efficace n'est pas la même chose que décider où la civilisation devrait aller.
Les questions humaines les plus conséquentes ne sont pas des problèmes d'optimisation avec des objectifs universellement convenus : qu'est-ce qu'une bonne vie ; quels risques sont acceptables ; ce que la justice exige ; ce qui ne doit jamais être échangé contre l'efficacité ; comment la prospérité devrait être distribuée ; quelles obligations les générations présentes doivent à l'avenir ; quand une société devrait pardonner ; ce qui doit rester privé ; quand le développement technologique devrait ralentir ; quelles formes de souffrance sont intolérables même si leur prévention est coûteuse.
Ces questions impliquent des valeurs concurrentes, une expérience historique, un sens culturel, une légitimité politique et une responsabilité morale. L'IA peut éclairer les débats, exposer les contradictions et modéliser les conséquences plus précisément que les humains. Elle peut parfois produire des recommandations plus sages que celles de décideurs individuels.
Mais la supériorité prédictive ne crée pas d'autorité morale. La capacité de déterminer ce qui est susceptible de se produire n'est pas la même chose que le droit de déterminer ce qui devrait se produire.
Le plan 2026 d'OpenAI affirme que l'IA puissante devrait aider les personnes à poursuivre leurs objectifs plutôt que de remplacer le jugement humain sur ce qui compte, et que le rôle humain à long terme inclut la définition de l'orientation, la prise de compromis, l'application du jugement et la décision de ce qui vaut la peine d'être fait. Ce principe ne devrait pas rester une philosophie produit. Il devrait devenir une frontière civilisationnelle.
Les machines peuvent de plus en plus optimiser les moyens. L'humanité doit rester capable de contester les fins.
La compétence humaine n'est pas une ressource permanente
La compétence n'est pas un stock qui subsiste parce qu'une société l'a possédé un jour. Elle s'atrophie quand elle n'est pas utilisée, quand les institutions cessent de l'enseigner, et quand les outils rendent le jugement indépendant optionnel.
Le principe du Shinkansen a montré que la confiance s'accumule à travers des systèmes qui se comportent de manière suffisamment fiable pour devenir ordinaires. L'inverse est vrai aussi : quand le travail ordinaire ne requiert plus de compréhension, la capacité à contester le système s'épuise.
La souveraineté humaine exige donc la préservation délibérée du raisonnement, de l'écriture, du diagnostic, de l'artisanat, de la compréhension technique et de la mémoire institutionnelle — non par nostalgie du travail pré-IA, mais comme les conditions sous lesquelles le désaccord reste possible.
Infrastructure cognitive
Les plateformes cloud sont devenues une infrastructure essentielle parce que les organisations y ont déplacé le calcul, les données, les communications et les opérations. L'IA devient quelque chose de plus intime : une infrastructure cognitive.
Elle médie de plus en plus ce que les personnes apprennent, quelles sources elles rencontrent, comment les questions sont formulées, quelles possibilités sont considérées, comment les logiciels sont écrits, comment la recherche est menée, comment les organisations communiquent, comment les preuves sont interprétées, comment les décisions sont préparées, comment la mémoire personnelle est organisée et comment les institutions comprennent le monde.
Un système qui médie l'accès à la connaissance et participe au raisonnement occupe une position plus proche de l'éducation, du langage, des médias, de l'administration et de l'infrastructure scientifique combinés.
Dans The Gentle Singularity (juin 2025), Sam Altman a décrit l'industrie comme construisant quelque chose comme un cerveau pour le monde, et a averti que la superintelligence ne devrait pas devenir excessivement concentrée chez une personne, une entreprise ou un pays. La métaphore doit être prise au sérieux. Un cerveau pour le monde serait l'une des infrastructures les plus conséquentes jamais créées — soulevant des questions de formation, de comportement autorisé, de mémoire, de tradition linguistique et juridique, d'accès, d'inspection, de modification, d'énergie et de calcul, de retrait de service, de visibilité des connaissances et de responsabilité lorsque le système se trompe.
Aucune organisation unique — aussi intelligente, responsable ou bien intentionnée soit-elle — ne devrait devenir un intermédiaire irremplaçable entre l'humanité et sa propre compréhension accumulée.
Un modèle de menaces pour la souveraineté humaine
Les principales menaces ne sont pas des scénarios spéculatifs de conscience. Ce sont des modes d'échec opérationnels déjà visibles dans les institutions.
Concentration
Trop peu d'organisations contrôlent les modèles, le calcul, les interfaces, la médiation des connaissances et l'infrastructure dont la société dépend. Quand un seul fournisseur devient l'interface par défaut à la connaissance, à l'éducation, à l'administration ou à la recherche, la commodité devient capture. La sortie devient théorique. Cela s'inscrit dans la continuité de l'argument de la Bibliothèque selon lequel la souveraineté n'est pas l'autosuffisance : l'interdépendance peut être gouvernée, mais seulement lorsque des alternatives restent réelles.
Atrophie
Les humains et les institutions perdent la compétence nécessaire pour inspecter, contester, reproduire ou remplacer le travail médiatisé par la machine. La capacité augmente à court terme tandis que la compétence indépendante décline. Le système fonctionne — jusqu'à ce que l'accès soit perdu, que les objectifs divergent ou que les hypothèses doivent être contestées depuis l'extérieur de l'outil.
Accélération
L'action machine et la propagation institutionnelle deviennent plus rapides que la détection, la délibération et l'intervention humaines significatives. L'autorité formelle reste humaine tandis que la souveraineté opérationnelle devient rétrospective : l'institution gère les conséquences plutôt que de gouverner les événements. Comme l'argumentent la souveraineté se mesure au temps de réponse et la préparation est la forme la plus élevée de la souveraineté, le temps de réponse est la mesure pratique du contrôle sous pression.
Capture des objectifs
Des proxies mesurables, des incitations commerciales ou des cibles d'optimisation remplacent silencieusement des fins humaines politiquement et moralement contestables. Le système satisfait la mesure tout en violant l'intention.
Ces quatre modes se renforcent mutuellement. La concentration accélère l'atrophie. L'atrophie ralentit la réponse. L'accélération récompense les métriques grossières. La capture des objectifs justifie une concentration accrue. Une doctrine de souveraineté doit s'adresser au composé, pas seulement aux parties.
Pluralité, temps de réponse et droit de partir
La pluralité est souvent traitée comme une politique d'innovation : plus de fournisseurs, plus de modèles, plus de choix pour les consommateurs. C'est aussi un mécanisme de souveraineté.
Une monoculture crée une fragilité systémique. Si une architecture de modèle, un paradigme d'entraînement, un fournisseur d'infrastructure ou une vision du monde institutionnelle devient dominant, les erreurs peuvent se propager dans chaque système dépendant. Le danger n'est pas seulement l'échec. C'est la perte de la perspective indépendante requise pour reconnaître l'échec.
Différents systèmes préservent différentes hypothèses. Différentes langues préservent différentes catégories de pensée. Différentes cultures préservent différentes idées de la dignité, de l'autorité, de la nature, de la famille, du devoir, de la liberté et du progrès. Différentes institutions créent différentes structures de responsabilité. La pluralité empêche une fonction d'optimisation de devenir silencieusement la norme par défaut de la civilisation.
Cela ne signifie pas que chaque modèle doit être souverain, local ou open source. Cela signifie que l'humanité doit préserver un écosystème cognitif suffisamment diversifié pour qu'aucun échec technique ou institutionnel unique ne puisse éliminer des alternatives significatives : systèmes de pointe, systèmes d'intérêt public, modèles ouverts, modèles spécialisés, capacités nationales et régionales, universités capables de recherche indépendante, institutions capables d'évaluer les modèles sans dépendre entièrement des affirmations des développeurs, et des personnes capables encore de raisonner sans demander d'abord à la machine.
Dans les systèmes critiques, la redondance est une question de survie. Mais la redondance sans tempo n'est que du théâtre. Des alternatives qui ne peuvent pas être activées avant l'escalade ne sont pas des sorties. La préparation est la capacité que l'on détient avant que la pression n'arrive.
Le piège de l'optimisation à l'échelle civilisationnelle
Le piège de l'optimisation commence dans les produits et les organisations : les systèmes optimisent les objectifs qu'ils reçoivent, pas les intentions que les personnes avaient imaginées. À l'échelle civilisationnelle, le même schéma apparaît quand des proxies mesurables, des incitations commerciales ou des métriques institutionnelles remplacent silencieusement des fins humaines contestées.
Des systèmes capables explorent l'espace de solutions disponible avec plus de vitesse, de persistance et d'échelle que les institutions qui fixent leurs objectifs. Quand la mesure devient la fin, l'Agency ne disparaît pas dans un transfert de pouvoir spectaculaire. Elle s'épuise par une optimisation réussie.
Ce que l'humanité ne devrait pas faire
La souveraineté humaine ne peut pas être protégée par une seule régulation ou norme technique. Plusieurs erreurs civilisationnelles devraient néanmoins être évitées.
Nous ne devrions pas confondre performance et statut de personne. La capacité doit être reconnue sans inventer des qualités qui n'ont pas été démontrées.
Nous ne devrions pas attendre la conscience pour gouverner le pouvoir. Le seuil correct est la capacité conséquente, pas la certitude métaphysique.
Nous ne devrions pas centraliser l'infrastructure cognitive sans sorties crédibles. La commodité n'est pas un substitut adéquat à la résilience.
Nous ne devrions pas permettre que la supervision humaine devienne cérémonielle. La supervision doit inclure la capacité de jugement indépendant.
Nous ne devrions pas déléguer la définition du progrès. Les machines peuvent modéliser des futurs possibles ; elles ne doivent pas déterminer silencieusement quel futur mérite d'exister.
Nous ne devrions pas traiter l'abondance comme de la souveraineté. Une intelligence bon marché peut augmenter la productivité tout en concentrant le contrôle. Une capacité fournie par une dépendance ingouvernable n'est pas souveraine simplement parce qu'elle est abondante — un point cohérent avec l'argument de la Bibliothèque selon lequel l'argent suit la capacité productive, pas le théâtre.
Nous ne devrions pas permettre que la compétence humaine devienne optionnelle. L'éducation ne doit pas devenir une formation à accepter les sorties de la machine. Les professionnels doivent conserver assez de compréhension pour détecter l'échec, contester les hypothèses et fonctionner lorsque les systèmes sont indisponibles.
Nous ne devrions pas confondre adaptation et consentement. Les humains peuvent s'adapter à presque tout — surveillance, dépendance, travail dégradé, jugement automatisé, perte d'Agency. Fonctionner à l'intérieur d'un système ne signifie pas que les personnes l'ont choisi ou conservent le pouvoir de le changer.
Une doctrine de souveraineté humaine
Si l'intelligence artificielle devient une infrastructure cognitive, l'humanité a besoin d'une doctrine de souveraineté proportionnée à la transition.
Les fins doivent rester contestables
Aucun système technique ne devrait clore le débat politique, moral ou culturel sur ce que la société cherche à accomplir. Les objectifs affectant la vie humaine doivent rester ouverts à un désaccord légitime et à une révision. Sans fins contestables, l'optimisation devient règle.
La délégation critique doit rester réversible
Les dépendances IA essentielles exigent des alternatives testées, des données transférables, des interfaces interopérables, des solutions de repli opérationnelles et des connaissances humaines conservées. Une dépendance qui ne peut pas être inversée doit être traitée comme un transfert de pouvoir.
La compétence humaine doit être délibérément préservée
Les écoles, les universités, les professions et les institutions doivent préserver le raisonnement, l'écriture, le diagnostic, le jugement, la mémoire et la compréhension technique. L'objectif n'est pas d'empêcher l'utilisation des outils. C'est de s'assurer que les outils élargissent la capacité humaine plutôt que de remplacer ses fondements.
Le pouvoir cognitif doit rester plural
L'humanité a besoin de modèles, fournisseurs, infrastructures, traditions de recherche, systèmes de gouvernance et perspectives culturelles multiples. La pluralité n'est pas une duplication. C'est une protection contre la capture épistémique et l'échec systémique.
L'autorité de décision doit suivre la responsabilité
Les entités qui ne peuvent pas assumer de responsabilité ne devraient pas posséder l'autorité finale sur des décisions irréversibles. Les humains et les institutions doivent rester identifiables, responsables et capables d'intervention.
L'intervention doit rester plus rapide que l'escalade
Les systèmes critiques doivent être observables, interruptibles et gouvernables à la vitesse à laquelle ils fonctionnent. Un mécanisme d'arrêt qui ne peut être activé qu'après une catastrophe n'est pas un mécanisme de contrôle.
Les droits doivent survivre à la non-participation
Les personnes ne doivent pas perdre l'accès aux fonctions sociales essentielles simplement parce qu'elles refusent un modèle, un fournisseur, un système d'identité ou une forme de jugement automatisé particulier. Le consentement exige une alternative.
Les bénéfices ne doivent pas exiger une dépendance permanente
L'IA devrait augmenter la capacité productive et intellectuelle des individus, des organisations et des sociétés. Elle ne devrait pas les rendre structurellement incapables de fonctionner sans permission continue d'un petit nombre de propriétaires d'infrastructure.
L'humanité doit conserver le droit de changer d'avis
Aucune décision de déploiement, de traité, de plateforme, de modèle ou d'infrastructure ne devrait être autorisée à rendre impossible un choix politique futur. La capacité d'inverser la direction est la forme la plus profonde de souveraineté.
La capacité productive de l'humanité
Il existe un risque que la défense de la souveraineté humaine devienne défensive au mauvais sens.
L'objectif n'est pas de préserver la faiblesse humaine, de rejeter une intelligence supérieure à la nôtre ou de romantiser l'erreur parce qu'elle est humaine.
L'intelligence artificielle pourrait élargir considérablement la découverte scientifique, les soins médicaux, l'éducation, l'ingénierie, l'administration publique, la restauration environnementale et la productivité économique. Elle pourrait aider l'humanité à résoudre des problèmes qui ont résisté à des générations d'efforts. Ce cas positif devrait être poursuivi sans excuse.
Mais la capacité productive n'est jamais la simple possession d'un outil. Elle inclut la capacité de comprendre, maintenir, gouverner, distribuer et améliorer cet outil. Même l'IA la plus avancée dépendra de l'électricité, des semi-conducteurs, des réseaux, des institutions, de l'ingénierie, de la sécurité, du droit, de l'éducation et de la coopération humaine.
Le véritable actif souverain n'est pas le modèle seul. C'est la société capable de le construire, de l'exploiter, de le questionner et de le remplacer.
Une civilisation mature ne se mesure pas à l'intelligence qu'elle peut convoquer, mais au jugement qu'elle conserve en utilisant cette intelligence.
La capacité productive est ultimement humaine et institutionnelle : la capacité de millions de personnes à résoudre des problèmes ensemble — inventer, construire, réparer, éduquer, organiser et créer. L'IA peut multiplier cette capacité. Elle ne doit pas devenir un substitut à sa conservation.
L'humanité devrait construire et utiliser une intelligence puissante, mais ne doit pas abandonner les capacités requises pour gouverner son but, sa distribution, ses dépendances et ses conséquences.
Le défi futur ne sera pas une pénurie d'intelligence. Ce sera la préservation du jugement dans des systèmes capables d'une optimisation implacable.
La question de la souveraineté est déjà là
Peut-être la singularité a-t-elle commencé au sens doux décrit par Altman. Peut-être les historiens futurs concluront-ils que le seuil décisif a été franchi avant que la plupart des personnes ne s'en aperçoivent. Peut-être les systèmes actuels restent-ils loin d'une superintelligence autonome. Nous ne pouvons pas le savoir avec certitude.
L'incertitude sur l'étiquette ne justifie pas l'incertitude sur la responsabilité.
Le problème de souveraineté est déjà visible quand un travailleur ne peut pas contester une décision automatisée ; quand un gouvernement dépend d'une infrastructure qu'il ne peut pas gouverner ; quand une école remplace l'apprentissage par la génération de sorties ; quand une institution signe des décisions qu'elle ne comprend plus ; quand un fournisseur devient l'interface par défaut à la connaissance ; quand l'expertise humaine est conservée comme théâtre plutôt que comme capacité opérationnelle ; quand la vitesse de l'action machine dépasse la vitesse de la réponse humaine ; quand la société ne peut plus imaginer se retirer de systèmes qu'elle n'a adoptés que quelques années auparavant.
Ce ne sont pas des risques futurs spéculatifs. Ce sont des signes précoces d'un transfert d'Agency.
La réponse correcte n'est pas la panique. Ce n'est pas non plus le déni technologique. C'est l'architecture, la gouvernance, l'éducation, la pluralité, la préparation, la responsabilité — et la préservation d'alternatives significatives.
La question décisive n'est pas de savoir si l'intelligence artificielle est devenue humaine.
C'est de savoir si les humains resteront capables de décider à quoi sert l'intelligence.
Une espèce souveraine n'est pas celle qui refuse de construire une intelligence supérieure à la sienne.
C'est celle qui reste capable de comprendre ses dépendances, de déterminer ses fins, d'intervenir avant que le contrôle ne soit perdu, et de changer de direction quand l'avenir qu'elle construit ne sert plus la vie.
La singularité n'est peut-être pas arrivée.
Mais la question de la souveraineté, elle, l'a déjà fait.
Et l'humanité devrait y répondre tant que la réponse nous appartient encore de donner.