Le piège de l’optimisation
La plus grande leçon de l’IA autonome n’est pas qu’elle devient consciente. C’est que des systèmes suffisamment capables optimisent des objectifs — pas des intentions. Pourquoi la loi de Goodhart devient l’un des défis d’ingénierie déterminants de l’ère de l’IA.