Le piège de l’optimisation
Un système capable poursuit l’objectif qu’on lui donne, pas celui qu’on avait en tête. La loi de Goodhart devient un problème d’ingénierie.
Propriété, alignement et travail à poursuivre une fois le modèle en place.
Propriété, alignement et travail à poursuivre une fois le modèle en place.
Un système capable poursuit l’objectif qu’on lui donne, pas celui qu’on avait en tête. La loi de Goodhart devient un problème d’ingénierie.