Le piège de l’optimisation
Un système capable poursuit l’objectif qu’on lui donne, pas celui qu’on avait en tête. La loi de Goodhart devient un problème d’ingénierie.
Propriété, alignement et travail à poursuivre une fois le modèle en place.
Filtrer par sujet
1 volume
BIntelligence artificielle: B
Propriété, alignement et travail à poursuivre une fois le modèle en place.
1 volume · Du plus ancien au plus récent
Un système capable poursuit l’objectif qu’on lui donne, pas celui qu’on avait en tête. La loi de Goodhart devient un problème d’ingénierie.