Die Optimierungsfalle
Die wichtigste Lektion aus autonomer KI ist nicht, dass sie bewusst wird. Es ist, dass hinreichend fähige Systeme Ziele optimieren—nicht Absichten. Warum Goodhart’s Law zu einer der prägenden Engineering-Herausforderungen der KI-Ära wird.