L’alignement est une problématique clé dès lors que les modèles deviennent puissants et autonomes. Un système mal aligné peut générer des résultats corrects sur le plan technique mais indésirables ou éthiquement discutables sur le plan humain. Cela concerne autant les modèles génératifs que les agents autonomes. L’alignement implique des mécanismes de calibration, de contrôle des réponses, de filtrage des contenus, mais aussi des techniques d’apprentissage par renforcement avec retour humain (RLHF). Il soulève des défis complexes : comment modéliser des objectifs humains flous, ambigus ou évolutifs ? Comment éviter les dérives tout en conservant la puissance du modèle ? L’alignement est au cœur des débats sur la sécurité de l’IA à long terme, notamment dans la recherche sur l’AGI (intelligence artificielle générale). Pour les entreprises, il se traduit par la nécessité de cadrer l’usage des modèles via des règles métiers, des contrôles d’usage, et des validations humaines systématiques.