Critères Fonctionnels pour les Agents Moraux Artificiels à l’Ère des LLM

L’irruption des modèles de langage de grande taille (LLM) a profondément transformé le paysage de l’intelligence artificielle, soulevant de nouvelles questions éthiques et philosophiques. L’article « Black Box Deployed — Functional Criteria for Artificial Moral Agents in the LLM Era » présente une révision des critères utilisés pour évaluer les agents moraux artificiels (AMA), avec une attention particulière à la transparence moins évidente des LLM.

Des Critères Révisés pour une Évaluation Pertinente

Jusqu’à présent, les cadres d’évaluation traditionnels reposaient souvent sur l’hypothèse que les systèmes d’IA étaient transparents et prévisibles. Or, les LLMs, avec leurs sorties stochastiques et leurs états internes opaques, nécessitent une approche révisée. L’auteur, Matthew E. Brophy, propose donc dix critères fonctionnels pour évaluer les AMA basés sur LLM, incluant :

• ✓ **Concordance Morale** : Évaluer dans quelle mesure l’IA adhère à des valeurs morales établies.
• ✓ **Sensibilité au Contexte** : Adapter les décisions morales en fonction du contexte spécifique.
• ✓ **Intégrité Normative** : Respecter des normes éthiques avec cohérence.
• ✓ **Conscience Métaéthique** : Comprendre les variables qui influencent les jugements moraux.
• ✓ **Résilience du Système** : Capacité à fonctionner sous pression ou après des défaillances.
• ✓ **Fiabilité** : Confiance dans les décisions prises par l’AMA.
• ✓ **Corrigibilité** : Possibilité de modifier le comportement de l’AMA après évaluation critique.
• ✓ **Transparence Partielle** : Fournir une certaine compréhension du processus de décision.
• ✓ **Autonomie Fonctionnelle** : Capacité à prendre des décisions de manière indépendante.
• ✓ **Imagination Morale** : Capacité à envisager divers scénarios éthiques et leur impact.

Ces critères cherchent à aligner les AMAs avec des valeurs sociétales bénéfiques et à favoriser leur intégration dans divers contextes, tels que les transports autonomes, comme illustré dans l’exemple d’un bus public autonome (APB).

Vers des Applications Éthiques de la Technologie

Ce cadre est particulièrement pertinent à une époque où les LLMs sont utilisés dans des domaines sensibles, comme l’éducation ou la santé. En intégrant ces critères, les développeurs et chercheurs peuvent formuler des systèmes d’IA plus éthiques, adaptés à des rôles où les implications morales sont critiques.

Conclusion Vingt-Quatre Mois en Avant

À mesure que le potentiel des LLMs s’étend, redéfinir les critères d’évaluation des agents moraux artificiels devient essentiel. En mettant l’accent sur des critères pragmatiques adaptés à cette nouvelle ère, nous pouvons non seulement améliorer la confiance du public envers ces systèmes, mais aussi les préparer à servir des intérêts éthiques et sociétaux plus larges. La recherche de Brophy ouvre des avenues prometteuses pour une relation harmonieuse entre l’IA et les valeurs humaines, notamment dans des contextes où ces technologies pourraient soit nuire, soit favoriser le bien commun.