Démocratiser l’Alignement de l’IA : Justifications et Perspectives

La question de l’alignement de l’intelligence artificielle (IA) soulève des enjeux tant techniques que normatifs. Tandis que les solutions techniques cherchent à intégrer des contraintes normatives dans les systèmes d’IA, le défi normatif s’interroge sur la nature de ces contraintes. Cet article se penche sur les justifications des approches démocratiques face aux approches épistocratiques, où des experts normatifs déterminent l’alignement de l’IA.

Les Justifications pour une Approche Démocratique

L’une des principales thèses défendues est que l’engagement des parties prenantes affectées dans la détermination des alignements de l’IA peut mener à des résultats supérieurs. Il existe deux types de justifications :

• ✓ **Justifications Instrumentales :** L’argument selon lequel les approches démocratiques produisent de meilleures conséquences pour les utilisateurs d’IA.
• ✓ **Justifications Non-Instrumentales :** Les approches démocratiques empêchent la légitimité d’une autorité incontrôlée ou d’une coercition injustifiée, offrant ainsi une protection contre les abus de pouvoir.

Le Vide Justificatif et la Nécessité d’Approches Hybrides

Le texte met en lumière un vide justificatif créé par les incertitudes normatives et métanormatives. Cela signifie que les approches politiques peuvent offrir une justification plus solide plutôt que des justifications théoriques qui pourraient être trop abstraites.

Cependant, une des préoccupations majeures réside dans les défis auxquels sont confrontées les méthodes démocratiques, notamment en matière de **prévention de la coercition illégitime** à travers l’alignement de l’IA.

Les Défis de l’Approche Démocratique

Il est également mentionné que ni les approches épistocratiques, qui reposent uniquement sur des experts, ni les démocratiques, qui font appel à la participation des citoyens, ne sont suffisantes à elles seules.

✓ **Dans ce contexte, les cadres hybrides sont suggérés** comme une solution potentielle. Ils pourraient combiner l’expertise avec des contributions participatives tout en intégrant des précautions institutionnelles pour contrer la monopolisation de l’IA.