Chargement en cours

FiDeLiS : Une approche fiable pour les réponses des grands modèles de langage

FiDeLiS : Révolutionner la fiabilité des réponses des grands modèles de langage

Les grands modèles de langage (LLM) sont souvent confrontés à un défi majeur : la génération de réponses erronées ou hallucinées, particulièrement dans les tâches de raisonnement complexes. L’intégration de graphes de connaissances (KG) comme sources de connaissances externes s’est imposée comme une solution prometteuse. Cependant, les méthodes existantes, qu’elles soient basées sur la recherche ou sur des agents, rencontrent des difficultés pour récupérer précisément les connaissances et parcourir efficacement les KG à grande échelle.

FiDeLiS : Un cadre unifié pour des réponses plus fiables

FiDeLiS (Faithful Reasoning in Large Language Model for Knowledge Graph Question Answering) propose un cadre unifié pour améliorer la véracité des réponses des LLM en ancrant les réponses à des étapes de raisonnement vérifiables extraites des KG. Ce système utilise une recherche en faisceaux par étapes, couplée à une fonction de notation déductive. Cela permet au LLM de valider le processus de raisonnement étape par étape et d’arrêter la recherche une fois que la question est déductible.

Amélioration de l’efficacité grâce au module Path-RAG

Pour améliorer l’efficacité, FiDeLiS intègre un module Path-RAG (Path Retrieval-Augmented Generation). Ce module pré-sélectionne un ensemble plus restreint de candidats pour chaque étape de la recherche en faisceaux, réduisant ainsi les coûts de calcul en limitant l’espace de recherche. L’approche est particulièrement intéressante car elle ne nécessite aucun entraînement supplémentaire.

Résultats prometteurs et perspectives

Des expériences approfondies démontrent que FiDeLiS améliore non seulement les performances, mais aussi la véracité et l’interprétabilité des réponses sur différents benchmarks. L’approche ouvre des perspectives intéressantes pour le développement de systèmes de Q&R plus fiables et transparents, notamment dans des domaines exigeant une grande précision factuelle. Le code source est disponible sur GitHub : [https://github.com/Y-Sui/FiDeLiS](https://github.com/Y-Sui/FiDeLiS).

Points clés à retenir

  • ✓ FiDeLiS améliore la fiabilité des réponses des LLM en utilisant des graphes de connaissances.
  • ✓ Il utilise une recherche en faisceaux par étapes avec une fonction de notation déductive.
  • ✓ Le module Path-RAG optimise l’efficacité en réduisant l’espace de recherche.
  • ✓ FiDeLiS est une approche sans entraînement, améliorant la performance, la véracité et l’interprétabilité.

Share this content:

Laisser un commentaire