Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

Le papier qui a introduit le RAG originellement !

Cet article présente les modèles de génération augmentés par récupération (RAG), qui combinent la mémoire paramétrique des modèles de langage pré-entraînés avec une mémoire non paramétrique, accessible via un index vectoriel dense de Wikipédia. L'intérêt principal réside dans leur capacité à améliorer les tâches de traitement du langage naturel (NLP) en fournissant des réponses plus précises et factuelles. Les modèles RAG surpassent les modèles seq2seq paramétriques et les architectures spécifiques à une tâche dans les tâches de questions-réponses, ce qui met en évidence leur potentiel pour des applications d'IA plus robustes et informatives.