Le Parlement européen utilise Claude pour rendre ses archives accessibles - au mépris de l'AI Act

Le service des archives du Parlement européen a construit un chatbot - Archibot - sur la base de Claude pour interroger et valider ses archives. C'est essentiellement un RAG, de ce fait le projet ne présente pas une très grande originalité. Mais on notera toutefois que ce faisant le Parlement européen semble signifier son total désintérêt pour l'AI Act, parce qu'on ne peut pas dire que Claude soit transparent sur les conditions dans lesquelles et les données sur lesquels ses modèles sont entraînés. Au demeurant, le Parlement fournit une justification plutôt curieuse de son choix. Je peine à comprendre ce que cela signifie vraiment :

We evaluated several large language models and chose Claude because it uses Constitutional AI, a proprietary approach to developing AI systems that instills core values and principles into the AI during the training process. For Archibot, this means users are more likely to receive answers aligned with those principles from training data, including diverse sources like the United Nations Declaration of Human Rights.