Des IA pour contrôler les IA ? (L'Innovation de la Semaine)

Afin de lutter contre les hallucinations des intelligences artificielles génératives, un chercheur a eu une idée originale...

Une innovation de l'Université d'Oxford propose de contrôler les intelligences artificielles génératives avec d'autres IA pour corriger les réponses erronées ou hallucinations. Les IA génératives ont des lacunes en termes de précision, fonctionnant principalement de manière statistique. Les tests ont montré que le contrôle par d'autres IA peut être efficace, avec par exemple un taux d'accord de 93% avec les humains dans la vérification des réponses d'un chatbot. Bien que certains chercheurs aient des doutes sur cette méthode, l'équipe d'Oxford soutient que l'antagonisme entre modèles d'IA est commun en informatique et mérite d'être exploré, en particulier pour des applications telles que l'analyse d'images médicales. En attendant un consensus, il est conseillé de rester vigilant face aux hallucinations des IA et de se fier pour l'instant à notre capacité humaine de discernement.

Source : https://www.washingtonpost.com/technology/2024/06/20/ai-chatbots-hallucinations-study/

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.