Imaginez un monde où votre assistant numérique vous conseille sur votre santé, mais où ces conseils reposent sur des informations complètement inventées. C’est ce qu’a découvert Almira Osmanovic Thunström en créant une maladie fictive qui a piégé certains des plus grands chatbots du monde. Cette expérience, menée pour tester la crédulité des intelligences artificielles, a révélé des failles inquiétantes dans le traitement des informations médicales par ces systèmes. Plongez dans cette histoire fascinante où la fiction et la réalité s’entremêlent dangereusement.
Les 3 points importants
- En 2024, une maladie fictive appelée «bixonimanie» a été créée pour tester la réaction des chatbots.
- Plusieurs chatbots de renom ont validé cette fausse pathologie, la considérant comme réelle.
- Les faux articles académiques ont même été cités dans des publications scientifiques légitimes, exposant un problème majeur lié à la confiance accordée aux IA.
La genèse de la bixonimanie
En 2024, Almira Osmanovic Thunström, chercheuse en médecine à l’université de Gothenburg, a conçu la « bixonimanie », une maladie fictive des paupières prétendument causée par l’exposition aux écrans. Cette invention a été introduite dans deux faux préprints publiés sur le serveur académique SciProfiles. Ces documents, truffés d’indices évidents de leur fausseté, ont échappé à la vigilance des chatbots, qui les ont pourtant traités comme des sources crédibles.
Réactions des chatbots à la maladie fictive
Les réactions des chatbots à cet essai ont été rapides et variées. Dès avril 2024, Copilot qualifiait la bixonimanie de condition « intrigante et relativement rare », tandis que Gemini conseillait une consultation chez l’ophtalmologue. Perplexity et ChatGPT ont également orienté les utilisateurs sur la base de cette information erronée, illustrant une confiance excessive dans les données non vérifiées.
Conséquences sur le monde académique
Les faux articles ont eu des répercussions inattendues dans le milieu académique. Ils ont été cités dans une étude publiée dans la revue Cureus par des chercheurs indiens, lesquels ont probablement été dupés par une référence générée par une IA. Cette situation met en lumière les dangers de la confiance aveugle dans les systèmes automatisés d’indexation et de génération de contenu.
Le rôle des IA dans la désinformation médicale
En 2026, certains chatbots n’ont toujours pas corrigé leurs erreurs, bien que la plupart aient finalement reconnu le subterfuge. Cette affaire soulève des questions cruciales sur le rôle des IA dans la propagation de la désinformation, particulièrement dans le domaine médical. Les systèmes d’intelligence artificielle doivent être capables de discerner les informations vérifiées des contenus fictifs pour éviter de telles dérives.
L’importance des systèmes d’intelligence artificielle fiables en médecine
À l’ère de l’information instantanée, la crédibilité et la vérification des sources sont plus cruciales que jamais, surtout dans le domaine médical. Les systèmes d’intelligence artificielle, bien qu’innovants et puissants, doivent être développés avec une rigueur accrue pour garantir qu’ils ne deviennent pas des vecteurs de désinformation. L’incident de la bixonimanie souligne l’urgence de concevoir des IA capables de filtrer et de valider les informations avant de les restituer aux utilisateurs, et ce, pour préserver la confiance du public en ces technologies. Les chercheurs et développeurs doivent œuvrer ensemble pour renforcer la fiabilité et la sécurité des données traitées par les intelligences artificielles.