OpenAI: Des problèmes de distorsion dans l’outil de transcription Whisper, révèlent des chercheurs
Préoccupations concernant les transcriptions de l’IA de génération de langage d’OpenAI
Software engineers, developers, and academic researchers ont exprimé des inquiétudes sérieuses à propos des transcriptions de Whisper d’OpenAI, selon un rapport de l’Associated Press.
Des chercheurs ont constaté que Whisper, au lieu de transcrire fidèlement l’audio, introduisait des commentaires raciaux et des traitements médicaux imaginaires dans les transcriptions, ce qui pourrait être particulièrement préjudiciable dans les contextes médicaux.
Un chercheur de l’Université du Michigan a découvert des hallucinations dans huit transcriptions audio sur dix lors de l’étude de réunions publiques. Un ingénieur en apprentissage automatique a identifié des hallucinations dans plus de la moitié des 100 heures de transcriptions de Whisper qu’il a étudiées. De plus, un développeur a signalé des hallucinations dans presque toutes les 26 000 transcriptions qu’il a créées avec Whisper.
Un porte-parole d’OpenAI a déclaré que l’entreprise s’efforce constamment d’améliorer la précision de ses modèles, en réduisant notamment les hallucinations, et que l’utilisation de Whisper est interdite dans certains contextes de prise de décision cruciale.
Conclusion
En conclusion, les préoccupations concernant les transcriptions de Whisper d’OpenAI mettent en lumière les défis liés à l’utilisation de l’IA de génération de langage dans des contextes sensibles tels que les établissements de santé. Bien que des améliorations soient en cours pour réduire les hallucinations, il est essentiel de garantir la précision et la fiabilité des transcriptions pour éviter tout préjudice potentiel. OpenAI et d’autres acteurs de l’industrie doivent continuer à collaborer avec des chercheurs pour résoudre ces problèmes et promouvoir une utilisation responsable de la technologie de l’IA.