UN étude menée par des chercheurs en informatique et en sciences de l'information du Royaume-Uni et du Brésil a soulevé des inquiétudes quant à l'objectivité de ChatGPT.
Les chercheurs affirment avoir découvert un biais politique substantiel dans les réponses de ChatGPT, penchant vers le côté gauche du spectre politique.
Publiée dans la revue Public Choice cette semaine, l'étude - menée par Fabio Motoki, Valdemar Pinho et Victor Rodrigues - soutient que la présence de préjugés politiques dans le contenu généré par l'IA pourrait perpétuer les préjugés existants dans les médias traditionnels.
La recherche met en évidence l'impact potentiel d'un tel parti pris sur diverses parties prenantes, notamment les décideurs politiques, les médias, les groupes politiques et les établissements d'enseignement.
Utilisant une approche empirique, les chercheurs ont utilisé une série de questionnaires pour évaluer l'orientation politique de ChatGPT. Le chatbot a été invité à répondre à des questions de boussole politique, en capturant sa position sur diverses questions politiques.
En outre, l'étude a examiné des scénarios dans lesquels ChatGPT imitait à la fois un démocrate moyen et un républicain, révélant le biais inhérent de l'algorithme envers les réponses à tendance démocrate.
Les résultats de l'étude indiquent que le biais de ChatGPT s'étend au-delà des États-Unis et est également perceptible dans ses réponses concernant les contextes politiques brésiliens et britanniques. Notamment, la recherche suggère même que ce biais n'est pas simplement un résultat mécanique, mais une tendance délibérée dans la sortie de l'algorithme.
Déterminer la source exacte du parti pris politique de ChatGPT reste un défi. Les chercheurs ont étudié à la fois les données de formation et l'algorithme lui-même, concluant que les deux facteurs contribuent probablement au biais. Ils ont souligné la nécessité de recherches futures pour approfondir le démêlage de ces composants afin de mieux comprendre les origines du biais.
OpenAI, l'organisation à l'origine de ChatGPT, n'a pas encore répondu aux conclusions de l'étude. Cette étude rejoint une liste croissante de préoccupations concernant la technologie de l'IA, y compris les problèmes liés à la confidentialité, à l'éducation et à la vérification d'identité dans divers secteurs.
Alors que l'influence des outils basés sur l'IA comme ChatGPT continue de s'étendre, les experts et les parties prenantes sont aux prises avec les implications d'un contenu biaisé généré par l'IA.
Cette dernière étude rappelle que la vigilance et l'évaluation critique sont nécessaires pour garantir que les technologies d'IA sont développées et déployées de manière juste et équilibrée, sans influence politique indue.
(Photo par Priscilla Du Préez sur Unsplash)
Voir également: Une étude met en évidence l'impact de la démographie sur la formation en IA
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement complet est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source