Les Nations Unies ont appelé jeudi à des règles strictes sur l'utilisation des outils d'IA tels que le chatbot viral ChatGPT dans les salles de classe, notamment en limitant leur utilisation aux enfants plus âgés.

Dans de nouvelles orientations destinées aux gouvernements, l'UNESCO, l'organisme des Nations Unies chargé de l'éducation, a averti que les pouvoirs publics n'étaient pas prêts à aborder les questions éthiques liées au déploiement de programmes d'intelligence artificielle « générative » dans les écoles.

L'organisme basé à Paris a déclaré que s'appuyer sur de tels programmes plutôt que sur des enseignants humains pourrait affecter le bien-être émotionnel d'un enfant et le rendre vulnérable à la manipulation.

« L'IA générative peut être une formidable opportunité pour le développement humain, mais elle peut aussi causer des dommages et des préjugés », a déclaré Audrey Azoulay de l'UNESCO.

"Il ne peut pas être intégré à l'éducation sans l'engagement du public et sans les garanties et réglementations nécessaires de la part des gouvernements."

Les programmes d'IA générative ont fait irruption sous les projecteurs à la fin de l'année dernière, ChatGPT démontrant sa capacité à générer des essais, des poèmes et des conversations à partir des invites les plus brèves.

Cela a suscité des craintes de plagiat et de tricherie dans les écoles et les universités.

Mais les investisseurs ont investi de l’argent dans ce domaine et les promoteurs ont ciblé l’éducation comme un marché potentiellement lucratif.

Les lignes directrices de l'UNESCO indiquent que les outils d'IA ont le potentiel d'aider les enfants ayant des besoins spéciaux, d'agir comme un adversaire dans les « dialogues socratiques » ou comme un assistant de recherche.

Mais ces outils ne seraient sûrs et efficaces que si les enseignants, les apprenants et les chercheurs contribuaient à leur conception et si les gouvernements réglementaient leur utilisation.

Les orientations ne sont pas allées jusqu'à recommander un âge minimum pour les écoliers, mais ont souligné que ChatGPT avait une limite d'âge inférieure de 13 ans.

"De nombreux commentateurs considèrent que ce seuil est trop jeune et ont plaidé en faveur d'une législation visant à relever l'âge à 16 ans", indiquent les directives.

© 2023 AFP