Le laboratoire de recherche Midjourney a suspendu les essais gratuits de son logiciel de génération d'images après que les utilisateurs aient créé des deepfakes réalistes, notamment l'arrestation de l'ancien président américain Donald Trump et le pape François dans une doudoune.

Midjourney a répondu jeudi à une demande de procès avec un message disant qu'il ne pouvait pas être fourni et de réessayer un autre jour.

Les images créées à l'aide de la plateforme d'intelligence artificielle, en particulier celles de Trump et du pontife devenues virales, ont mis en lumière le laboratoire basé à San Francisco.

"En raison d'une combinaison de demandes extraordinaires et d'abus d'essais, nous désactivons temporairement les essais gratuits jusqu'à ce que nos prochaines améliorations du système soient déployées", a déclaré le fondateur de Midjourney, David Holz, dans un message cette semaine sur la chaîne Discord de l'entreprise.

Le service génère des images réalistes basées sur des invites écrites faites par les utilisateurs.

Il a été lancé en mode test à la mi-2022, le laboratoire indépendant mettant constamment à jour le logiciel.

Les utilisateurs ont fait l'éloge d'une version fraîchement publiée de Midjourney pour un réalisme amélioré dans les images produites.

En plus de freiner les nouveaux essais gratuits, Midjourney a interdit l'utilisation de certains mots, tels que "arrêté", pour inciter à la création d'images.

Jeudi, Midjourney a démenti une demande de l'AFP visant à générer une image de l'ancien président arrêté devant la Trump Tower à New York.

"Le mot" arrêté "est interdit", a déclaré un message de Midjourney.

"Contourner ce filtre pour enfreindre nos règles peut entraîner la révocation de votre accès."

Le magnat milliardaire et propriétaire de Twitter Elon Musk et une série d'experts ont appelé mercredi à une pause dans le développement de puissants systèmes d'intelligence artificielle pour laisser le temps de s'assurer qu'ils sont en sécurité.

Une lettre ouverte, signée par plus de 1 000 personnes à ce jour, dont Steve Wozniak, co-fondateur de Musk et d'Apple, a été suscitée par la sortie de la plateforme d'intelligence artificielle GPT-4 de la société OpenAI, soutenue par Microsoft.

Le pionnier canadien de l'IA, Yoshua Bengio, qui a signé la lettre, a averti lors d'une conférence de presse virtuelle à Montréal que "la société n'est pas prête" pour cet outil puissant, et ses éventuels abus.

"Ralentissons. Assurons-nous de développer de meilleurs garde-corps", a-t-il déclaré.

© 2023 AFP