La nouvelle startup de Mozilla construira une IA « digne de confiance » qui profitera à l'humanité. Si cela vous semble familier, c'était la mission fondatrice d'OpenAI.
La startup, Mozilla.aivise à créer un écosystème d'IA indépendant et open source qui répond aux préoccupations les plus urgentes de la société concernant l'évolution rapide de la technologie.
Mark Surman, président de la fondation Mozilla, a écrit dans un article de blog:
« Cette nouvelle vague d'IA a suscité de l'enthousiasme, mais aussi une appréhension importante. Nous ne nous demandons pas simplement « Qu'est-ce qui est possible ? et 'Comment les gens peuvent-ils en bénéficier ?' Nous nous demandons également 'Qu'est-ce qui pourrait mal tourner ?' et 'Comment pouvons-nous y remédier ?' Deux décennies de médias sociaux, de smartphones et de leurs conséquences nous ont rendus méfiants.
Mozilla pose ces questions sur l'IA depuis un moment maintenant - croquis une vision pour une IA digne de confiance, mobilisation notre communauté pour documenter ce qui est cassé et investir dans les startups qui essaient de créer une IA plus responsable.
La ruée vers la mise sur le marché de solutions d'IA a été assimilée à une nouvelle «course aux armements», en référence à la période dangereuse où les États-Unis, l'Union soviétique et leurs alliés respectifs se sont précipités pour atteindre la suprématie nucléaire.
OpenAI a été fondée en tant qu'organisation à but non lucratif avec pour mission d'État de veiller à ce que ses recherches apportent des contributions positives à long terme à l'humanité. Beaucoup pensent que l'entreprise s'est écartée de cette mission.
Aujourd'hui même, un problème ChatGPT a divulgué l'historique des conversations des utilisateurs. Directeur général d'OpenAI tweeté qu'il y aurait bientôt une « autopsie technique ».
Mike Kiser, directeur de la stratégie et des normes chez SailPointa commenté :
"Partager des informations avec ChatGPT n'est pas comme parler à un autre adulte, c'est bien plus comme partager des détails sensibles avec un enfant de trois ans trop bavard. Si vous ne voulez pas que les secrets de votre organisation soient utilisés pour former la plateforme et ensuite réutilisés par ChatGPT, la discrétion est recommandée.
De plus, ChatGPT génère du contenu, mais il est difficile de prouver sa véracité. Même lorsque des références sont utilisées ou citées, ChatGPT apprend de ces liens et suppose que l'information est vraie. Il utilise ensuite un langage et une mise en forme bien écrits pour donner plus de poids à ces «faits». Cette confiance dans le mot écrit peut avoir des implications pour la désinformation ou d'autres attaques liées au phishing.
Microsoft a investi des dizaines de milliards dans OpenAI et a déployé des intégrations avec ses produits populaires à un rythme rapide. Ce partenariat semble avoir conduit OpenAI à prendre plus de risques et l'entreprise est désormais fermement à but lucratif (plafonnée à 100 fois tout investissement).
Elon Musk était l'un des fondateurs d'OpenAI mais a démissionné de son conseil d'administration en 2018. Musk a publiquement remis en question la transformation d'OpenAI :
Espérons que Mozilla.ai n'oubliera pas ses principes fondateurs.
« La vision de Mozilla.ai est de faciliter le développement de produits d'IA fiables. Nous allons construire des choses et embaucher/collaborer avec des personnes qui partagent notre vision : une IA qui repose sur l'agence, la responsabilité, la transparence et l'ouverture », a ajouté le président de la Fondation Mozilla, Mark Surman.
"Mozilla.ai sera un espace en dehors des grandes technologies et des universités pour les fondateurs, développeurs, scientifiques, chefs de produit et constructeurs partageant les mêmes idées. Nous pensons que ce groupe de personnes, travaillant collectivement, peut inverser la tendance pour créer un écosystème d'IA indépendant, décentralisé et digne de confiance - un véritable contrepoids au statu quo.
Mozilla.ai sera dirigé par Moez Draief, directeur général de Mozilla.
(Photo par Astrid Schaffner sur Unsplash)
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source