Mais la gouvernance des systèmes les plus puissants, ainsi que les décisions concernant leur déploiement, doivent faire l'objet d'un contrôle public fort. Nous croyons que les gens du monde entier devraient décider démocratiquement de la limites et valeurs par défaut pour les systèmes d'IA. Nous ne savons pas encore comment concevoir un tel mécanisme, mais nous prévoyons d'expérimenter son développement. Nous continuons de penser que, dans ces larges limites, les utilisateurs individuels devraient avoir beaucoup de contrôle sur le comportement de l'IA qu'ils utilisent.

Compte tenu des risques et des difficultés, il vaut la peine de se demander pourquoi nous construisons cette technologie.

Chez OpenAI, nous avons deux raisons fondamentales. Premièrement, nous pensons que cela va conduire à un monde bien meilleur que ce que nous pouvons imaginer aujourd'hui (nous en voyons déjà des exemples précoces dans des domaines tels que l'éducation, le travail créatif et la productivité personnelle). Le monde est confronté à de nombreux problèmes que nous aurons besoin de beaucoup plus d'aide pour résoudre ; cette technologie peut améliorer nos sociétés, et la capacité créative de chacun à utiliser ces nouveaux outils ne manquera pas de nous étonner. La croissance économique et l'augmentation de la qualité de vie seront étonnantes.

Deuxièmement, nous pensons qu'il serait involontairement risqué et difficile d'arrêter la création de la superintelligence. Parce que les avantages sont si énormes, que le coût de sa construction diminue chaque année, que le nombre d'acteurs qui la construisent augmente rapidement et que cela fait intrinsèquement partie de la voie technologique sur laquelle nous nous trouvons, l'arrêter nécessiterait quelque chose comme un régime de surveillance mondial, et même cela n'est pas garanti de fonctionner. Nous devons donc bien faire les choses.