Il y a plusieurs choses que nous pensons qu'il est important de faire maintenant pour se préparer à l'AGI.

Tout d'abord, à mesure que nous créons des systèmes de plus en plus puissants, nous voulons les déployer et acquérir de l'expérience avec leur fonctionnement dans le monde réel. Nous pensons que c'est la meilleure façon de gérer soigneusement l'existence d'AGI - une transition progressive vers un monde avec AGI vaut mieux qu'une transition soudaine. Nous nous attendons à ce qu'une IA puissante accélère le rythme des progrès dans le monde, et nous pensons qu'il est préférable de s'y adapter progressivement.

Une transition progressive donne aux gens, aux décideurs et aux institutions le temps de comprendre ce qui se passe, d'expérimenter personnellement les avantages et les inconvénients de ces systèmes, d'adapter notre économie et de mettre en place une réglementation. Cela permet également à la société et à l'IA de co-évoluer, et aux gens de déterminer collectivement ce qu'ils veulent alors que les enjeux sont relativement faibles.

Nous pensons actuellement que la meilleure façon de relever avec succès les défis du déploiement de l'IA est d'avoir une boucle de rétroaction étroite d'apprentissage rapide et d'itérations minutieuses. La société sera confrontée à des questions majeures sur ce que les systèmes d'IA sont autorisés à faire, comment lutter contre les préjugés, comment gérer le déplacement d'emplois, etc. Les décisions optimales dépendront de la voie empruntée par la technologie et, comme dans tout nouveau domaine, la plupart des prédictions d'experts se sont jusqu'à présent erronées. Cela rend la planification dans le vide très difficile.^{[^planning]}

D'une manière générale, nous pensons qu'une plus grande utilisation de l'IA dans le monde mènera au bien, et nous voulons le promouvoir (en mettant des modèles dans notre API, en les open source, etc.). Nous croyons que l'accès démocratisé mènera également à des recherches plus nombreuses et de meilleure qualité, à un pouvoir décentralisé, à plus d'avantages et à un ensemble plus large de personnes apportant de nouvelles idées.

Au fur et à mesure que nos systèmes se rapprochent de l'AGI, nous devenons de plus en plus prudents dans la création et le déploiement de nos modèles. Nos décisions exigeront beaucoup plus de prudence que la société n'en applique habituellement aux nouvelles technologies, et plus de prudence que ne le souhaiteraient de nombreux utilisateurs. Certaines personnes dans le domaine de l'IA pensent que les risques de l'AGI (et des systèmes successeurs) sont fictifs ; nous serions ravis s'ils avaient raison, mais nous allons faire comme si ces risques étaient existentiel.

À un moment donné, l'équilibre entre les avantages et les inconvénients des déploiements (tels que l'autonomisation des acteurs malveillants, la création de perturbations sociales et économiques et l'accélération d'une course dangereuse) pourrait changer, auquel cas nous modifierions considérablement nos plans de déploiement continu.