À mesure que les modèles de langage génératif s'améliorent, ils ouvrent de nouvelles possibilités dans des domaines aussi divers que la santé, le droit, l'éducation et la science. Mais, comme pour toute nouvelle technologie, il convient de réfléchir à la manière dont elles peuvent être utilisées à mauvais escient. Dans un contexte d'opérations récurrentes d'influence en ligne—secret ou trompeur efforts pour influencer les opinions d'un public cible - le document demande:

Comment l'évolution des modèles de langage peut-elle influencer les opérations et quelles mesures peuvent être prises pour atténuer cette menace ?

Notre travail a réuni différents horizons et expertises - des chercheurs connaissant les tactiques, les techniques et les procédures des campagnes de désinformation en ligne, ainsi que des experts en apprentissage automatique dans le domaine de l'intelligence artificielle générative - pour fonder notre analyse sur les tendances dans les deux domaines.

Nous pensons qu'il est essentiel d'analyser la menace des opérations d'influence activées par l'IA et de définir les mesures qui peuvent être prises avant les modèles de langage sont utilisés pour les opérations d'influence à grande échelle. Nous espérons que nos recherches informeront les décideurs politiques qui sont nouveaux dans les domaines de l'IA ou de la désinformation, et stimuleront des recherches approfondies sur les stratégies d'atténuation potentielles pour les développeurs d'IA, les décideurs et les chercheurs en désinformation.