Les chercheurs de Georgia Tech travaillent à la création d’un nouvel outil logiciel alimenté par l’intelligence artificielle (IA) pour aborder le domaine sous-étudié de la sécurité numérique et de la violence domestique.

Ces domaines se chevauchent fréquemment avec les agresseurs qui utilisent souvent Internet et la technologie mobile pour étendre la portée de leurs abus. Cependant, la moindre ampleur de ces attaques en ligne a entraîné une moindre attention de la part des chercheurs en sécurité.

En s'appuyant sur les développements récemment réalisés en matière de sécurité cognitive, la chercheuse principale Courtney Crooks et l'étudiante diplômée Sneha Talwalkar s'efforcent d'apporter un soulagement aux survivants de violence domestique.

L'impact de la violence domestique, autrement appelée violence conjugale (VPI), sur la santé publique est quelque chose que Crooks étudie depuis plusieurs années à travers la recherche et la pratique dans son rôle de psychologue et de chercheuse agréée.

Après avoir constaté comment les nouvelles technologies ouvraient de nouvelles méthodes d'abus en ligne, Crooks a réalisé qu'elle pouvait contribuer à combler les lacunes de cet espace de recherche en utilisant son expérience de travail avec le Georgia Tech Research Institute, la School of Cybersecurity and Privacy (SCP) de Georgia Tech et l'École de médecine de l'Université Emory.

Pour obtenir ce qu'ils veulent, les agresseurs tentent de modifier l'état d'esprit de leur victime grâce à la manipulation cognitive et utilisent différentes tactiques pour y parvenir. Crooks a décidé d'explorer des moyens d'aider les survivants de la VPI à contrecarrer ces risques de sécurité cognitive améliorés grâce à la technologie à mesure qu'ils progressent dans leur rétablissement.

Le logiciel que Crooks et Talwalkar travaillent à développer alerterait les survivants de ces abus potentiels ou observés en tirant parti de stratégies d'apprentissage psychologiques bien connues, adaptées au développement. L'outil se concentrera uniquement sur les risques uniques auxquels sont confrontés les survivants de la VPI. L’application des principes de conception centrés sur l’humain et des normes éthiques à la conception de l’IA sera une priorité absolue pour l’équipe.

L’équipe travaille au développement d’interventions assistées par l’IA, psychologiquement informées et conçues spécifiquement pour se concentrer sur les risques uniques auxquels sont confrontés les survivants. Ces interventions seront conçues pour se dérouler parallèlement aux méthodes de soutien traditionnelles, telles que la santé mentale et les ressources communautaires.

"Il est important de comprendre que les relations abusives sont compliquées. Même si certaines personnes peuvent y échapper, beaucoup ne le peuvent pas", a déclaré Crooks. "Ou bien, ils peuvent s'échapper physiquement, mais des ressources telles que leurs téléphones, leurs comptes en ligne ou leurs finances peuvent toujours être vulnérables aux agresseurs. Les survivants peuvent également avoir besoin de continuer à communiquer avec leur agresseur, comme dans les cas où ils partagent des enfants."

Quelles que soient les circonstances, il est souvent difficile pour les survivantes de cesser de communiquer avec leurs agresseurs une fois qu'elles ont quitté la relation. Cette incapacité à se déconnecter est due aux liens psychologiques renforcés lorsqu'ils étaient avec leur ancien partenaire.

Les technologies d'IA proposées par Crooks et Talwalkar n'agiront pas comme un chatbot ChatGPT. Au lieu de cela, il agira comme un coach, apprenant des tactiques de comportement abusif et des réponses potentielles des survivants.

L'outil fera ensuite des suggestions basées sur les progrès et les objectifs de récupération spécifiques de chaque utilisateur tout en tenant compte des risques potentiels. Pour améliorer ses performances de coaching et sa base de connaissances générales, l’IA continuera à apprendre des résultats de chaque incident auquel les survivants sont confrontés.

"Le modèle fournit l'intervention nécessaire pour aider au rétablissement d'un survivant de VPI", a déclaré Talwalkar. "Nous voulons utiliser l'intelligence artificielle pour de bon, et ce projet est un pas dans cette direction."

Les cours du programme de maîtrise SCP ont joué un rôle central dans l'élaboration des recherches de Talwalkar dans ce domaine. En explorant la censure d’Internet et les modèles linguistiques, elle a reconnu les défis émergents posés par l’IA en matière de sécurité. Après une conversation instructive avec le professeur SCP Peter Swire, Talwalkar a acquis la confiance nécessaire pour se concentrer sur l'enquête sur les intentions malveillantes dans des environnements immersifs. Avec les conseils de Crooks, elle a commencé à explorer l'environnement socio-technique du VPI.

« Concevoir une intelligence artificielle centrée sur l'utilisateur pour aider à la récupération après la violence domestique » a été accepté comme résumé étendu et présenté à l'événement du Congrès mondial d'informatique, d'ingénierie informatique et d'informatique appliquée 2023 cet été. Actes de l'IEEE publie l'ouvrage dans un prochain numéro.