Les avertissements concernant l'intelligence artificielle (IA) sont omniprésents en ce moment. Ils ont inclus messages effrayants sur le potentiel de l'IA à provoquer l'extinction des humains, en invoquant des images des films Terminator. Le Premier ministre britannique Rishi Sunak a même organiser un sommet pour discuter de la sécurité de l'IA.

Cependant, nous utilisons des outils d'IA depuis longtemps - des algorithmes utilisés pour recommander des produits pertinents sur les sites Web d'achat, aux voitures dotées d'une technologie qui reconnaît les panneaux de signalisation et fournit le positionnement de la voie. L'IA est un outil pour augmenter l'efficacité, traiter et trier de gros volumes de données et décharger la prise de décision.

Néanmoins, ces outils sont ouverts à tous, y compris aux criminels. Et nous assistons déjà à l'adoption précoce de l'IA par les criminels. La technologie Deepfake a été utilisée pour générer de la pornographie de vengeancePar exemple.

Technologie améliore l'efficacité de l'activité criminelle. Cela permet aux contrevenants de cibler un plus grand nombre de personnes et les aide à être plus plausibles. Observer comment les criminels se sont adaptés aux avancées technologiques et les ont adoptées dans le passé peut fournir des indices sur la manière dont ils pourraient utiliser l'IA.

1. Un meilleur crochet de phishing

Des outils d'IA comme ChatGPT et Barde de Google fournir un soutien à la rédaction, permettant aux rédacteurs inexpérimentés de rédiger des messages marketing efficaces, par exemple. Cependant, cette technologie pourrait également aider les criminels à paraître plus crédibles lorsqu'ils contactent des victimes potentielles.

Pensez à tous ces e-mails et textes de spam de phishing mal écrits et facilement détectables. Il est essentiel d'être plausible pour pouvoir obtenir des informations d'une victime.

L'hameçonnage est un jeu de nombres : un estimé à 3,4 milliards de spams sont envoyés chaque jour. Mes propres calculs montrent que si les criminels étaient capables d'améliorer leurs messages de sorte qu'aussi peu que 0,000005 % d'entre eux réussissent à convaincre quelqu'un de révéler des informations, cela entraînerait 6,2 millions de victimes de phishing supplémentaires chaque année.

2. Interactions automatisées

L'une des premières utilisations des outils d'IA était d'automatiser les interactions entre les clients et les services par SMS, chat et téléphone. Cela a permis une réponse plus rapide aux clients et une efficacité commerciale optimisée. Votre premier contact avec une organisation sera probablement avec un système d'IA, avant de pouvoir parler à un humain.

Les criminels peuvent utiliser les mêmes outils pour créer des interactions automatisées avec un grand nombre de victimes potentielles, à une échelle impossible s'il n'était fait que par des humains. Ils peuvent usurper l'identité de services légitimes comme les banques par téléphone et par e-mail, dans le but d'obtenir des informations qui leur permettraient de voler votre argent.

3. Deepfakes

L'IA est vraiment douée pour générer des modèles mathématiques qui peuvent être "formés" sur de grandes quantités de données du monde réel, ce qui rend ces modèles meilleurs pour une tâche donnée. La technologie Deepfake dans la vidéo et l'audio en est un exemple. Un acte deepfake appelé Métaphysiqueont récemment démontré le potentiel de la technologie en dévoilant une vidéo de Simon Cowell chantant l'opéra dans l'émission télévisée America's Got Talent.

Cette technologie est hors de portée de la plupart des criminels, mais la possibilité d'utiliser l'IA pour imiter la façon dont une personne répondrait aux SMS, écrirait des e-mails, laisserait des notes vocales ou passerait des appels téléphoniques est librement disponible en utilisant l'IA. Il en va de même pour les données pour l'entraîner, qui peuvent être recueillies à partir de vidéos sur les réseaux sociaux, par exemple.

Les médias sociaux ont toujours été un filon riche pour les criminels qui extraient des informations sur des cibles potentielles. Il est maintenant possible que l'IA soit utilisée pour créer une version deepfake de vous. Ce deepfake peut être exploité pour interagir avec vos amis et votre famille, en les convainquant de transmettre des informations sur vous à des criminels. Gagner un un meilleur aperçu de votre vie le fait plus facile à deviner mots de passe ou épingles.

4. Forçage brutal

Une autre technique utilisée par les criminels appelée "brute forcing" pourrait également bénéficier de l'IA. C'est là que de nombreuses combinaisons de caractères et de symboles sont essayées tour à tour pour voir si elles correspondent à vos mots de passe.

C'est pourquoi les mots de passe longs et complexes sont plus sûrs ; ils sont plus difficiles à deviner par cette méthode. Le forçage brutal demande beaucoup de ressources, mais c'est plus facile si vous savez quelque chose sur la personne. Par exemple, cela permet de trier les listes de mots de passe potentiels en fonction de leur priorité, ce qui augmente l'efficacité du processus. Par exemple, ils pourraient commencer avec des combinaisons liées aux noms de membres de la famille ou d'animaux domestiques.

Des algorithmes formés sur vos données pourraient être utilisés pour aider à créer ces listes prioritaires avec plus de précision et cibler plusieurs personnes à la fois, de sorte que moins de ressources sont nécessaires. Des outils d'IA spécifiques pourraient être développés pour récolter vos données en ligne, puis les analyser toutes pour créer un profil de vous.

Si, par exemple, vous publiez fréquemment sur les réseaux sociaux à propos de Taylor Swift, parcourir manuellement vos messages pour trouver des indices de mot de passe serait un travail difficile. Les outils automatisés le font rapidement et efficacement. Toutes ces informations entreraient dans la création du profil, ce qui faciliterait la devinette des mots de passe et des épingles.

Scepticisme sain

Nous ne devons pas avoir peur de l'IA, car elle pourrait apporter de réels avantages à la société. Mais comme pour toute nouvelle technologie, la société doit s'y adapter et la comprendre. Bien que nous tenions les téléphones intelligents pour acquis maintenant, la société a dû s'adapter à leur présence dans nos vies. Ils ont été largement bénéfiques, mais des incertitudes subsistent, comme une bonne quantité de temps d'écran pour les enfants.

En tant qu'individus, nous devons être proactifs dans nos tentatives de comprendre l'IA, et non complaisants. Nous devrions développer nos propres approches à cet égard, en maintenant un sain sentiment de scepticisme. Nous devrons réfléchir à la façon dont nous vérifions la validité de ce que nous lisons, entendons ou voyons.

Ces gestes simples aideront la société à récolter les bénéfices de l'IA tout en garantissant que nous pouvons nous protéger des dommages potentiels.

Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.