Lors d'une séance bondée à Salon européen de la cybersécurité et du cloudRaviv Raz, responsable de la sécurité du cloud chez INGa détourné l'attention des menaces de sécurité traditionnelles et s'est plongé dans le monde de la cybercriminalité alimentée par l'IA.
Raz a partagé les enseignements de sa longue carrière, y compris son mandat de directeur technique pour une société de pare-feu d'applications Web. Ce rôle l’a exposé à la montée du « Cyber Dragon » et aux cyberattaques chinoises, l’incitant à explorer le côté offensif de la cybersécurité. Durant cette période, il a non seulement développé des outils de défense, mais a également créé des outils d'attaque qui seront plus tard adoptés par le collectif de hackers Anonymous.
« La cyber-arme parfaite »
L'un des aspects les plus intrigants de la présentation de Raz était son exploration de « la cyber-arme parfaite ». Il a proposé que cette arme devrait fonctionner dans un silence complet, sans aucune infrastructure de commandement et de contrôle, et qu’elle devrait s’adapter et improviser en temps réel. L’objectif ultime serait de perturber les systèmes critiques, potentiellement même au niveau des États-nations, sans pour autant être détectés.
La vision de Raz pour cette arme, bien que controversée, a souligné le pouvoir de l'IA entre de mauvaises mains. Il a souligné les conséquences potentielles d’une telle technologie tombant entre les mains d’acteurs malveillants et a exhorté le public à réfléchir sérieusement à ces implications.
Preuve de concept dans le monde réel
Pour illustrer la faisabilité de ses idées, Raz a partagé l'histoire d'un consortium de banques aux Pays-Bas qui a adopté son concept. Ils se sont lancés dans un projet visant à élaborer une preuve de concept pour un cyber-agent piloté par l'IA, capable d'exécuter des attaques complexes. Cet agent a démontré la puissance potentielle de l’IA dans le monde de la cybercriminalité.
La manifestation a rappelé brutalement que l’IA n’est plus l’apanage des États-nations. Les criminels de droit commun, ayant accès à des outils et tactiques basés sur l’IA, peuvent désormais mener des cyberattaques sophistiquées avec une relative facilité. Ce changement de paysage représente un défi urgent pour les organisations et les gouvernements du monde entier.
L’essor des activités malveillantes renforcées par l’IA
Raz a en outre montré comment l'IA peut être exploitée à des fins malveillantes. Il a évoqué des techniques telles que les attaques de phishing et l'usurpation d'identité, dans lesquelles des agents basés sur l'IA peuvent créer des messages très convaincants et même falsifier des voix pour tromper les individus et les organisations.
Il a également évoqué le développement de logiciels malveillants polymorphes, c'est-à-dire des logiciels malveillants qui évoluent continuellement pour échapper à la détection. Cette capacité alarmante signifie que les cybercriminels peuvent garder une longueur d’avance sur les mesures de cybersécurité traditionnelles.
Réveil brutal
La présentation de Raz a servi de sonnette d'alarme pour la communauté de la cybersécurité. Il a mis en évidence l’évolution des menaces posées par la cybercriminalité basée sur l’IA et a souligné la nécessité pour les organisations de renforcer continuellement leurs défenses.
À mesure que l’IA continue de progresser, tant en termes de capacités que d’accessibilité, la frontière entre les activités cybernétiques criminelles des États-nations et les activités criminelles courantes devient de plus en plus floue.
Dans cette nouvelle ère de cybermenaces basées sur l’IA, les organisations doivent rester vigilantes, adopter des technologies avancées de détection et de prévention des menaces, et donner la priorité à l’éducation et à la formation de leurs employés en matière de cybersécurité.
Les idées de Raz ont souligné l'urgence de cette question, nous rappelant que la seule façon de lutter contre l'évolution du paysage des menaces est de faire évoluer nos défenses en tandem. L’avenir de la cybersécurité n’exige rien de moins que notre plus grande attention et notre plus grande innovation.
Vous souhaitez en savoir plus sur la cybersécurité et le cloud auprès des leaders du secteur ? Vérifier Salon de la cybersécurité et du cloud se déroulant à Amsterdam, en Californie et à Londres. L'événement complet est co-localisé avec Salon européen de l'IA et du Big Data.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir proposés par TechForge ici.
Source