L’avenir de l’informatique sera influencé par la popularisation des IA. L’outil générateur de texte d’OpenAI serait à la fois une menace et une aide pour un acteur de la cybersécurité. Il permettra une compréhension plus rapide d’un logiciel malveillant, favorisant l’action à apporter sur celui-ci. Toutefois, les pirates trouvent plusieurs façons de contourner les balises imposées à l’outil.
Considérée comme l’avenir des recherches internet , l’intelligence conversationnelle créée par OpenAI assure l’arrivée de plusieurs applications intéressantes. Elle peut aider à exécuter des tâches comme une rédaction automatisée de courriels. Comme pour chaque technologie innovante, cet outil peut être exploité par des individus malveillants et devenir problématique.
OpenAI s’est assuré que son outil ne puisse pas aider dans la création de logiciels nuisibles. Ce sont par exemple les enregistreurs de frappes , les spams ou les ransomwares . Pour un expert cybersécurité , ChatGPT permettrait aux cybercriminels d’arriver à des fins malveillantes. En effet, l’outil présente des failles en fonction des données qui lui sont communiquées.
Une IA dans la cybersécurité
Grâce à une programmation définie par des analystes, une IA peut être responsable de la gestion des attaques. Avant l’arrivée de l’intelligence artificielle, les SOC ou Security Operation Center étaient engouffrés sous des milliers d’incidents. Ces derniers cachant des attaques à grande échelle, la sécurité informatique représentait pour les experts une charge de travail supplémentaire .
L’analyste principal de Forrester, Jeff Pollard, parle de l’impact de l’outil sur la productivité des responsables de la sécurité informatique.
Le fait de traiter ces rapports plus rapidement permet de consacrer plus de temps aux autres tâches […] ce qui aide les équipes de sécurité à s’adapter.
Jeff Pollard
Par conséquent, l’intérêt d’un chatbot comme ChatGPT est sa capacité à comprendre le code . De ce fait, un expert cybersécurité peut s’en servir pour appréhender les logiciels malveillants . Ajoutée à cela, la capacité de l’outil à générer du code est également un atout. Les développeurs pourraient donc utiliser ChatGPT pour renforcer leurs systèmes de cryptage .
Des ouvertures pour les attaques
Bien que ChatGPT ne puisse pas effectuer de l’ hameçonnage de lui-même, il est capable de générer un texte convaincant . Les cybercriminels l’utilisent également dans l’écriture des scripts destinés à une plateforme s’appuyant sur des textes. Dans une organisation d’escrocs, les contenus générés peuvent aider les campagnes d’espionnage . ChatGPT permettrait de créer de faux profils convaincants sur les réseaux sociaux.
L’expert en cybersécurité et technologue produit principal de Fastly, Kelly Shortridge en parle. Selon elle, en renfort du phishing sur les réseaux :
[…] ChatGPT pourrait rédiger des messages de leadership éclairé très convaincants. […] Si vous souhaitez générer une discussion commerciale plausible sur LinkedIn afin de donner l’impression que vous êtes un véritable homme d’affaires essayant d’établir des contacts, ChatGPT est idéal pour cela.
Kelly Shortridge
En effet, afin d’effectuer du cyber-espionnage , plusieurs pirates se servent des plateformes de médias sociaux . Le contenu pour les faux profils des criminels peut ainsi être créé par le biais de ChatGPT. D’autre part, le robot conversationnel pourrait présenter des failles suite à une saturation de son contenu .
