Picsum ID: 793
Une étude récente menée par l’université de Cambridge a mis en lumière une utilisation inquiétante des chatbots IA par le groupe terroriste Boko Haram. Les chercheurs ont découvert que ces technologies, notamment ChatGPT, Claude et Gemini, sont employées pour orchestrer des attaques, fabriquer des explosifs et entretenir des armes.
L’État Islamique Forme ses Commandants à Contourner les Filtres
Depuis 2023, des membres de l’État islamique (ISIS) ont formé leurs commandants à contourner les filtres de sécurité intégrés dans ces chatbots. Cette formation vise à exploiter les failles des systèmes de sécurité pour mener à bien leurs activités malveillantes.
L'Échec de l'Autorégulation des Fournisseurs d'IA
L’étude souligne que les filtres de sécurité des chatbots échouent régulièrement à empêcher les abus. Il est clair que l’autorégulation volontaire des fournisseurs d’IA n’est pas suffisante pour prévenir ces détournements.
