Microsoft démasque les pirates informatiques à l'origine des failles de l'IA

Microsoft Corp. a déclaré avoir identifié des pirates informatiques basés aux États-Unis et à l'étranger qui ont contourné les garde-fous des outils d'intelligence artificielle générative - y compris les services Azure OpenAI de la société - pour générer du contenu préjudiciable, notamment des images intimes non consensuelles de célébrités et d'autres contenus sexuellement explicites.

Selon la société, les pirates informatiques ont récupéré les identifiants des clients à partir de sources publiques et les ont utilisés pour accéder à des services d'IA générative, notamment Azure OpenAI, le produit cloud de Microsoft qui permet aux clients d'utiliser les modèles d'OpenAI. Les pirates ont ensuite modifié les capacités des produits d'IA et vendu l'accès à d'autres groupes malveillants, leur fournissant des instructions sur la manière de créer du contenu nuisible.

Les pirates informatiques identifiés par Microsoft sont basés en Iran, au Royaume-Uni, à Hong Kong et au Vietnam. Ils feraient partie d'un réseau mondial de cybercriminalité que Microsoft appelle Storm-2139. Deux autres membres sont basés en Floride et dans l'Illinois, mais Microsoft a déclaré qu'il ne les nommerait pas pour éviter de faire dérailler les enquêtes criminelles. L'éditeur de logiciels a déclaré qu'il préparait des transmissions criminelles aux forces de l'ordre américaines et étrangères.

Cette mesure intervient alors que la popularité croissante des outils d’IA générative suscite des inquiétudes quant à leur utilisation abusive pour générer de fausses images illicites de personnalités publiques et de simples particuliers, ainsi que pour créer du matériel pédopornographique. Des entreprises comme Microsoft et OpenAI interdisent ce type de comportement et prennent des mesures technologiques pour le bloquer, mais des groupes malveillants peuvent toujours essayer d’obtenir un accès non autorisé.

« Nous prenons très au sérieux l’utilisation abusive de l’IA, en reconnaissant les conséquences graves et durables des images abusives pour les victimes »,

Steven Masada, avocat général adjoint de l'unité de lutte contre la criminalité numérique de Microsoft, a déclaré jeudi dans un article de blog.

« Microsoft reste déterminé à protéger les utilisateurs en intégrant des mesures de sécurité robustes en matière d'IA au sein de nos plateformes et en protégeant nos services contre les contenus illégaux et préjudiciables. »

L'annonce de Microsoft fait suite à une action en justice intentée en décembre par la société dans le district Est de Virginie contre 10 « John Doe » dans le but de recueillir davantage d'informations sur le groupe de pirates informatiques et de perturber ses activités, a déclaré Masada dans le blog.

Le tribunal a rendu une décision autorisant Microsoft à saisir un site Web clé utilisé par les pirates. Cette décision, ainsi que la divulgation de documents juridiques le mois dernier, ont suscité la panique au sein du groupe de pirates et ont poussé certains membres à se pointer du doigt, ce que Microsoft a pu observer afin d'identifier certains membres, a déclaré la société.

Microsoft a refusé de nommer les célébrités concernées.