OpenAI ferme les comptes liés à un outil de surveillance chinois présumé

OpenAI a banni plusieurs comptes qui auraient utilisé ChatGPT pour construire un outil de surveillance des médias sociaux destiné à signaler les manifestations anti-chinoises aux États-Unis et dans d'autres pays occidentaux. L'entreprise affirme que le réseau était probablement lié à la Chine.

L'OpenAI resserre son étau sur l'utilisation abusive de l'IA en fermant plusieurs comptes qui auraient utilisé ChatGPT pour alimenter un outil de surveillance des médias sociaux. Selon un rapport de l'OpenAI, ces comptes seraient liés à une opération soutenue par la Chine qui visait à collecter des données en temps réel sur les manifestations anti-chinoises aux États-Unis, au Royaume-Uni et dans d'autres pays occidentaux.

Le soi-disant "Qianyue Overseas Public Opinion AI Assistant" a été décrit dans des documents de marketing comme un logiciel conçu pour suivre et rapporter directement aux autorités chinoises, aux agences de renseignement et aux ambassades les discussions en ligne sur les manifestations en faveur des droits de l'homme. OpenAI n'a pas pu vérifier de manière indépendante l'existence de l'outil, mais a eu accès à des documents promotionnels détaillant ses capacités - principalement l'analyse de plateformes telles que X, Facebook et Instagram à la recherche de conversations pertinentes.

Ben Nimmo, l'un des principaux enquêteurs d'OpenAI, a qualifié cette affaire d'exemple troublant d'un "régime autoritaire tentant d'exploiter l'IA américaine à des fins antidémocratiques". Ces conclusions interviennent alors que les tensions s'accroissent autour de l'utilisation par la Chine de technologies occidentales, OpenAI mettant activement en garde les décideurs politiques américains contre les risques de l'IA chinoise pour la sécurité nationale.

Les comptes interdits font également référence à l'utilisation d'autres modèles d'IA, notamment le Llama de Meta. Meta a reconnu cette possibilité, mais a souligné que les mauvais acteurs ont accès à de nombreux outils d'IA, y compris ceux développés en Chine.

Ce n'est pas la première fois qu'OpenAI prend des mesures contre des activités douteuses. L'entreprise a également banni des comptes liés à des opérations d'influence iranienne, à des escroqueries à l'emploi liées à la Corée du Nord et à un autre réseau affilié à la Chine qui génère des contenus en espagnol critiquant le gouvernement américain.

Face à la montée en puissance de startups chinoises spécialisées dans l'IA, telles que DeepSeek, l'OpenAI envisage d'ouvrir certains de ses propres modèles pour les concurrencer. Pendant ce temps, les responsables politiques américains s'efforcent de trouver un équilibre entre l'innovation dans le domaine de l'IA et les préoccupations en matière de sécurité nationale.