Roblox et Discord sous le feu des critiques pour des manquements à la sécurité des enfants

Deux des plus grands terrains de jeu de l'internet, Roblox et Discord, sont officiellement sur la sellette en ce qui concerne la sécurité des enfants - et il semble que les choses pourraient mal tourner.

Des fonctionnaires des États de Floride et du New Jersey ont lancé de sérieuses enquêtes sur la manière dont ces plateformes protègent (ou ne protègent pas) leurs jeunes utilisateurs. Roblox, qui compte 85 millions de joueurs quotidiens, et Discord, qui compte 200 millions d'utilisateurs mensuels, sont désormais soumis à des pressions juridiques pour expliquer comment ils assurent réellement la sécurité des enfants, au lieu de se contenter de promettre qu'ils le font.

"Le procureur général de Floride, James Uthmeier, a assigné Roblox Corp. à comparaître pour obtenir des informations sur la manière dont elle s'adresse aux enfants et sur sa politique de lutte contre les prédateurs.

Il s'agit de savoir si Roblox en fait assez pour empêcher les interactions entre les enfants et les prédateurs potentiels. Selon le bureau de M. Uthmeier, il s'agit d'obtenir des reçus: politiques de modération, fonctionnement (ou non) de la vérification de l'âge et facilité avec laquelle les enfants contournent les contrôles parentaux.

Roblox a répondu en disant:

"Nous avons l'intention de coopérer avec le bureau du procureur général et nous sommes impatients de partager tout le travail que Roblox fait pour aider à garder les utilisateurs en sécurité."

Une bonne déclaration de relations publiques, mais le tribunal de l'opinion publique est déjà en ébullition - et pas dans le bon sens.

Image: Discord

Les problèmes de Discord

Si Roblox est en train de s'enflammer, Discord pourrait bien se trouver encore plus près du feu.

Le procureur général du New Jersey, Matthew Platkin, vient de poursuivre Discord en justice, accusant l'entreprise de tromper les familles sur la sécurité réelle de son application. L'action en justice affirme que Discord avait promis des fonctions de protection telles que des filtres de messages, mais qu'elle n'a pas tenu ses promesses. Les enfants ont tout de même été exposés à des contenus horribles, qu'il s'agisse d'abus sexuels sur des enfants, de contenus violents ou même de médias à caractère terroriste.

"Discord a trompé les utilisateurs et les parents en surestimant ses fonctions de sécurité et n'a pas analysé les messages, même entre amis", indique la plainte.

C'est dire...

Encore plus accablant, le procès indique que Discord n'applique pas correctement sa propre règle d'âge minimum (censée être de 13 ans et plus), ce qui permet à des enfants plus jeunes de passer facilement à travers les mailles du filet.

La réponse officielle de Discord? Plutôt défensive:

"Compte tenu de notre engagement avec le bureau du procureur général, nous sommes surpris par l'annonce que le New Jersey a intenté une action contre Discord aujourd'hui".

Traduction: "Attendez, vous nous poursuivez en justice? Nous pensions que tout allait bien?"

Pourquoi ça explose maintenant?

Les deux plateformes ont essayé d'arranger les choses, du moins sur le papier.

Roblox affirme avoir déployé 40 mises à jour de sécurité rien qu'en 2024, dont une importante en novembre qui interdit aux enfants de moins de 13 ans d'entrer dans des espaces sociaux tels que les clubs virtuels. Quant à Discord, son PDG Jason Citron a témoigné l'an dernier devant le Congrès au sujet de la sécurité des enfants, au moment même où l'entreprise se prépare à une éventuelle introduction en bourse.

Mais pour beaucoup de gens (et de parents), c'est trop peu, trop tard.

L'été dernier, Bloomberg's Businessweek a rapporté que Roblox avait de sérieux problèmes pour empêcher les prédateurs d'accéder à sa plateforme. Depuis 2018, la police américaine a arrêté plus de deux douzaines d'individus accusés de préparer ou d'abuser de victimes rencontrées sur Roblox. Et les initiés disent que le problème est énorme, en partie à cause de l'échelle même de ces plateformes.

"Les employés de Roblox ont décrit l'ampleur du défi que représente le contrôle de l'énorme base d'utilisateurs de l'entreprise.

En gros, même avec toute l'IA, les mods et les systèmes de signalement en place, les mauvais acteurs se faufilent toujours.

"Roblox, Discord demain

Roblox et Discord sont tous deux confrontés à de graves problèmes juridiques et la confiance du public est en jeu.

Si Roblox ne peut pas prouver que ses systèmes sont étanches, il risque d'être soumis à une réglementation plus stricte (et de voir des parents furieux retirer leurs enfants du jeu). Pour Discord, le procès pourrait non seulement retarder son introduction en bourse, mais aussi ternir sa réputation au moment même où l'entreprise tente de dépasser les cercles de jeu pour s'étendre à une plateforme sociale plus large.

Il y a aussi la question plus large de la responsabilité. Dans quelle mesure les plateformes doivent-elles être responsables lorsqu'elles se comportent davantage comme des terrains de jeu que comme des réseaux sociaux traditionnels? Et dans quelle mesure est-il réaliste de contrôler entièrement des espaces comptant des centaines de millions d'utilisateurs?

Ces affaires pourraient créer des précédents importants sur la manière dont les applications gèrent la sécurité des enfants à l'avenir, non seulement pour Roblox et Discord, mais aussi pour l'ensemble de l'internet.

Il ne s'agit pas seulement de deux entreprises en difficulté. Il s'agit de savoir qui est responsable lorsque les terrains de jeu virtuels deviennent dangereux.