Le drame de la sécurité chez Roblox après un entretien tendu avec le PDG

La dernière interview du PDG de ROBLOX a mis en lumière les doutes qui couvaient depuis longtemps sur la culture de sécurité de la plateforme. Roblox fait l'objet d'un examen minutieux depuis des années, mais les chiffres ont renforcé cette attention. L'entreprise compte aujourd'hui environ 150 millions d'utilisateurs actifs quotidiens, dont de nombreux enfants, et a enregistré un précédent chiffre interne de plus de 13 000 cas d'exploitation d'enfants signalés au cours d'une seule année.

Lors d'une intervention dans le podcast Hard Fork du New York Times, le cofondateur et directeur général de Roblox, David Baszucki, a été directement interrogé sur les prédateurs qui s'attaquent aux enfants sur le service. Sa décision de qualifier ce problème d'"opportunité" a été prise avec une force inhabituelle, car elle n'est pas intervenue isolément, mais dans un contexte de poursuites judiciaires, d'échecs de modération et de luttes politiques qui ont déjà mis à rude épreuve la confiance des parents.

Trois États américains - la Louisiane, le Kentucky et le Texas - ont intenté des actions en justice au motif que Roblox n'avait pas pris suffisamment de mesures pour protéger les mineurs. Plus d'une vingtaine d'autres affaires portées devant les tribunaux fédéraux allèguent que la plateforme a permis l'exploitation sexuelle. Dans le même temps, Roblox a mis en place un système d'estimation de l'âge basé sur l'IA et a élargi les restrictions en matière de chat, puis a présenté ces outils comme la preuve qu'il restait en avance sur l'ensemble de l'industrie.

Les animateurs de Hard Fork, Casey Newton et Kevin Roose, ont posé leurs questions dans ce contexte. Lorsque Newton a demandé comment il envisageait "le problème des prédateurs sur Roblox", Baszucki a répondu:

"Nous pensons qu'il ne s'agit pas nécessairement d'un problème, mais aussi d'une opportunité. Comment permettre aux jeunes de construire, de communiquer et de se retrouver ensemble? Comment construire l'avenir de la communication en même temps?" - David Baszucki.

Le reste de la réponse indique clairement qu'il voulait parler d'une opportunité d'innover en matière de modération et de conception de la communication. La formulation, cependant, a transformé l'une des réalités les plus sombres de toute plateforme pour enfants en un défi de croissance. Pour les critiques, cela a renforcé le soupçon que les dirigeants de Roblox considèrent la sécurité comme un autre problème d'ingénierie à optimiser plutôt que comme une frontière rigide qui peut limiter ce qu'une entreprise devrait faire.

Tout au long de l'interview du PDG de ROBLOX, Baszucki n'a cessé de revenir sur l'échelle, à la fois comme explication et comme bouclier. Il a indiqué que les utilisateurs de Roblox enregistrent environ 11 milliards d'heures par mois et a cité Steal a Brainrot, un jeu à succès qui a atteint 25 millions de joueurs simultanés au cours de l'été, comme preuve de ce que l'infrastructure de la plateforme peut supporter. À la question de savoir si les prédateurs ont trouvé facile de contourner les filtres, il a refusé de répondre directement et a plutôt déclaré: "C'est l'une des principales raisons pour lesquelles il est difficile de contourner les filtres:

"C'est l'une des principales choses que nous faisons: nous essayons de garder les gens sur notre plateforme... nous essayons toujours d'avoir une longueur d'avance". - David Baszucki.

Lorsque Newton lui a demandé sans détour s'il pensait que Roblox avait un problème de prédateurs, Baszucki n'a pas concédé la prémisse.

"Je pense que nous faisons un travail d'innovation incroyable par rapport au nombre de personnes sur notre plateforme et au nombre d'heures, en nous penchant vraiment sur l'avenir de la façon dont cela va fonctionner. - David Baszucki.

L'échange a cristallisé les tensions. D'un côté, une entreprise qui a passé près de deux décennies à construire des outils pour les jeux et les communautés générés par les utilisateurs, et qui s'appuie désormais fortement sur le filtrage par l'IA et l'estimation de l'âge pour gérer les risques. De l'autre, un nombre croissant de parents, de régulateurs, de créateurs et de groupes de défense qui affirment que la question fondamentale reste sans réponse: est-ce suffisant, et qui doit décider?

Cette question a été aiguisée par des affaires dépassant le cadre du podcast. Roblox a récemment banni le YouTubeur Schlep, un créateur qui s'est construit une large audience en mettant en scène des opérations d'infiltration de "chasse aux prédateurs" dans les espaces Roblox. Ses vidéos, qui, selon lui, ont conduit à de multiples arrestations, ont été supprimées et son compte a été fermé en vertu des règles de Roblox interdisant les actions d'autodéfense. Ses partisans se sont ralliés au hashtag #freeschlep et soutiennent que son travail a mis en évidence les défaillances des systèmes de l'entreprise. Pour eux, entendre le directeur général qualifier la crise des prédateurs d'"opportunité" quelques jours après avoir supprimé l'un des chiens de garde les plus visibles, bien que controversé, ressemble à une mauvaise interprétation du moment.

La pression juridique s'intensifie également. Law By Mike, un YouTuber populaire et avocat en exercice, a publiquement fait part de son intention d'intenter une action en justice contre Roblox en raison de prétendues lacunes dans la protection des enfants. Son implication est importante car il est à cheval sur deux mondes: il comprend les mécanismes de la gouvernance des plateformes et s'adresse au même public de parents et d'adolescents qui considèrent Roblox comme un bien commun social. Conjuguée aux poursuites engagées par l'État et le gouvernement fédéral, son intervention élargit le front sur lequel Roblox doit défendre son dossier.

Lors de l'entretien avec Hard Fork, Baszucki a tenté de passer de la gestion de crise à l'architecture à long terme. Il a décrit le nouveau système d'estimation de l'âge facial - un selfie vidéo utilisé pour évaluer l'âge d'un utilisateur avant de lui permettre de discuter - comme un signal de plus dans une pile qui comprend également des données comportementales et l'âge auto-déclaré.

"Nous faisons déjà beaucoup de choses: Nous avons de très bons filtres de texte, il n'y a pas de partage d'images, nous faisons un tas de contrôles. Mais l'ajout d'un signal supplémentaire peut vraiment nous aider à prendre des décisions intéressantes". - David Baszucki.

Il a fait valoir que la plateforme a toujours troqué une partie de sa croissance contre la sécurité en filtrant fortement le texte, invoquant le vieux mème du chat de Roblox qui se résumait à "hashtag, hashtag, hashtag" lorsque les mots interdits étaient bloqués. Grâce à l'IA, les filtres peuvent devenir plus précis et plus résistants aux tactiques adverses, telles que les utilisateurs qui tentent d'encoder leurs coordonnées dans des phrases codées.

Le podcast, produit dans le cadre du portefeuille de podcasts du New York Times, n'est pas resté longtemps dans cette voie technique. Roose a évoqué un rapport de Hindenburg Research datant de 2024 accusant Roblox de "compromettre la sécurité des enfants afin de rapporter de la croissance aux investisseurs" et soulignant la réduction des dépenses consacrées à la confiance et à la sécurité. Baszucki a écarté le cabinet en riant. "Amusant. Continuons sur cette voie", a-t-il déclaré, notant que Hindenburg avait depuis cessé ses activités et faisant valoir que le passage à des systèmes d'évaluation par l'IA équivaut à passer de voitures construites à la main à une chaîne de montage. Selon lui, il ne s'agit pas de faire des économies, mais d'utiliser de meilleurs outils.

L'importance accordée à l'IA place Roblox dans une catégorie familière. Les réseaux sociaux ont passé une grande partie des années 2010 à promettre que des systèmes automatisés nettoieraient les abus et les fausses informations à grande échelle, avant de découvrir des limites strictes à ce que l'apprentissage automatique peut juger de manière fiable. Roose et Newton ont rappelé cette histoire à Baszucki. Ce dernier a répondu en insistant sur le fait que les mesures internes de Roblox montrent que le filtrage et la détection s'améliorent au fur et à mesure que de nouveaux modèles sont déployés, et que l'échelle "époustouflante" de la plateforme rend ce type d'automatisation non seulement efficace, mais aussi nécessaire.

Même au sein des jeux, la position de Roblox en matière de modération est mise à rude épreuve. Des groupes de défense tels que Women In Games, Out Making Games et BAME in Games ont récemment publié une lettre ouverte critiquant le projet de règles de création de l'entreprise concernant les "questions sensibles". Les directives récemment proposées par Roblox à l'intention des créateurs concernant les "questions sensibles" représentent un pas en arrière pour l'expression créative et la justice sociale", affirme la lettre, avertissant que le fait de traiter des sujets tels que l'égalité des sexes, les droits reproductifs et la justice raciale comme des zones "sensibles" facultatives ou risquées risque d'enterrer des histoires qui sont importantes pour les jeunes joueurs. - Women In Games, Out Making Games et BAME in Games.

Cette critique ne se concentre pas sur les prédateurs ou les contrôles d'âge, mais elle parle de la même préoccupation sous-jacente: qui fixe les limites de ce que les jeunes utilisateurs peuvent voir et discuter, et pour qui ces décisions servent le confort.

La conversation sur le Hard Fork s'est finalement déplacée vers Polymarket, une plateforme de prédiction basée sur les crypto-monnaies que Baszucki a saluée comme un puissant signal d'information. Lorsque Roose a demandé, en plaisantant à moitié, s'il mettrait un jour un marché de prédiction à l'intérieur de Roblox lui-même, Baszucki a répondu par l'affirmative, puis a reconnu la complexité juridique. Poussé à se demander si transformer les marchés de prédiction en un jeu pour enfants serait une "idée horrible", il a répondu: "En fait, je pense que c'est une bonne idée":

"En fait, je pense que c'est une idée brillante si cela peut être fait d'une manière éducative et légale... juste un jeu appelé "Dress to Impress Predictor", où il ne s'agit pas d'essayer d'obtenir de l'argent pour les enfants ou quelque chose comme ça. J'en serais un grand fan". - David Baszucki.

Pour une entreprise déjà mise en cause pour la manière dont elle traite les mineurs, l'idée de construire un moteur de prédiction gamifié à l'intérieur de Roblox, même sans enjeux financiers directs, sera difficile à dissocier des débats plus larges sur les loot boxes, les mécanismes de jeu et la compulsion numérique.

À plusieurs reprises, Newton a noté que la conversation était tendue. Baszucki a insisté sur le fait qu'il n'était pas frustré, mais seulement surpris que l'accent soit mis sur la sécurité plutôt que sur des sujets industriels plus légers, et a décrit à plusieurs reprises la position de Roblox comme une "situation à haute responsabilité" qui est également une "opportunité incroyable". Il a rejeté l'image d'un directeur général qui passe ses journées à regarder par-dessus son épaule, affirmant que l'entreprise a été préventive en matière de sécurité "dès le premier jour", interrompant même sa croissance dans les premières semaines pour mettre en place des outils de modération de base.

Cette confiance s'est maintenue jusqu'à la fin de l'interview du PDG de ROBLOX, lorsque Roose a posé une question personnelle: si Roblox serait suffisamment sûr au moment où son propre jeune fils demanderait à y jouer. Baszucki est allé plus loin qu'un simple oui.

"Roblox est actuellement une plateforme extraordinaire pour votre enfant", a-t-il déclaré, offrant de montrer des mesures internes sous le couvert de la confidentialité si nécessaire et ajoutant que les parents restent "l'arbitre ultime de la responsabilité". - David Baszucki.

La réponse reflète la position de l'entreprise en miniature. Roblox se positionne comme étant déjà en avance sur la courbe, déjà plus sûr que beaucoup de ses pairs, utilisant déjà des outils que d'autres finiront par adopter. La question en suspens est de savoir si cette auto-évaluation correspond à l'expérience des familles qui ont vu des cas de toilettage ou d'exploitation émerger de la plateforme, ou des créateurs et des défenseurs qui disent que leurs propres avertissements ont été ignorés jusqu'à ce que des poursuites judiciaires et des gros titres obligent à réagir.

Rien de tout cela n'efface ce que Roblox a construit. La plateforme joue un rôle de maintenance dans l'économie plus large des jeux en ligne: c'est à la fois une boîte à outils créative et un centre social massif où les enfants apprennent comment fonctionnent les communautés en ligne, pour le meilleur et pour le pire. L'épisode du Hard Fork montre à quel point cette position peut être fragile lorsque la confiance vacille. Les remarques de M. Baszucki n'ont pas apporté de nouveaux éléments sur les systèmes de sécurité de Roblox, mais elles ont révélé comment les dirigeants de l'entreprise classent leurs priorités. L'innovation, l'échelle et la vision à long terme de la plateforme se situent au centre, tandis que la reconnaissance claire des préjudices se situe plus près du bord.

Lire aussi, Roblox dépasse les 100 millions d'utilisateurs actifs quotidiens, une étape qui souligne la rapidité avec laquelle l'audience de la plateforme s'est développée et pourquoi chaque décision en matière de sécurité, de modération et de politique a désormais des conséquences qui vont bien au-delà d'une simple interview du PDG de ROBLOX.