Pourquoi l'ancien responsable de l'IA chez Take-Two a-t-il renoncé à défendre l'IA générative ?

En avril, Take-Two a licencié l'intégralité de son équipe IA dans le cadre d'une restructuration, une décision qui a surpris, compte tenu de l'intérêt manifeste du secteur pour l'IA générative. Or, la plupart des personnes licenciées ne travaillaient pas du tout sur ce domaine. L'équipe avait été créée chez Zynga en 2019 en tant que groupe d'innovation R&D, trois ans avant que ChatGPT ne popularise l'idée que l'IA se résume à de grands modèles de langage. Elle est restée en place après le rachat de Zynga par Take-Two en 2022. Son ancien responsable, le Dr Luke Dicken, a fait part de ses inquiétudes dans une interview accordée à GamesIndustry.biz.

Le groupe travaillait en secret dans les sous-sols du siège social de Zynga à San Francisco, explorant comment l'IA, dans son ensemble, pouvait enrichir le développement de jeux vidéo. Dicken s'inspirait des jeux de rôle sur table. Il affirmait qu'un bon maître de jeu cerne les envies des joueurs et adapte la partie en conséquence, et que cette même logique pouvait façonner un jeu vidéo en temps réel. L'équipe a développé un système de profilage par apprentissage automatique qui suivait une quarantaine de paramètres par joueur. Ce concept a donné naissance au jeu Spell Forest (2020), qui, selon Dicken, a validé sa thèse en influençant positivement les indicateurs clés de performance grâce à des modifications de l'expérience de jeu.

La sortie de ChatGPT en 2022 a profondément modifié le rôle de l'équipe. Lorsqu'il est apparu que les données saisies par les utilisateurs pouvaient servir de données d'entraînement, Zynga a confié au groupe la gouvernance de l'IA générative au sein de l'entreprise, principalement la formation du personnel et l'approbation des outils. Sur les 25 membres de l'équipe, seuls trois ou quatre travaillaient sur l'IA générative ; les autres continuaient à se consacrer à l'IA au sens large. La supervision s'est ensuite étendue à l'ensemble de Take-Two avant que le groupe ne soit dissous cette année et que ses responsabilités ne soient réparties entre d'autres équipes.

Dicken ne s'exprime pas comme quelqu'un qui a dirigé le département d'IA jusqu'à récemment. Il présente l'IA générative comme une responsabilité morale qu'il se sentait tenu de gérer plutôt que comme une technologie en laquelle il croyait.

« L’IA générative n’est pas un sujet qui m’a particulièrement passionné. Je pense qu’il est de notre devoir moral de veiller à ce qu’elle soit gérée au mieux, tout en sachant que pour toute grande entreprise en 2025/2026, l’absence d’IA générative serait une erreur et susciterait de vives réactions. »

— Luke Dicken

Ses objections portent sur trois aspects : l’éthique, le droit et le commerce. Il cite les éléments de preuve recueillis lors du procès, montrant que Midjourney tenait une liste d’artistes dont les œuvres avaient servi à l’entraînement de ses modèles, et affirme connaître des personnes figurant sur cette liste. Il remet en question la qualité même des résultats, qualifiant les LLM de prédicteurs de mots suivants biaisés vers la moyenne. Un développeur compétent, soutient-il, peut être amené à produire un travail médiocre au même titre qu’un développeur moins compétent. Il souligne également la facilité avec laquelle un modèle optimisé peut être compromis : une simple modification des données d’entraînement se répercute en cascade sur l’ensemble du réseau et rend inopérant un cas d’utilisation qui fonctionnait la veille.

Je comprends que son argument concernant la régression vers la moyenne soit le cadre d'analyse le plus pertinent ici, car il permet de dissocier le marketing des performances concrètes des outils. L'action de Take-Two a progressé de 5% après l'annonce des précommandes de GTA 6 cette semaine, et cet écart entre un produit Rockstar artisanal pour lequel les investisseurs sont prêts à payer un prix élevé et la production moyenne d'un master en ingénierie juridique (LLM), correspond précisément à la tension que Dicken ne cesse de souligner.

Il reconnaît toutefois un avantage à cet engouement. Il y a cinq ans, présenter un algorithme de génération de niveaux lui valait des regards perplexes ; aujourd’hui, la même salle approuve d’un signe de tête presque tout ce qui est étiqueté IA.

« Cela a rendu les gens plus réceptifs aux discussions sur ce que les techniques traditionnelles auraient pu faire pour eux il y a des années. Ils sont plus enclins à croire que de telles choses peuvent exister. »

— Luke Dicken

Ce qui inquiète, c'est ce qui se passera lorsque la bulle éclatera. Strauss Zelnick a présenté GTA 6 comme un jeu « inédit », un projet ambitieux qui exige des années de travail et un savoir-faire humain plutôt que des moyennes statistiques. Dicken, quant à lui, craint l'effet inverse : qu'un éclatement de la bulle dégoûte complètement l'industrie de l'IA, méthodes traditionnelles comprises. Je pense que cette crainte est justifiée, car les réactions négatives permettent rarement de distinguer les outils utiles des outils surmédiatisés. Il reprend l'argument d'Ed Zitron selon lequel les chiffres de cette croissance ne sont pas cohérents et conclut que la réponse semble être négative sur les plans éthique, juridique et commercial, tandis que les dépenses continuent malgré tout.

« Ce qui m’inquiète, c’est que l’IA générative soit en train de pervertir le système. Je ne pense pas qu’elle soit suffisamment sophistiquée et nuancée pour préserver les aspects traditionnels. Quant aux masters en droit, nous sommes déjà en plein désenchantement. »

— Luke Dicken

La manière dont les studios gèrent cette situation dépend du contexte, explique Dicken. Une start-up à six mois de la création exploitera tous les atouts possibles. Une entreprise plus importante, quant à elle, doit prendre en compte les risques juridiques. Il en conclut que tout repose sur les valeurs : la réponse moralement juste est de refuser l’IA générative, la réponse commercialement viable est d’en utiliser juste assez, et la limite que chaque studio se fixe dépend de ses propres valeurs. Les mêmes interviews de Zelnick qui expliquent la durée du développement de GTA 6 illustrent un modèle diamétralement opposé : une entreprise qui consacre 13 ans à la production d’un jeu qu’elle considère comme le meilleur possible.

À lire également : Rockstar semble préparer une troisième bande-annonce pour GTA 6, après avoir discrètement retiré l’étiquette « nouveau » de la deuxième bande-annonce avant les précommandes du 25 juin. L’initié DarkViperAU affirme que la prochaine bande-annonce durera 20 minutes.