Comment la Russie perd la course à l'IA

La Russie dispose de sa propre technologie de conduite autonome, d'un moteur de recherche capable de rivaliser avec Google, et d'assistants vocaux et de haut-parleurs intelligents qui sont de meilleurs interlocuteurs qu'Alexa ou Siri. Mais elle ne dispose pas de réseaux neuronaux génératifs capables de rivaliser avec les dernières versions de ChatGPT ou de surprendre tout le monde comme le DeepSeek chinois. Comment en est-on arrivé là, et cela signifie-t-il que la Russie a déjà perdu la course à l'IA ?

• Les entreprises russes ont commencé à explorer sérieusement les modèles de langage après le succès de ChatGPT à la fin de l'année 2022. À cette époque, les développeurs russes ont compris que l'avenir résidait dans la génération de texte, plutôt que dans l'entraînement des modèles de langage à des tâches spécifiques, et dans les "transformateurs" - une architecture spéciale qui permet à un modèle de langage de voir l'ensemble du contexte en une seule fois et de comprendre comment les mots sont liés les uns aux autres. Auparavant, les réseaux neuronaux comprenaient le texte mot par mot et pouvaient "oublier" des informations si le texte était long. 
• L'émergence de ChatGPT a donné un coup de fouet au marché russe et les développeurs ont réagi. Sber, la plus grande banque russe, a considérablement augmenté ses investissements dans le développement de ses chatbots, ont déclaré deux sources du marché à The Bell. À lui seul, cet investissement représente une somme importante pour le marché russe, a déclaré l'une des sources, sans préciser de chiffre. Mais le marché russe n'était pas prêt pour ce boom. La guerre en Ukraine a rendu l'acquisition de matériel beaucoup plus difficile et personne n'a acheté à l'avance des GPU coûteux, des cartes vidéo avancées pour l'entraînement des réseaux neuronaux qui peuvent coûter 30 000 à 40 000 dollars l'unité. Ils sont désormais encore plus chers en Russie en raison des coûts logistiques supplémentaires liés aux importations parallèles. De nombreux développeurs russes ont dû se contenter de leur propre matériel, car il n'est pas possible de le louer en Russie, et les acteurs occidentaux ont quitté le marché.
• Un autre problème auquel Yandex et Sber ont dû faire face est celui du personnel. Peu de personnes sont capables de créer quelque chose de révolutionnaire, et la plupart d'entre elles travaillent déjà pour OpenAI ou d'autres rivaux basés aux États-Unis. "Je sais qu'au moins quelques personnes de Yandex qui occupaient des postes importants dans l'équipe de développement du LLM sont allées travailler à l'étranger, et certaines d'entre elles ont fini chez OpenAI", a déclaré l'une des sources de The Bell. "Si vous avez les compétences nécessaires, vous pouvez très bien vivre en Russie. Mais ce n'est pas comparable à ce que vous obtiendriez si vous alliez travailler en Occident en termes d'argent ou de satisfaction professionnelle. Il n'est donc pas surprenant que nous ayons constaté cet exode", a déclaré une autre source.
• La censure est un autre problème. Les robots de conversation russes ne peuvent pas aborder des questions "problématiques" telles que la guerre, les droits des LGBT ou les critiques à l'égard de Vladimir Poutine. Par exemple, Sber dispose d'un modèle de censure spécial, mais il est si strict que le robot GigaChat est tout simplement inutilisable. 

Pourquoi le monde doit-il s'en préoccuper ?

Le marché des modèles en langue russe est toujours à la traîne, selon tous les développeurs ou experts qui ont parlé à The Bell. "Nous sommes déjà en retard d'une génération et demie. Et, compte tenu des taux d'intérêt élevés, la situation va empirer : nous avons besoin d'investissements importants, l'argent est cher et il n'y a pas de liquidités", a déclaré Valery Babushkin, auteur du livre Machine Learning System Design.