Tencent publie Agent Memory en open source pour réduire les coûts de l'IA de 61 %

Le lancement par Tencent Cloud de sa technologie open source Agent Memory, qui promet de réduire la consommation de jetons jusqu'à 61 %, marque une étape importante dans la course pour rendre les agents d'IA complexes économiquement viables et plus performants. Cette initiative, annoncée le 14 mai, répond au besoin croissant de systèmes d'IA capables de maintenir le contexte et de rappeler des informations sur des tâches longues et complexes.

La solution cible les scénarios de tâches longues en offrant à la fois des capacités de compression de mémoire à court terme et de mémoire personnalisée à long terme, selon l'annonce de la société. Bien que la fonction de mémoire à long terme ait été lancée pour une utilisation gratuite en avril, la nouvelle version open source se concentre sur le composant de compression de mémoire à court terme.

Dans des expériences de sessions continues multitâches, Tencent a rapporté que sa solution réduisait la consommation de jetons jusqu'à 61 % tout en améliorant les taux de réussite des tâches. Cela répond à un coût opérationnel majeur pour les développeurs, car les grands modèles de langage facturent en fonction du nombre de jetons traités, et les tâches complexes avec de longs historiques de conversation peuvent devenir d'un coût prohibitif.

Cette démarche va au-delà des simples économies de coûts ; il s'agit de permettre la prochaine génération d'IA capable de gérer des tâches complexes en plusieurs étapes. Elle positionne Tencent comme un facilitateur clé dans l'espace de l'IA, rivalisant pour gagner l'adhésion des développeurs sur un marché où la mémoire et le stockage deviennent des goulots d'étranglement critiques et des domaines de croissance majeurs, au profit de sociétés comme Micron Technology (NASDAQ : MU) et SanDisk (NASDAQ : SNDK).

Le problème de « l'amnésie » chez les agents d'IA

Un obstacle majeur à la création d'une IA autonome et plus utile est le problème de la mémoire. La plupart des agents d'IA de la génération actuelle souffrent effectivement d'amnésie ; ils s'appuient sur des données instantanées et perdent le contexte dès qu'un objet ou une information n'est plus dans leur entrée immédiate. Cela les empêche d'effectuer des raisonnements complexes ou des tâches de longue durée nécessitant le rappel d'interactions antérieures ou d'états environnementaux. Comme l'a souligné le récent lancement de l'agent « Wise KaiWu » du Centre d'innovation de Pékin pour la robotique humanoïde, l'industrie s'efforce de résoudre ce problème avec des systèmes de mémoire dynamique. Leur agent introduit une mémoire spatiale et personnalisée pour aider les robots à évoluer de simples exécutants passifs à des assistants proactifs capables de se souvenir des utilisateurs et de leurs préférences.

L'Agent Memory de Tencent s'attaque à ce même défi d'un point de vue logiciel. En fournissant un cadre pour le rappel à court terme (de quoi venons-nous de parler ?) et la personnalisation à long terme (qui est cet utilisateur et que préfère-t-il ?), il permet aux développeurs de créer des applications plus continues et plus conscientes du contexte. Cette capacité est cruciale pour faire passer l'IA de simples chatbots à des agents sophistiqués capables de fonctionner comme de véritables assistants dans des contextes domestiques, commerciaux ou industriels.

Un nouveau front dans la course aux armements de l'IA

La sortie logicielle de Tencent est un coup stratégique au sein d'un boom matériel beaucoup plus large centré sur l'infrastructure de l'IA. La croissance explosive de l'IA crée une demande sans précédent tant pour la mémoire spécialisée sur laquelle tournent les modèles que pour le stockage vaste dont ils ont besoin pour les données. Les récents résultats de SanDisk ont montré un chiffre d'affaires en hausse de 251 % sur un an pour atteindre 5,9 milliards de dollars, porté par la demande pour son stockage flash NAND utilisé dans les systèmes d'inférence d'IA, les bases de données vectorielles et les charges de travail d'IA agentique. Le PDG de l'entreprise a noté que la NAND devient la « seule solution économiquement viable » pour maintenir les modèles d'IA accessibles pour une utilisation en temps réel à grande échelle.

Cette demande de matériel s'étend aux puces de mémoire à large bande passante (HBM), où des acteurs comme Micron Technology voient une demande croissante pour leurs produits, essentiels aux plateformes d'IA de Nvidia. SanDisk a conclu des accords d'approvisionnement pluriannuels d'une valeur de plus de 42 milliards de dollars, signalant que les gros clients réservent des capacités de stockage à long terme. Cette demande intense pour les composants physiques de l'IA souligne l'importance des solutions logicielles comme celle de Tencent, qui visent à utiliser ce matériel plus efficacement. En réduisant la consommation de jetons, Agent Memory abaisse directement l'intensité opérationnelle sur l'infrastructure sous-jacente.

La stratégie open source de Tencent est conçue pour intégrer sa technologie au sein de la communauté des développeurs, stimulant l'adoption de son écosystème Tencent Cloud plus large. Bien que l'outil Agent Memory lui-même soit gratuit, son utilisation peut entraîner une consommation accrue d'autres services cloud payants. Cette initiative reflète une tendance plus large du secteur où la capacité à gérer, stocker et rappeler efficacement les données pour les agents d'IA est un avantage concurrentiel clé, stimulant la performance des entreprises sur l'ensemble de la chaîne technologique, des fournisseurs de services cloud aux entreprises de semi-conducteurs et de stockage qui en construisent les fondations.

Cet article est à titre informatif uniquement et ne constitue pas un conseil en investissement.