Infinity a annoncé lundi avoir bouclé une levée de fonds en amorçage de 15 millions de dollars, valorisant la société à 100 millions de dollars, afin de commercialiser un logiciel visant à rendre « n’importe » quelle puce d’IA prête pour l’inférence, réduisant ainsi le besoin d’ingénierie manuelle des kernels. Parmi les investisseurs figurent Touring Capital, Principal VC, des dirigeants de grands fabricants de puces et des chercheurs anciennement chez OpenAI et Anthropic.
Le goulot d’étranglement CUDA
La domination de Nvidia dans l’accélération de l’IA en centres de données ne repose pas seulement sur la performance du silicium, mais aussi sur CUDA, la couche logicielle vieille de près de deux décennies qui sous-tend des frameworks majeurs comme PyTorch et TensorFlow. Cette intégration fait que les modèles écrits en Python s’exécutent par défaut sur du matériel Nvidia, ce qui permet à l’entreprise de capter une part estimée à 80 % du marché des accélérateurs IA pour centres de données. Sur le papier, les puces concurrentes d’AMD, Qualcomm ou des fournisseurs cloud peuvent rivaliser, mais le travail de portage des modèles — écrire et optimiser des kernels bas niveau — reste un obstacle coûteux.
L’approche d’Infinity : un agent qui écrit des kernels
Le produit d’Infinity, baptisé Ignition, est un agent d’IA conçu pour générer, tester et réécrire de manière itérative des kernels afin que les modèles tournent efficacement sur de nouveaux siliciums. Selon la société, des ingénieurs humains définissent objectifs et contraintes, tandis qu’Ignition prend en charge le développement répétitif et l’optimisation, en intégrant des retours de performance pour améliorer automatiquement le code généré.
Résultats préliminaires, selon la société
La startup communique des benchmarks internes significatifs. En collaboration avec le fabricant de puces d-Matrix, Infinity affirme qu’Ignition a atteint 92 % des performances de pointe d’une nouvelle puce dans les dix heures suivant les premiers tests sur le matériel, et que trois modèles de pointe tournaient de bout en bout sur l’appareil en dix jours. Dans un autre test interne, la société indique qu’un modèle a vu son débit passer d’environ 1 400 à plus de 20 000 tokens (jetons) par seconde en une seule journée — une amélioration qui, selon Infinity, surpasserait vLLM, un framework d’inférence open source largement utilisé. Ces chiffres sont autodéclarés et n’ont pas été vérifiés de manière indépendante.
