Alors que les entreprises rencontrent des défis dans l’intégration des programmes pilotes d’IA à leurs opérations, garantir la fiabilité est devenu essentiel. Une nouvelle startup, Pramaana Labs, vise à résoudre ce problème en s’appuyant sur la formalisation mathématique, fusionnant la fiabilité des systèmes informatiques établis avec l’imprévisibilité de l’IA.
Pramaana Labs a obtenu 27 millions de dollars lors d’un financement d’amorçage, mené par Khosla Ventures et soutenu par des investisseurs tels qu’Accel, BoldCap, Nexus Venture Partners, Premji Invest et Unbound. L’entreprise cible des secteurs où la précision est cruciale, tels que le droit, la découverte de médicaments et la préparation fiscale, où les erreurs peuvent être coûteuses.
L’approche de la société consiste à utiliser un modèle de langage large conventionnel (LLM) amélioré par une couche de vérification déterministe. Cette configuration garantit l’exactitude des résultats du LLM. Pramaana Labs se distingue en employant des outils de vérification formelle, inspirés par le langage de programmation open-source LEAN, utilisé pour vérifier des preuves mathématiques.
Pour chaque application spécifique, Pramaana Labs développera un système de vérification formelle sur mesure, guidé par des experts du domaine. Par exemple, dans le domaine du droit fiscal, ils collaborent avec l’ancien commissaire de l’IRS, Danny Werfel, tandis que des experts académiques de l’IIT Delhi, IIT Madras et UC Berkeley contribuent aux initiatives de cybersécurité et de découverte de médicaments.
Selon le cofondateur et PDG Ranjan Rajagopalan, la clé pour résoudre des problèmes complexes réside dans leur formalisation. Il souligne que les domaines où les erreurs peuvent affecter la santé, les finances ou la liberté sont régis par des règles qui doivent être codifiées en systèmes exécutables.
