CASS : Révolutionner la portabilité des codes GPU grâce à l’IA

L’interopérabilité des GPU Nvidia et AMD est un défi majeur pour les développeurs. Le projet CASS propose une solution révolutionnaire : utiliser des modèles de langage volumineux (LLM) pour transpiler le code entre les architectures.

Un jeu de données massif pour entraîner des modèles d’IA

CASS introduit un jeu de données conséquent – 70 000 paires de codes vérifiés – couvrant la traduction au niveau source (CUDA ↔ HIP) et au niveau assembleur (Nvidia SASS ↔ AMD RDNA3). Ce corpus sans précédent comble une lacune critique dans la portabilité des codes GPU de bas niveau. Imaginez la simplification du développement : écrire une fois, déployer partout.

Des modèles IA performants pour la transpilation

Grâce à ce jeu de données, l’équipe a entraîné une famille de modèles de langage spécifiques au domaine, atteignant une précision de 95 % pour la traduction source et de 37,5 % pour la traduction assembleur. Ces résultats surpassent considérablement les modèles commerciaux existants tels que GPT-4o, Claude et Hipify. Plus impressionnant encore, le code généré atteint des performances quasi-natives dans plus de 85 % des cas de test, garantissant ainsi un comportement identique en termes de temps d’exécution et de gestion mémoire.

CASS-Bench : une nouvelle référence pour l’évaluation

Pour garantir une évaluation rigoureuse, CASS-Bench a été développé. Ce benchmark couvre 16 domaines d’application GPU et fournit des données d’exécution vérifiées. Cette approche permet de comparer objectivement la performance des différents modèles de transpilation.

Un projet open source pour une collaboration accrue

Pour faciliter le développement futur dans le domaine des compilateurs GPU, de la compatibilité binaire et de la traduction matérielle guidée par LLM, l’ensemble des données, modèles et outils d’évaluation sont disponibles en open source sur Hugging Face et GitHub. Ce partage encourage la collaboration et l’innovation dans le secteur. L’Afrique, par exemple, pourrait bénéficier grandement de ces avancées, en permettant aux chercheurs et développeurs d’accéder à des outils performants et ouverts, favorisant ainsi le développement local d’applications GPU.

Points clés à retenir

• ✓ CASS offre une solution innovante pour la transpilation de code GPU entre architectures Nvidia et AMD.
• ✓ Des modèles d’IA performants dépassent les modèles commerciaux.
• ✓ Le code généré atteint des performances quasi-natives.
• ✓ L’ensemble du projet est open source, favorisant l’innovation et la collaboration.