Documentation officielleNon testé par BlueFish
llama.cpp
Un projet d’inférence de modèles de langage en C/C++ pour plusieurs moteurs matériels locaux.
Petit glossaire
Les modèles génèrent du contenu et raisonnent. Les agents utilisent des outils pour accomplir des tâches. Un Harness gère l’environnement d’un agent. MCP relie les outils et les données. Les Skills sont des consignes de travail réutilisables.
Notes de recherche
Un projet d’inférence de modèles de langage en C/C++ pour plusieurs moteurs matériels locaux.
Méthode de validation
- Un projet d’inférence de modèles de langage en C/C++ pour plusieurs moteurs matériels locaux.
Coût
Logiciel gratuit ; vérifiez la licence et les coûts de calcul
Le code source est public ; les licences des modèles, le matériel, l’électricité et l’hébergement sont distincts. Le coût total n’est pas vérifié.
Limites et périmètre
- Le format du modèle, la quantification, le contexte et le matériel déterminent ensemble les ressources ; aucune garantie matérielle universelle n’est donnée.
- Documentation officielle consultée ; ce site n’a pas exécuté cette combinaison ni testé l’appareil.
Sources originales
- Documentation officielle de llama.cpp ↗
github.com · 2026-10-15 · Documentation officielle