3.1 8B Instruct
Llama 3Compact
OutilsSortie structurée
À propos de ce modèle
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, [click here](https://ai.meta.com/blog/meta-llama-3-1/). Usage of this model is subject to [Meta's Acceptable Use Policy](https://llama.meta.com/llama3/use-policy/).
Catégorie de performance
Compact
3.1 8B Instruct est un modèle compact de Llama 3 : petit, rapide et abordable, optimisé pour la vitesse et le coût.
Petit, rapide et économique. Optimisé pour la vitesse et le faible coût, idéal pour les tâches simples ou à fort volume.
Tarification
Ce modèle est inclus dans les plans Elosia| Type | par 1M tokens |
|---|---|
| Entrée (prompt) | $0.020 |
| Sortie (complétion) | $0.050 |
Capacités
Taille du contexte16K
Tokens de sortie max16K
TokenizerLlama3
Entréetext
Sortietext
Date de sortie23 juillet 2024
Benchmarks
Intelligence générale
MMLU
69.4%
Mathématiques
MATH-500
48%
Programmation
HumanEval
72.6%
Usages recommandés
Chat généralRésuméSupport client
Points forts
- Modèle très compact idéal pour le déploiement en périphérie et mobile
- Modèle ouvert le moins coûteux de Meta
- Inférence rapide adaptée aux applications en temps réel
- Fenêtre de contexte de 128K malgré un faible nombre de paramètres
Limites
- Capacités de raisonnement et de programmation nettement limitées
- Inadapté aux tâches complexes d'analyse ou de recherche
Ressources
Ce modèle peut utiliser vos données pour l'entraînement
