Top 5 des LLM Open Source gratuits en 2024

Les LLM sont aujourd’hui omniprésents et n’ont plus besoin d’être présentés. Que vous soyez dans la technologie ou non, il y a de fortes chances que vous ayez rencontré ou que vous utilisiez actuellement une forme ou une autre de LLM au quotidien. Les LLM les plus connus à l’heure actuelle sont GPT (OpenAI), Claude (Anthropic) et Gemini (Google).

Cependant, ces LLM populaires fonctionnent souvent comme des systèmes abstraits ou à boîte noire, ce qui soulève des inquiétudes quant à la confidentialité des données et à la transparence. Pour résoudre ces problèmes, plusieurs LLM à code source ouvert sont disponibles, ce qui permet aux utilisateurs de les déployer sur des machines ou des serveurs privés en toute tranquillité.

L’Open Source désigne les logiciels ou produits distribués avec leur code source librement disponible pour inspection, modification et distribution. Cette accessibilité permet aux utilisateurs de comprendre, d’améliorer et de contribuer au développement du logiciel.

Voici quelques-uns des meilleurs LLM open source actuellement disponibles :

Lama 2

Llama 2 est un LLM open-source développé par Meta, offert gratuitement à des fins commerciales et de recherche. Les modèles du Llama 2 sont formés sur deux billions de jetons et disposent d’un contexte deux fois plus long que celui du Llama 1.

Les paramètres du modèle ont une incidence directe sur sa capacité à comprendre un texte, les modèles plus grands offrant de meilleures performances au prix d’une augmentation de la taille et des ressources nécessaires.

Variantes disponibles : Paramètres 7B, 13B et 70B

Fenêtre contextuelle : 4096 jetons

Langues prises en charge : Meilleures performances en anglais

Mixtral 8x7B

Mixtral 8x7B, développé par Mistral AI, est un LLM contenant 46,7 milliards de paramètres au total. Malgré sa taille, il conserve une vitesse d’inférence et un coût similaires à ceux des modèles d’un tiers de sa taille. Ce modèle de mélange d’experts transformateurs (MoE) pour décodeur uniquement est nettement plus performant que LLama 2 et GPT-3.5 dans certains points de référence.

Variantes disponibles : Minuscule, petite, moyenne et grande (de la plus économique à la plus performante)

Fenêtre contextuelle : 32000 jetons (sur Mistral Large)

Langues supportées : anglais, français, espagnol, allemand, italien (sur Mistral Large)

Faucon

Falcon, développé par le Technology Innovation Institute (TII) d’Abu Dhabi, est un autre modèle de LLM open source. Après son lancement, Falcon 40B a occupé pendant deux mois la première place du classement de Hugging Face pour les grands modèles de langage (LLM) open source. Avec la variante 180B, TII améliore encore les connaissances du modèle et ses capacités de compréhension des données. Falcon 180B est un modèle linguistique surpuissant formé sur 3,5 trillions de tokens.

Variantes disponibles : Falcon 40B et Falcon 180B

Fenêtre contextuelle : 4096 jetons

Langues prises en charge : Anglais, allemand, espagnol, français, avec un support limité pour l’italien, le portugais, le polonais, le néerlandais, le roumain, le tchèque et le suédois.

BLOOM

BLOOM est un modèle linguistique autorégressif (LLM) développé par Big Science. Entraîné sur 176B paramètres, BLOOM excelle à générer des continuations de texte à partir d’invites en utilisant de vastes quantités de données textuelles et des ressources informatiques à l’échelle industrielle.

Variantes disponibles : bloom-560m, bloom-1b1, bloom-1b7, bloom-3b, bloom-7b1, bloom 176B

Fenêtre contextuelle : 2048 jetons

Langues prises en charge : 46 langues naturelles (avec des quantités variables de données, de 30 % pour l’anglais à 0,00002 % pour Chi Tumbuka)

Gemma

Gemma, la dernière version ouverte du LLM de Google, fait suite au succès de Gemini. Gemma est une famille de grands modèles linguistiques (LLM) à pondération ouverte de Google DeepMind, construits sur la recherche et la technologie Gemini. Bien que les poids des modèles soient librement accessibles, les conditions spécifiques d’utilisation, de redistribution et de propriété des variantes peuvent varier et ne pas être basées sur une licence de source ouverte.

Variantes disponibles : Gemma 2B et Gemma 7B

Fenêtre contextuelle : 8192 jetons

Langues prises en charge : Anglais

Conclusion

Chez Cody, nous privilégions une approche agnostique en matière de LLM, en offrant une plateforme qui vous permet de construire des robots personnalisés adaptés à votre cas d’utilisation unique. Avec une gamme variée d’options LLM disponibles, vous n’êtes pas limité à un seul fournisseur, ce qui vous donne la liberté de choisir ce qui correspond le mieux à vos besoins.

Grâce à Cody, les entreprises peuvent exploiter l’IA pour développer des assistants intelligents adaptés à leurs besoins précis. Cette flexibilité fait de Cody un ajout prometteur dans le domaine des solutions professionnelles basées sur l’IA.