Mistral 4 Le Chonk est dispo en téléchargement

1000 milliard de paramètres

Si vous avez un serveur vous pouvez le faire tourner chez vous

 https://www.frandroid.com[...]monde-peut-le-telecharger

Sinon une version grand public sortira d'ici un mois

1000 milliards de mille parametres !

Je vais pouvoir l'installer sur mon GMKtec

Bah oui tiens je vias l'installer chez moi je vais aller acheter 8 dgx spark a 9k€ pour faire tourner Le Chonk alors qu'avec 3 je fais tourner Deepseek à 100tok/s qui atomise Le Chonk

Le rêve d'acheter un NVIDIA DGX Spark et d'installer un server dessus

Faut obligatoirement un serveur ?

2.1 TB of GPU memory

en bf16

bon courage pour trouver vos 2tb de vram

32gb de vram une 5090 pour rappel ca coute 7k € actuellement

à peu près 400k de nudget pour faire tourner un modèle moins bon que un abonnement à 20e sur claude / gpt

allez à la limite on peut diviser par 4 en int4

ce qui ferai toujours + de 100k de budget en gpu

je compte pas le rack + refroidissement industriel dans le prix

à savoir que la conso electrique vous coutera plus cher que l'abonnement cloud

1000 milliard de paramètre

Ça tourne même pas sur une 5090

Oui mais je pense que tu prends pas ce genre de modèles pour ça

Je vais attendre les versions small pour ma RTX 5090 ...

Mistral le Chong

8 dgx spark pour 45k tu le fais tourner hein

Moi je veux pouvoir faire tourner Claude opus en local
Combien de temps pour avoir des machines abordable ?

Pas cool