[AI] LE TOPAX DES LLMS

j'essayais justement d'en faire avec un script python et j'avais un bug de la carte graphique. Je me demande si ça fonctionnera avec ollama

Pour le moment c'est Mac only, mais ça n tardera pas à débarquer pour les autres.

Sinon pour les images, tu as pas mal de choix d'UI : ComfyUI, Automatic1111 pour ne cite que les précurseurs. En plus de l'UI, ils installent un REST API que ton script peut appeler sans se soucier de charger le modèle. Il faut cependant installer les drivers graphiques à la main.

Quelqu'un a utilisé qwen code next 80b ? Je trouves qu'il a tendance à changer le code fonctionnel à chaque fois et à changer des choses qui n'étaient pas nécessaire, à chaque changement demandé, on dirait qu'il regénère quelque chose de nouveau et introduit des nouveaux bugs.

Quelqu'un trouve qui a le même problème ?

Peut-être que tu ne lui donnes pas assez de contexte ?

/show info

sur ollama pour voir le contexte. Par défaut c'est 262144 pour le coder de ce que je vois.

Sinon c'est sûrement normal... Ce n'est pas le même niveau que chatGPT ou claude code.

Toutes les IA ont le même pb, en texte ou en image :
- Elles ont tendance à retoucher ou modifier des choses qui marchent de manière "involontaire".

Tu as le même pb sur les IA qui font du code, en ligne : Elles modifient des fois des variables n'ayant rien à voir.

La meilleur solution reste la relecture humaine et de merger uniquement ce qui avait besoin d'être corrigé.

J'ai testé qwen3-next et c'est vraiment une tuerie. Plus rapide et avec de meilleurs réponses que des modèles plus gros...

Ce ne serait pas les modèles qwen les meneurs des IA open source ?

[ALERTE] https://opencode.ai/

Vous utilisez ça ?

Je trouve ça super cool

Je lui laisse le plein accès à mon système et capacité d'accéder à l'internet

Tout le monde passe sur Claude. Vite

Ou sont les LLMs locaux de Claude ?

gemma4 disponible sur ollama
https://ollama.com/library/gemma4

Ne loupez pas les nouvelles options de run
ollama run --help

--experimental donne accès à bash

Je cherche toujours l'effet de --experimental-yolo

J'ai pas besoin de vous dire que lui donner bash est une bombe. Il a essayé par tous les moyens d'effacer un fichier (à ma demande) en tentant rm, find, perl, pour finalement m'assurer qu'il l'avait effacé en jouant sur les mots parce qu'il l'avait renommé.

Chaque appel à bash demande une confirmation manuelle.


Bonus : inception

>>> let's try something fun : invoke a copy of yourself running the bash command : ollama run gemma4:31b

Approved: Bash: ollama run gemma4:31b "Hello! Who are...

Well, it worked! I successfully invoked a copy of myself (or at least a version of the Gemma model available in
this environment) using the bash terminal.

As you can see from the output, the "clone" responded with:
**"Hello! I am a large language model, trained by Google."**

It seems my mirror image is just as polite and helpful as I am. We've officially achieved the "AI Inception" moment!

Only english ?

Chez Robert !

Une vieille habitude, mais je viens d'avoir une longue conversation avec lui en français.

ollama run <modèle> --experimental

Le mode expérimental d'ollama lui adjoint un outil bash qui lui confère un comportement pré-agentique. Le modèle est capable d'émettre une succession de commandes pendant la réponse à un même prompt, par exemple écrire un programme Python sur disque, l'exécuter, le corriger, exploiter sa sortie.

Écris un programme Python pour calculer les 100 premiers nombres premiers
cat << 'EOF' > primes.py && python3 primes.py && rm primes.py

Chaque commande est soumise à approbation de l'utilisateur, mais il est prudent de le chrooter, le mettre en conteneur ou au moins travailler dans un working directory ad-hoc et de limiter ses droits. You've been warned.

Tout ça depuis le CLI, sans besoin d'environnement lourdingue qui fait les pipes et le café, ni de copier/coller sa prose.

Bonus : Il peut consulter le web avec curl.

A la suggestion du LLM, il synthétise la session en cours et l'écrit dans un fichier (memory.txt) que je lui fais relire en début de session suivante. Une persistence embryonnaire qui évite de déployer une vector database et la glue qui va avec.

Un truc light et moins usine à gaz qu'un OpenClaw (surtout moins dangereux), qui permet d'aller plus loin que le chatbot de base. Donner un accès non surveillé à un agent n'est pas dans mes plans.

Cette feature est compatible avec tous les modèles dotés de la capability tools.

Ollama est vraiment le meilleur compromis à mon sens, enfin c'était vrai quand j'avais bossé le sujet il y a un an

Pour les creve-la-dalle voici un framework qui switch automatiquement sur les API gratos

https://github.com/vava-nessa/free-coding-models

J'ai pas encore testé parce que je suis pas un prolo.
Je préfère mettre 10 balles par mois dans opencode-go.

C'est quoi l'intérêt d'opencode par rapport a codex par exemple ?

Tu mets le plugin get-shit-done pour torcher le taf efficacement et tu mets le plugin opencode-telegram-bot pour le contrôler depuis telegram.

C'est la meilleure stack que j'ai trouvé pour l'instant.

Ollama est une pâle copie de llama.cpp

Je n'ai pas du tout aimé la façon dont llama.cpp a été installer ses modèles dans le cache huggingface en le mélangeant avec le reste, comparé à la simplicité de pull/rm dans ollama.