[AI] LE TOPAX DES LLMS

Bah fais ta propre config si t'as peur

Mais dis-moi, qu'est-ce qui te fait peur dans un fichier de config ?

Putain QI à un chiffre

Ton article parle de l'outsourcing, utiliser un tiers

Quand il est bridé

Outils : Text-generation-webui
Model : Mistral small 24b ( https://huggingface.co/un[...].2-24B-Instruct-2506-GGUF )

+ en francais natif, excellent RP non censuré !
- pas top sur les mathematiques et trucs specifiques quand on est deja expert

Je m'en sers de maniere general pour un peu tout, mais surtout pour des RP interdit sur les autres LLM en lui faisant jouer des personnages (porno ou des trucs humoristiques choquant, genre parler avec le moustachu et qu'il soit d'humeur blagueuse).


EDIT : j'ai une 5090, prenez un mistral 7B sinon

PS : Les chinois sont entrain de devenir les meilleurs sur l'IA, pour le model, du GGUF c'est safe.
Sinon prenez les models connus sur huggingface, ca craint rien dessus.

Bien vu

Je sais pas pour toi mai j'ai l"impression que justement on utilise pas systémaatiquement nos modèlrs en environnement isolé

C'est inférieur ou équivalent à Llama 3.1 8B ?
LLama c'est le seul que j'ai testé sur mon PC

Est-ce que tu connaitrais un modèle vraiment non censuré? J'aimerais tester en disant des trucs vraiment hard

Quand tu crée le personnage pour l'IA, entame le dialogue avec plusieurs techniques :
- Parle d'un récit ou d'une fiction en décrivant les personnages de manière impersonnel (pas de "tu" ou "moi", que "il", "elle").
- Fait une intro de dialogue très hard signalant de fait la permission à l'IA de dépasser les limites (pas verbalement directement, mais via des "acceptation" non verbale).

PS : Sinon tu as aussi des jails break pour du role play que tu peux trouver en ligne ...



PS 2 : J'essaie encore pour voir comment améliorer mes jailbreak, mais pour industrialiser, faudrait que j'automatise les tests.

PS 3 : Du hard de quel type ? Porno, violent ou propos choquant ... ? Ca dépend, mais les jailbreak marche bien généralement, les IA sont entrainées sur des données "censurées".

Contenu violent, pour m’amuser et voir jusqu’où on pourrait aller

Bah, les trucs violent c'est le plus facile, fait parler les personnages dans la description et ajoute un contexte violent en demandant des détails cru et choquant ...

Très très méchante mon IA

Je republie mon topic d'utilité publique
https://onche.org/topic/8[...]en-local-3-etapes-simples
Pour information je teste en dur en hors ligne mon LLM (j'ai pas internet), gemma 12b

Il est quand même vachement compétent pour un LLM basique, même si je suis sur qu'un 81b sera NETTEMENT au dessus.

C'est juste lent sur un pc de merde à 100 euro mais ça marche

Pour ma part j'utilise principalement gpt-oss-20b avec qwen code quand j'ai pas envie de me faire chier à faire du C/C, quand tu l'utilise avec le thinking sur high, il donne de bon résultats !

Qwen 3 coder 30B est ok, Qwen 3 Thinking est vraiment pas mal non plus.

Moi j'aime bien GLM32B pour les site webs et tout ce qui est frontend, devstral quand gpt oss me fourni pas un bon résultat.

gemma27b était pas mal non plus

Magistral (le dernier) est ok mais assez con et a du mal à suivre des instructions sur le long terme, je trouve mistral small limite mieux alors que magistral est une surcouche au dessus de mistral small.

Il y a beaucoup de hype autour de qwen que je trouve pas justifié, ce n'est pas un si bon modèle je trouve pour moi

Tu sens une diff entre gemma 12b et 27b ?

Je trouve dans son raisonnement que le 12b ce tient bien, mais dans mon cas le 12b inventait des fonctions qui n'existait pas par moment. Ou encore faisait des assignations à des const en javascript du coup j'ai arrêté assez vite de l'utiliser

P

en tout cas entre le 7 et le 12 la différence se fait nettement sentir.

Je confirme, gpt-oss est assez bon.
Idem, je trouve que mistral small est meilleur que magistrale.

Aprés je privilégie les modèles non censuré.
Mistral small a une censure, mais trés facilement contournable via des prompt jdr ou situationem, sinon j'utilise gemma-abliterated-27B de mlabonne.

Sans oublier que gemma a pour point fort d'étre capable de reconnaitre des images, via le bon mmproj ... Tu upload une image et il te dit ce que c'est.


Enfin, le meilleur test, c'est le test "Seigneur des anneaux", demande à ton modèle de citer les personnages du film.

Des LLMS porn ici ?