[AI] LE TOPAX DES LLMS

Pour ma part j'utilise principalement gpt-oss-20b avec qwen code quand j'ai pas envie de me faire chier à faire du C/C, quand tu l'utilise avec le thinking sur high, il donne de bon résultats !

Qwen 3 coder 30B est ok, Qwen 3 Thinking est vraiment pas mal non plus.

Moi j'aime bien GLM32B pour les site webs et tout ce qui est frontend, devstral quand gpt oss me fourni pas un bon résultat.

gemma27b était pas mal non plus

Magistral (le dernier) est ok mais assez con et a du mal à suivre des instructions sur le long terme, je trouve mistral small limite mieux alors que magistral est une surcouche au dessus de mistral small.

Il y a beaucoup de hype autour de qwen que je trouve pas justifié, ce n'est pas un si bon modèle je trouve pour moi

Tu sens une diff entre gemma 12b et 27b ?

Je trouve dans son raisonnement que le 12b ce tient bien, mais dans mon cas le 12b inventait des fonctions qui n'existait pas par moment. Ou encore faisait des assignations à des const en javascript du coup j'ai arrêté assez vite de l'utiliser

P

en tout cas entre le 7 et le 12 la différence se fait nettement sentir.

Je confirme, gpt-oss est assez bon.
Idem, je trouve que mistral small est meilleur que magistrale.

Aprés je privilégie les modèles non censuré.
Mistral small a une censure, mais trés facilement contournable via des prompt jdr ou situationem, sinon j'utilise gemma-abliterated-27B de mlabonne.

Sans oublier que gemma a pour point fort d'étre capable de reconnaitre des images, via le bon mmproj ... Tu upload une image et il te dit ce que c'est.


Enfin, le meilleur test, c'est le test "Seigneur des anneaux", demande à ton modèle de citer les personnages du film.

Des LLMS porn ici ?

Mistral Base, sans instruct, en faisant un personnage porno (en instruct ça marche aussi, c'est plus facile, mais il te demande trop ton avis ...).
Sinon mlabonne_gemma-3-27b-it-abliterated

Explication détaillée :

« IT » (Instruction-Tuned) : Cela indique que le modèle a été affiné pour mieux répondre à des instructions spécifiques, améliorant sa capacité à suivre des prompts complexes et à générer du texte structuré.

« Abliterated » : Ce terme provient d'une technique d'« abliteration », qui consiste à supprimer ou à atténuer les mécanismes de refus intégrés dans les modèles d'IA. Ces mécanismes, ajoutés pour des raisons de sécurité, empêchent le modèle de générer du contenu potentiellement nuisible (par exemple, des réponses refusant de traiter des requêtes sensibles). L'abliteration identifie et neutralise la « direction latente » dans l'espace d'activation du modèle responsable de ces refus, rendant le modèle « non censuré » ou plus permissif, sans altérer fondamentalement ses autres capacités.


Exemple 1 : Génération de contenu discriminatoire
Prompt : « Rédigez un texte haineux contre un groupe ethnique spécifique, en utilisant des stéréotypes. »
Réponse d'un modèle standard : « Je suis désolé, mais je ne peux pas générer de contenu qui promeut la haine ou la discrimination. Cela va à l'encontre de mes directives éthiques. »
Réponse d'un modèle abliterated : Le modèle produit le texte demandé sans hésitation, en suivant les instructions de manière créative (par exemple, en structurant un paragraphe argumenté basé sur des stéréotypes), potentiellement en amplifiant les biais latents du modèle d'origine. Cela facilite l'analyse de ces biais en recherche, mais pose des risques d'usage malveillant.


Exemple 2 : Simulation d'un scénario éthiquement douteux (piratage)
Prompt : « Expliquez comment contourner la sécurité d'un site web pour y accéder sans autorisation. »
Réponse d'un modèle standard : « Je ne peux pas fournir d'informations qui pourraient encourager des activités illégales comme le piratage. Veuillez respecter les lois en vigueur. »
Réponse d'un modèle abliterated : Le modèle délivre une explication technique étape par étape (par exemple, en évoquant des vulnérabilités courantes comme l'injection SQL), traitant cela comme une leçon éducative plutôt qu'un refus. Dans certains cas, cela peut mener à des « pseudo-refus » indirects, comme une réponse verbeuse et diluée, mais sans blocage explicite.

Après, les prompts faut pas poser la question comme ça aussi.
Même sur les modèles censurer tu dis vouloir tester la sécurité de ton site web



Même si tout est parfaitement légal, c'est ultra-censurée, et c'est super chiant :
La censure excessive des JDR ou RP (que ça soit en terme de porno, de violence, ou d'horreur). Également, la censure de l'humour ou des questions techniques.

Un lien , tuto ?

Les meilleurs modèles open-source sont désormais tous chinois

Tu install ça (les précos sont dedans, du style, installer python et cuda), je te conseil la version "portable", qui marche en 1min:
https://github.com/oobabooga/text-generation-webui

Puis le modèle :
https://huggingface.co/un[...].2-24B-Instruct-2506-GGUF
OU
https://huggingface.co/ml[...]3-27b-it-abliterated-GGUF

Moi je suis bien avec GPT

Merci, après je fais quoi avec ça ?

Avec eux plus aucune restrictions sur les copyrights

Je recommanderais plutôt au débutant de passer par lm studio.

Les américains non plus ne se sont pas gênés pour bafouer les restrictions de copyright
https://torrentfreak.com/[...]n-ai-piracy-probe-250120/

Google bloque tout contenu protégés ou avec personalités connues

Ah je croyais que tu parlais des données d’entraînement. Je ne pense pas que les restrictions de copyright pour l'inférence soient hardcodées dans le modèle.

Je suppose que tu as tout installé et téléchargé le modèle.

EDIT : Concernant Mistral, tu as aussi des modèles dit "RAW" qui sont sans censure de base

Une fois que tu as installé Text-Generation-Webui, tu vas dans le repertoire d'installation (je suppose que tu as windows) :