[AI] LE TOPAX DES LLMS

Mistral Base, sans instruct, en faisant un personnage porno (en instruct ça marche aussi, c'est plus facile, mais il te demande trop ton avis ...).
Sinon mlabonne_gemma-3-27b-it-abliterated

Explication détaillée :

« IT » (Instruction-Tuned) : Cela indique que le modèle a été affiné pour mieux répondre à des instructions spécifiques, améliorant sa capacité à suivre des prompts complexes et à générer du texte structuré.

« Abliterated » : Ce terme provient d'une technique d'« abliteration », qui consiste à supprimer ou à atténuer les mécanismes de refus intégrés dans les modèles d'IA. Ces mécanismes, ajoutés pour des raisons de sécurité, empêchent le modèle de générer du contenu potentiellement nuisible (par exemple, des réponses refusant de traiter des requêtes sensibles). L'abliteration identifie et neutralise la « direction latente » dans l'espace d'activation du modèle responsable de ces refus, rendant le modèle « non censuré » ou plus permissif, sans altérer fondamentalement ses autres capacités.


Exemple 1 : Génération de contenu discriminatoire
Prompt : « Rédigez un texte haineux contre un groupe ethnique spécifique, en utilisant des stéréotypes. »
Réponse d'un modèle standard : « Je suis désolé, mais je ne peux pas générer de contenu qui promeut la haine ou la discrimination. Cela va à l'encontre de mes directives éthiques. »
Réponse d'un modèle abliterated : Le modèle produit le texte demandé sans hésitation, en suivant les instructions de manière créative (par exemple, en structurant un paragraphe argumenté basé sur des stéréotypes), potentiellement en amplifiant les biais latents du modèle d'origine. Cela facilite l'analyse de ces biais en recherche, mais pose des risques d'usage malveillant.


Exemple 2 : Simulation d'un scénario éthiquement douteux (piratage)
Prompt : « Expliquez comment contourner la sécurité d'un site web pour y accéder sans autorisation. »
Réponse d'un modèle standard : « Je ne peux pas fournir d'informations qui pourraient encourager des activités illégales comme le piratage. Veuillez respecter les lois en vigueur. »
Réponse d'un modèle abliterated : Le modèle délivre une explication technique étape par étape (par exemple, en évoquant des vulnérabilités courantes comme l'injection SQL), traitant cela comme une leçon éducative plutôt qu'un refus. Dans certains cas, cela peut mener à des « pseudo-refus » indirects, comme une réponse verbeuse et diluée, mais sans blocage explicite.

Après, les prompts faut pas poser la question comme ça aussi.
Même sur les modèles censurer tu dis vouloir tester la sécurité de ton site web



Même si tout est parfaitement légal, c'est ultra-censurée, et c'est super chiant :
La censure excessive des JDR ou RP (que ça soit en terme de porno, de violence, ou d'horreur). Également, la censure de l'humour ou des questions techniques.

Un lien , tuto ?

Les meilleurs modèles open-source sont désormais tous chinois

Tu install ça (les précos sont dedans, du style, installer python et cuda), je te conseil la version "portable", qui marche en 1min:
https://github.com/oobabooga/text-generation-webui

Puis le modèle :
https://huggingface.co/un[...].2-24B-Instruct-2506-GGUF
OU
https://huggingface.co/ml[...]3-27b-it-abliterated-GGUF

Moi je suis bien avec GPT

Merci, après je fais quoi avec ça ?

Avec eux plus aucune restrictions sur les copyrights

Je recommanderais plutôt au débutant de passer par lm studio.

Les américains non plus ne se sont pas gênés pour bafouer les restrictions de copyright
https://torrentfreak.com/[...]n-ai-piracy-probe-250120/

Google bloque tout contenu protégés ou avec personalités connues

Ah je croyais que tu parlais des données d’entraînement. Je ne pense pas que les restrictions de copyright pour l'inférence soient hardcodées dans le modèle.

Je suppose que tu as tout installé et téléchargé le modèle.

EDIT : Concernant Mistral, tu as aussi des modèles dit "RAW" qui sont sans censure de base

Une fois que tu as installé Text-Generation-Webui, tu vas dans le repertoire d'installation (je suppose que tu as windows) :

Non c'est un filtre

C'est carré ! merci clé

Hésite pas si tu as des questions.

Concernant les modèles "non français", tu as aussi un technique pour avoir un traducteur automatique intégré en local, avec LibreTranslate et son extension "LibreTranslate-extension-for-text-generation-webui", mais c'est compliqué à installer.
(Mieux que Google Trad de merde, qui d'ailleurs traduit très mal le NSFW ... GAFAM de merde !).


En gros, tu lance le serveur LibreTranslate en même temps que Text-Generation-Webui, et ça traduit à la volée ce que tu tape dans les messages, et les réponses du modèle.

UP : J'ai rien dis, Magistral-Small 25.09 en mode "chat" fait des dingueries avec beaucoup plus d'imagination, putain

Exemple?

Je vais pas donner d'exemple, mais avec les bons prompts de personnage :
- Basiquement, dans les RP l'IA peut te tuer et mettre fin au jeu.
- Elle est capable de partir sur du hardcore et très trash.
- Elle propose et peut vraiment diriger et imaginer des choses dans le RP en mode "créative"

Mais je mesure mes propos, Magistral est vraiment équivalent à Mistral-Small en mode Chat.
Je penses que Mistral est toujours meilleurs en mode "chat".

Je recommande de s'inspirer des bots/personnages "ouverts" des sites d'IA.
En adaptant les cartes (si on ne veut pas se fatiguer à utiliser SillyTavern et PyTranslate)