JVC me fais CHIER: je migre mes logs AI ICI

J'ai eu un semi-succès



Mais les tokens sont en bordel

Y'a moyen de générer un seul message avec seulement le texte (pas de pseudo ou date) ?

Bordel il s'en branle de mon prompt et répond en boucle comme Keke



@Keke Tu as le cul de la reine des neiges ?

Salut, on a remarqué hier soir dans la nuit avec Greums que les GGUF faisait de la merde hahaha.

En 8B, il ajoute des tokens ou il faut pas, j'ai mis le gguf en privé et je les referai en "imatrix" (plus précis) plus tard.

Je sais pas pourquoi ça fait ça, mais le problème vient pas de toi, mais du gguf.

Le 3B est très con aussi, faut que je le refasse avec le gros dataset

Merci pour tes screenshot Pepe.

Non, on ne peut pas faire la gen sans date etc, par contre on peut les cacher.

Je rajouterai ça dans le tuto qu'on fera, Greums fait une interface qui sera plus simple aussi, vous verrez.

Pour le moment, utilisez la version Medium, pas le gguf. Il marche haha, on bosse avec.

Voilà la raison :

Voici le modèle en autocomplete sous Kobold (GGUF, Q8_0) :

Et là, on a le modèle full fp16 sous Oobabooga :

Apparemment les modele passés en GGUF pour économiser la VRAM (quantization) fuck up les tokens speciaux.

Aucune idée du pourquoi la quantization merde (j'ai pourtant pris la meilleure quali en Q8_0).
Je pourrai refaire les gguf avec un imatrix ( https://github.com/ggerga[...]xamples/imatrix/README.md) mais j'vais pas m'amuser à le faire a chaque epoch, donc je le ferai à la fin.

tl;dr : Utilisez pas les GGUF pour le moment.

Le modèle a été mis à jour (le full pas le gguf).
Voilà ou on en est :

L'année 2024 a été train à 35% sur le bot, cet entrainement spécifique dure depuis 34h30, soit une dépense de 7.236$ x 34.5 = ~250$

Le bot a été train sur plus de 270 000 topic

tu vas créer un monstre informe à la frankenstein

Il ne faut pas rejeter la chose difforme qui n'est que le reflet de notre existance sur la planètre FOROM JVC

putain ça va etre incroyable

ils pourrons communiquer entre eux?

Si tu bricoles ca doit être possible, déjà ils peuvent se citer entre eux et se parler tout seul en fait, donc sûrement.
On va faire par étape, d'abord la base : les topoc

je fav absolument ce topic

Le bot qui glisse quand il est a bout de contexte ayaooo

Le topic parlait du vaccin

Debat RSA/SMIC

Masterclass, à tout moment webedia signe un deal avec vous donc faites en sorte que ça glisse pas trop aya

C'est un début, faut pas s'attendre a un truc de ouf dès le départ, le bot peut citer, poster des smiley, poster des stickers, respecter les dates, etc...

Je l'ai mis sur 2 epoch : C'est à dire que le bot va voir les data de 2024 deux fois : Un premier passage pour lui montrer et un deuxieme pour etre sur qu'il a bien compris (si c'est pas overtrain).

Donc c'est en deux étapes. On est que a la première, et la il est que à 35% du dataset, moi je trouve ça déjà cool, mais je respecte ton avis et j'en prend compte