avec 24Gb de VRAM tu peux meme faire tourner des modèles d'ia textuelle de volume 70b quant avec oobabooga
J'y arrive avec mon épave
Text-generation-Webui avec Wizard-Vicuna-30B-Uncensored-GGUF-Q4_K_M en ayant tout optimiser, sans rien faire tourner ... J'ai 4 mots par secondes !
Text-generation-Webui avec Wizard-Vicuna-30B-Uncensored-GGUF-Q4_K_M en ayant tout optimiser, sans rien faire tourner ... J'ai 4 mots par secondes !
Mon propos est imaginaire et fictif, il n'implique donc aucun fait ou élément réel et toute ressemblance serait fortuite
Sponsorisé
Connectez-vous pour masquer les pubsDisons les termes :
En 2023, l'IA est la seule chose qui justifie l'achat d'une machine de guerre !
En 2023, l'IA est la seule chose qui justifie l'achat d'une machine de guerre !
Mon propos est imaginaire et fictif, il n'implique donc aucun fait ou élément réel et toute ressemblance serait fortuite
J'en ai entendu parler, c'est peut-être le moment de voir ce que ca donne, avec le modele XL 
Surtout pour le face swap (j'utilise automatic 1111 + controlnet et extension ReActor Force actuellement)
Surtout pour le face swap (j'utilise automatic 1111 + controlnet et extension ReActor Force actuellement)
La sainte bibliothèque du Saint Cul:
ça ne marche pas sur une 1060 je pense ?
J'y arrive avec mon épave
Text-generation-Webui avec Wizard-Vicuna-30B-Uncensored-GGUF-Q4_K_M en ayant tout optimiser, sans rien faire tourner ... J'ai 4 mots par secondes !
Text-generation-Webui avec Wizard-Vicuna-30B-Uncensored-GGUF-Q4_K_M en ayant tout optimiser, sans rien faire tourner ... J'ai 4 mots par secondes !
sur du 70b quant je tape du 30 tokens par seconde
ça écrit 3x plus vite que je ne peux y lire
ça écrit 3x plus vite que je ne peux y lire
