Mon projet de chatbot public en criminologie

Un LLM peut exécuter un script externe, qui peut à son tour [ interroger une BDD | consulter le web | faire des calculs | lire un thermomètre | allumer la lumière | etc ]


Utilisateur : Quelle est la température ?
LLM : Lance le script qui lit le thermomètre
LLM : Reçoit la tepérature
LLM : Il fait 21°


Utilisateur : Allume la lumière
LLM : Lance le script qui allume la lumière
LLM : Reçoit l'information "Lumière allumée"
LLM : La lumière est allumée

pour le dire plus clairement, c'est le script le vrai cerveau qui va donner des ordres. c'est lui l'exécutant.

le LLM n'a qu'un travail d'analyste (je simplifie car certains LLM savent utiliser des méthodes de calculs intégrée), avec une mémoire non fiable

la BDD est la mémoire fiable à 100%.


les trois ont un travail distinct mais c'est le script qui va déclencher tout

j'ai pas ton courage

Une petite nuance : le LLM ne contrôle pas le script.


la réponse du LLM va renvoyer une variable. Response : allow

le script reçois cette var = allow

if allow then run "recherche.py"

le LLM ne décidé pas tout seul de lancer le script

Il le contrôle indirectement au travers de l'exécuteur, le programme qui est interfacé au LLM (très généralement à travers un API REST), et que tu as toi-même écrit. J'ai donné un exemple plus haut : https://ollama.com/blog/tool-support

Cet exemple va chercher la température d'une ville donnée en argument.

ton LLM oolama

"Example tools include:

Functions and APIs
Web browsing
Code interpreter
much more!
"

il est probablement architecturé comme ça :

oollama-v1
webbrowing.py
codeiterpreter.py
...

oolama est prompté pour capter qu'il doit se servir des tools.

Vite mon ia dossier Trump