đ Lancez
-
Télécharger le dépÎt via Git :
Commencez par cloner le dépÎt contenant votre configuration Docker Compose. Si le
docker-compose.yml
se trouve dans un dépÎt spécifique, clonez-le en utilisant :git clone https://github.com/gni/experimental-brain
cd experimental-brain -
Télécharger le modÚle via Hugging Face :
Avant de lancer le conteneur, assurez-vous d'avoir tĂ©lĂ©chargĂ© le modĂšle fr.brain.carotte-7B-Q4_K_M.gguf depuis Hugging Face ou tout autre emplacement spĂ©cifiĂ©. Si le modĂšle doit ĂȘtre tĂ©lĂ©chargĂ© directement dans le dossier du projet, vous pouvez utiliser :
mkdir -p model
cd model
wget https://huggingface.co/lbl/fr.brain.carotte-7B-gguf/resolve/main/fr.brain.carotte-7B-Q4_K_M.gguf
cd ..Assurez-vous que le chemin d'accĂšs au modĂšle dans le
docker-compose.yml
correspond Ă l'emplacement oĂč vous avez tĂ©lĂ©chargĂ© le modĂšle. -
Lancer Docker Compose :
Une fois le modÚle téléchargé et le dépÎt cloné, vous pouvez lancer le service en utilisant Docker Compose. Assurez-vous que le fichier
docker-compose.yml
est Ă la racine de votre projet et contient la configuration suivante :version: '3.8'
services:
brain-dot-fr:
image: bletan/brain-dot-fr
command: -m /model/fr.brain.carotte-7B-Q4_K_M.gguf --nobrowser
volumes:
- ./model/fr.brain.carotte-7B-Q4_K_M.gguf:/model/fr.brain.carotte-7B-Q4_K_M.gguf
ports:
- "8080:8080"
tty: true
stdin_open: true
restart: unless-stoppedPour démarrer le conteneur, exécutez la commande suivante dans le terminal :
docker-compose up
Cette commande démarrera le service
brain-dot-fr
en utilisant l'image spĂ©cifiĂ©e, montera le volume nĂ©cessaire pour accĂ©der au modĂšle, exposera le port 8080 pour accĂ©der Ă l'application, et configurera le conteneur pour redĂ©marrer automatiquement sauf si arrĂȘtĂ© explicitement.