Aller au contenu principal

🏁 Lancez

  1. Télécharger le dépÎt via Git :

    Commencez par cloner le dépÎt contenant votre configuration Docker Compose. Si le docker-compose.yml se trouve dans un dépÎt spécifique, clonez-le en utilisant :

    git clone https://github.com/ioluc/experimental-brain
    cd experimental-brain
  2. Télécharger le modÚle via Hugging Face :

    Avant de lancer le conteneur, assurez-vous d'avoir tĂ©lĂ©chargĂ© le modĂšle fr.brain.carotte-7B-Q4_K_M.gguf depuis Hugging Face ou tout autre emplacement spĂ©cifiĂ©. Si le modĂšle doit ĂȘtre tĂ©lĂ©chargĂ© directement dans le dossier du projet, vous pouvez utiliser :

    mkdir -p model
    cd model
    wget https://huggingface.co/lbl/fr.brain.carotte-7B-gguf/resolve/main/fr.brain.carotte-7B-Q4_K_M.gguf
    cd ..

    Assurez-vous que le chemin d'accĂšs au modĂšle dans le docker-compose.yml correspond Ă  l'emplacement oĂč vous avez tĂ©lĂ©chargĂ© le modĂšle.

  3. Lancer Docker Compose :

    Une fois le modÚle téléchargé et le dépÎt cloné, vous pouvez lancer le service en utilisant Docker Compose. Assurez-vous que le fichier docker-compose.yml est à la racine de votre projet et contient la configuration suivante :

    version: '3.8'
    services:
    brain-dot-fr:
    image: bletan/brain-dot-fr
    command: -m /model/fr.brain.carotte-7B-Q4_K_M.gguf --nobrowser
    volumes:
    - ./model/fr.brain.carotte-7B-Q4_K_M.gguf:/model/fr.brain.carotte-7B-Q4_K_M.gguf
    ports:
    - "8080:8080"
    tty: true
    stdin_open: true
    restart: unless-stopped

    Pour démarrer le conteneur, exécutez la commande suivante dans le terminal :

    docker-compose up

    Cette commande dĂ©marrera le service brain-dot-fr en utilisant l'image spĂ©cifiĂ©e, montera le volume nĂ©cessaire pour accĂ©der au modĂšle, exposera le port 8080 pour accĂ©der Ă  l'application, et configurera le conteneur pour redĂ©marrer automatiquement sauf si arrĂȘtĂ© explicitement.