1. Préférence LLM

Préférence LLM et Configuration du Moteur

1. Préférence LLM

Ce menu connecte l'interface AnythingLLM au moteur d'intelligence artificielle.

• Fournisseur d'IA : Sélectionnez Ollama (pour une utilisation locale et privée).
• Modèle Ollama : Choisissez votre modèle (ex: Llama3, Mistral). C'est le "cerveau" qui va répondre.
• Fenêtre de contexte (Token Context Window) :
  Définition novice : C'est la mémoire à court terme de l'IA. Elle détermine combien de pages de documents l'IA peut lire et analyser en une seule fois pour répondre à une question.
  Réglage : 4096 (standard) ou 8192 (élevé). Attention, une valeur trop haute ralentit l'ordinateur.

2. Base de données vectorielle

L'endroit où vos documents sont stockés pour être retrouvés par l'IA.

• Choix : LanceDB.
• Définition novice : Contrairement à un dossier Windows classique, cette base range les textes par "sens" et non par nom de fichier. LanceDB est intégré par défaut dans AnythingLLM, ne nécessite aucun serveur externe et fonctionne totalement hors-ligne. C'est le choix de la sécurité.

3. Préférences d'intégration (Embedding)

Le processus de traduction des textes en langage machine.

• Fournisseur : Sélectionnez Ollama.
• Modèle d'intégration : Utilisez un modèle dédié comme nomic-embed-text.
  Définition novice : "L'embedding" transforme vos phrases en listes de chiffres (vecteurs). Cela permet à l'IA de calculer mathématiquement que le mot "Chien" est proche de "Animal".
  Attention : Ne pas utiliser le modèle de chat (Llama3) ici, mais un modèle spécialisé pour la recherche.

4. Diviseur de texte et découpage

Configuration de la manière dont l'IA découpe vos documents pour les lire.

• Taille du morceau (Chunk Size) : Environ 512 caractères. L'IA lit vos documents par petits paragraphes.
• Chevauchement (Chunk Overlap) : Environ 20%.
  Pourquoi ? Si une phrase importante est coupée entre deux morceaux, le chevauchement permet de la répéter pour ne pas perdre le sens.

5. Voix et Parole

La capacité de l'IA à "parler" (Text-to-Speech).

• Réglage : Native Browser TTS (Synthèse vocale du navigateur).
• Explication : Utilise la voix robotique déjà installée dans votre ordinateur. C'est gratuit, rapide et aucune donnée audio ne part sur Internet.

6. Modèle de transcription

La capacité de l'IA à vous "entendre" via le micro (Speech-to-Text).

• Réglage : Built-in Whisper (Xenova).
• Explication : AnythingLLM télécharge un petit module qui écoute votre voix et la transforme en texte directement sur votre processeur. C'est essentiel pour garantir que vos conversations orales ne soient pas enregistrées sur un serveur cloud (comme le ferait Siri ou Alexa).