Désactiver le mode de réflexion dans les modèles locaux Ollama
1. Pourquoi désactiver le mode de réflexion
Quand vous exécutez une requête IA, vous voulez juste avoir la réponse et pas le prélude de réflexion. Je suppose que c'est le cas la plupart du temps.
⚠️ Économisez du temps & des ressources
Cela vous fera gagner du temps (le temps d'afficher le processus de réflexion) et donc des ressources de calcul.
2. Comment supprimer le mode de réflexion dans Ollama CLI
2.1 Dans l'invite
ollama run <nom_du_modèle>
>>> /set nothink
Set 'nothink' mode.
>>>
2.2 En exécutant le modèle avec l'option hidethinking
ollama run --hidethinking <nom_du_modèle>
2.3 En exécutant le modèle avec l'option think
ollama run --think <option_pensée> <nom_du_modèle>
Où <option_pensée> peut être true/false ou high/medium/low selon les modèles.
💡 Version d'Ollama
La version d'Ollama est 0.20.2
Conclusion
Une petite astuce pour améliorer votre utilisation quotidienne d'Ollama et de l'IA locale.