Tuto IA (LLM) : le patch de février 2024

Mise à jour du dossier qui vous propose d'installer et utiliser votre propre interface avec un modèle de langage sur votre appareil, sans dépendre des services en ligne...

❤️ Patreon
💬 Discord
💻 techcafe.fr

• Ce qui n'a pas changé, ou juste un min-p.

Top modèles

• Mistral et ses dérivés, Mixtral, Miqu, et Yi, l’outsider venu de Chine.
• LLAVA et le multimodal.
• Qwen, Orion, Phi2, Deepseek et les autres.
• Les “Frankenmerges” : Solar, Goliath, c’est du lourd.
• Retrouvez tout ça ici, où là en gguf.

Nouveautés logicielles

• Les formats : c’est pire qu’avant, évidemment.
• LM Studio a son serveur, idéal pour Open Interpreter.
• Jan l’alternative open source et Ollama.
• RAG doll : GPT4All a un atout caché !
• Koboldcpp et Sillytavern, l’alternative weeb mais surpuissante.
• Fine tuning artisanal : les Lora sur Oobabooga.
• Llamacpp : serveur, et finetune sur CPU.

Participants

• Une émission préparée par Guillaume Poggiaspalla
• Présenté par Guillaume Vendé