Eventi>M8 - RAG ed Open WebUI
Open source ed LLM per dare vita a personaggi immaginari
Alfredo Morresi
(Google)
Lingua:
Italiano
Orario: 19:15
- 20:30
Stanco di chatbot generici? In questa sessione creeremo un AI agent con la personalità e la conoscenza del tuo personaggio dei film preferito.
- Partiremo dalla sua mente, eseguendo un LLM in locale, per ottenere la massima privacy e libertà d'uso (Ollama)
- Assembleremo il suo corpo, usando una chat UI flessibile e personalizzabile (Open-webUI)
- Gli daremo una conoscenza specifica, grazie ad un pizzico di RAG
- Infine, con il voice cloning, sempre eseguito in locale, proveremo a farlo parlare (openedai-speech)
Useremo solo strumenti open source e un pizzico di Docker.