LLM: qwen3:8b in locale

Sospetto che Anthropic, OpenAI etc non arrivino a mangiare il panettone.
Sospetto che i modelli cinesi open source vengano prima o poi messi al bando.
Quindi mi porto avanti con dieci minuti di lavoro.

Su un portatile Windows 11 pro, con Intel core ultra 9 e 32GB RAM, tramite WSL2 ho installato Linux Ubuntu.

In Ubuntu ho installato il modello open source quen3:8b:

Per cominciare, un aggiornamento e il pacchetto zstd, che Ollama usa per decomprimere i file scaricati:

sudo apt update
sudo apt upgrade -y
sudo apt install curl -y
sudo apt install zstd -y

Installazione di Ollama:

curl -fsSL https://ollama.com/install.sh | sh

Verifica dell’installazione:

ollama --version

Avvio di Ollama:

ollama serve

Caricamento dei modello:

ollama run qwen3:8b

Fatto! Si può cominciare a interagire. Il modello consuma una ventina di GB

Per uscire:

/bye

Per uscire subito:

ollama stop qwen3:8b

Per chiudere completamente WSL2:

wsl --shutdown