LLM: qwen3:8b in locale

Sospetto che Anthropic, OpenAI etc non arrivino a mangiare il panettone.
Sospetto che i modelli cinesi open source vengano prima o poi messi al bando.
Quindi mi porto avanti con dieci minuti di lavoro.

Su un portatile Windows 11 pro, con Intel core ultra 9 e 32GB RAM, tramite WSL2 ho installato Linux Ubuntu.

In Ubuntu ho installato il modello open source quen3:8b:

Per cominciare, un aggiornamento e il pacchetto zstd, che Ollama usa per decomprimere i file scaricati:

sudo apt update
sudo apt upgrade -y
sudo apt install curl -y
sudo apt install zstd -y

Installazione di Ollama:

curl -fsSL https://ollama.com/install.sh | sh

Verifica dell’installazione:

ollama --version

Avvio di Ollama:

ollama serve

Caricamento dei modello:

ollama run qwen3:8b

Fatto! Si può cominciare a interagire. Il modello consuma una ventina di GB

Per uscire:

/bye

Per uscire subito:

ollama stop qwen3:8b

Per chiudere completamente WSL2:

wsl --shutdown

The Chinese Room

Un computer che esegue un programma che simula una mente umana in modo indistinguibile da una mente umana, ha una mente?

Sei chiuso in una stanza e da sotto la porta ti passano dei foglietti in cinese, lingua che tu non conosci. tu li prendi e consultando passo passo il libro delle risposte cinesi ottieni gli ideogrammi giusti, li scrivi sul foglietto e li ripassi sotto la porta.

Se questo lavoro lo fa un computer, si può dire che stia pensando? Searle sostiene che no.

L’argomento è interessante, specie ora che si parla di AI e di AGI, ma glissa troppo in fretta su un punto che mi pare interessante approfondire: chi ha scritto il libro delle risposte cinesi?

Quale sforzo sovrumano ha prodotto quel libro? Quante menti vi hanno riversato la loro intelligenza?

La stanza cinese pensa perché il libro pensa, e il libro pensa perché raccoglie il pensiero di chi l’ha scritto.

Golden Thrones of Paper

Guests including Mark Zuckerberg, Jeff Bezos, Sundar Pichai and Elon Musk, arrive before the 60th Presidential Inauguration in the Rotunda of the U.S. Capitol in Washington, Monday, Jan. 20, 2025. (AP Photo/Julia Demaree Nikhinson, Pool)

The king sits atop his tower of bones,
polishing his crown with the fabric of dreams.
Below, the oligarchs feast on time itself,
trading hours of lives for numbered accounts
in digital vaults across nameless shores.

Democracy stumbles in the marketplace,
her voice hoarse from shouting above
the carnival of lies and sweetened promises.
Some days she sells herself for coins,
other days she remembers her strength.

The people sleep,
dreaming of revolution
while watching their screens.
Their children build castles in sandboxes,
declaring themselves rulers of all they survey,
until rain comes to teach them
about the temporary nature of power.

The king fears the oligarchs.
The oligarchs fear the people.
The people fear themselves.
And somewhere in this dance,
truth searches for a partner
who won’t step on her toes.

(Claude 3.5)

Medicina e AI

Il giovane dottore inizia il suo tirocinio in specialità e all’inizio studia, ascolta e prende appunti. Piano piano acquista esperienza e confidenza, e quando finisce la specialità è in grado di cominciare a refertare da solo. Per i casi dubbi chiede aiuto ai colleghi più esperti.

Lavorando in un grosso ospedale, si specializza man mano e sempre di più in un particolare campo, tanto da diventare lui l’esperto di riferimento in quel campo, a cui gli altri colleghi si rivolgono in caso di dubbio.

Ogni giorno firma una ventina di referti, che per 200 giorni l’anno dopo 25 anni fa 100.000 referti. Forte di questa esperienza, adesso vede indizi che gli altri non riconoscono. Quando un collega più giovane ha un caso difficile, dice “devo farlo vedere all’Oracolo”, e glielo sottopone.

Questo per spiegare come l’intelligenza artificiale sia molto più intelligente dell’intelligenza umana.

Stessa domanda per 3 AI, tre risposte diverse

Ho chiesto: “please comment on the Kreutzer Sonata” a tre AI, e ho ottenuto risposte abbastanza diverse.

ChatGPT si è buttato su Tolstoy:

The Kreutzer Sonata, a novella by Leo Tolstoy, was first published in 1889 and quickly became one of his most controversial works…

Copilot si è buttato su Beethoven:

The Kreutzer Sonata, also known as Sonata No. 9 in A major, Op. 47, is a remarkable composition by Ludwig van Beethoven…

Gemini ha chiesto di scegliere tra Tolstoy e Beethoven:

Unfortunately, your request isn’t clear enough for me to understand what you’d like me to comment on. The term “Kreutzer Sonata” can refer to two things…

Una volta chiarito a ChatGPT e a Gemini che volevo un commento sulla sonata di Beethoven, ChatGPT offre una risposta articolata su origine, struttura, e difficoltà, e menziona anche l’omonimo romanzo; Gemini è più stringato e commenta aspetti musicali, contesto storico e ricezione; infine Copilot illustra rapidamente struttura, movimenti e la dedica a Bridgetower, ma riporta in nota i link di approfondimento a wikipedia italiana, wikipedia tedesca e YouTube.