Ricerca · Parte 3 · SudoWAI Livorno

Fondere i modelli, e farli lavorare in squadra

Un esperimento onesto — anche nei fallimenti.

La flotta: due computer meglio di un supercomputer

La nostra tesi è che il valore non è nella macchina più potente, ma nel sistema che usa bene le risorse. L'abbiamo messa in pratica: due computer normali che collaborano in rete. Uno (una RTX 3060) fa orchestrazione e compiti in tempo reale; l'altro, in un'altra stanza e collegato in modo sicuro e cifrato, macina i modelli grossi.

Il risultato pratico: mentre un computer faceva una parte della ricerca, l'altro ne faceva un'altra. Due notti di lavoro in una. Nessun data center, nessun cloud: due macchine, in due stanze, che si passano il lavoro.

È il modello che portiamo ai clienti: non un unico "cervellone", ma una squadra di nodi, ognuno col suo compito — e domani anche computer modesti, recuperati, possono aggiungersi come nodi specializzati.

Fondere i modelli: dare nuove abilità

La seconda idea: invece di scegliere un modello, fonderne due in uno solo — mescolarne le "sinapsi" per combinare le competenze. L'equivalente di dare a un cuoco anche le ricette di un pasticcere: nuove abilità, senza diventare più lento.

Cosa è andato storto (e perché lo raccontiamo)

Qui la ricerca aperta mostra il suo valore: pubblichiamo anche i fallimenti. Il primo tentativo di fusione è degenerato — i modelli fusi producevano testo incomprensibile, mentre i "genitori" funzionavano bene. Il motivo: i due modelli parlavano la stessa lingua ma con dizionari leggermente diversi, e mescolarli confondeva il risultato.

E poi ha funzionato

Corretto il tiro — fondendo due modelli con lo stesso identico dizionariola fusione è riuscita. Il modello fuso risponde pulito e corretto. Alla domanda "cos'è un gestionale per un negozio?" ha risposto: "un sistema informativo che permette di gestire i processi amministrativi e commerciali, come l'inventario, le vendite, i pagamenti e la contabilità."

E possiamo perfino vedere le sinapsi: la mappa qui sotto mostra, per ogni strato del cervello fuso, a quale modello-genitore somiglia di più. Non è un disegno — è calcolata dai pesi reali.

Mappa sinaptica del modello fuso

La lezione: fondere i modelli si può fare — ma non a caso: serve la ricetta giusta e strumenti stabili. Noi ve l'abbiamo raccontata con il fallimento e poi con il successo, dati alla mano. Chi ti promette solo trionfi, di solito, non ha mai davvero provato.

Noi non vendiamo fumo: proviamo, misuriamo, sbagliamo, correggiamo — e mettiamo tutto in chiaro.

Scopri SmartShop I dati su GitHub
SudoWAI — Livorno. AI in locale, senza Big Tech.