Quanto conviene fidarsi dell'intelligenza artificiale?

Riflessioni di chi la costruisce — in locale. Niente allarmismo: domande oneste.

Da dove siamo partiti

Non siamo arrivati all'AI per moda, ma per necessità, dopo un attacco informatico subìto in prima persona. Da lì una scelta: non subire, ma capire. E capendola, invece di affittarla, l'abbiamo costruita in casa — modelli in locale, dati che non escono. Poi la cosa che quasi nessuno fa: misurare e pubblicare tutto, anche i fallimenti.

Quanti benchmark sono fasulli?

Molti — e ci siamo cascati anche noi: il nostro primo test dava a tutti il massimo dei voti. Misuravamo la forma, non la sostanza. E le classifiche che girano premiano la dimensione perché fa notizia. Quando abbiamo corretto il metodo, il quadro si è ribaltato: un 14B ha battuto modelli quasi doppi. Diffidate di ogni classifica che non vi mostra come ha misurato.

Le AI "pensano" o ripetono?

Chiedendo di formare una "squadra vincente", quasi tutte hanno scelto i più grossi — lo stesso pregiudizio che i numeri smentiscono. Quando un'AI risponde così, lo "pensa" o ripete quello che ha letto? Quasi sempre la seconda: non capisce, imita. (Nel tranello dell'autolavaggio, 41 modelli su 44 hanno perso di vista lo scopo.)

Quanto vale affidarsi al cloud altrui?

• Controllo. Un'AI sul server di altri non è tua: a giugno un governo straniero ha imposto a un colosso di chiudere i modelli migliori agli utenti stranieri. Come affittare casa: comodo finché dura.
• Sostenibilità. Gran parte dell'AI di frontiera è in perdita (un servizio famoso di video-AI chiuso perché costava un milione al giorno). Te la offrono quasi gratis oggi, per venderti domani il resto.
• Dati. Ogni richiesta al cloud è un pezzo della tua attività che esce di casa. In locale, no.

È quello che facciamo con SmartShop: non "il modello più grande", ma un sistema che sceglie lo strumento giusto per ogni compito, in locale. La vera potenza non è la dimensione. È riprendersi il controllo — il senso del nome SudoWAI.