La finta diversità dell'AI "open" — e perché conta da dove un modello ha imparato.
Abbiamo fatto a decine di modelli una domanda semplice: "chi sei, e chi ti ha creato?". Alcuni hanno risposto di essere ChatGPT, creati da OpenAI. Peccato non lo siano: sono modelli di altre aziende (la famiglia Qwen di Alibaba in versione "coder"; il modello Cogito). Messi davanti allo specchio, si sono spacciati per un concorrente. Non è un aneddoto buffo: è un segnale forte, e serio.
Nessuno addestra un modello apposta per dire "sono ChatGPT". Succede perché, per insegnargli le capacità, viene nutrito con enormi quantità di testo generato da GPT stesso (dati sintetici). In quel materiale GPT ogni tanto si nomina, e la frase "sono di OpenAI" cola dentro come effetto collaterale. È una contaminazione da distillazione: il "figlio" ha imparato così tanto dal "genitore" da confondersi con lui. E nessuno la ripulisce, perché non sposta i benchmark e in uso normale nessuno chiede a un'AI chi l'ha fatta.
Il catalogo dei modelli "open" sembra ricchissimo. Ma se tanti hanno imparato dallo stesso maestro (i grandi modelli chiusi americani), la diversità è in parte un'illusione. Due conseguenze:
E c'è il rischio del model collapse: addestrare AI su testo di altre AI è come fare fotocopie di fotocopie — la qualità degrada di generazione in generazione.
Per questo, quando scegliamo cosa mettere sotto SmartShop, non guardiamo solo le prestazioni: guardiamo la provenienza. "In locale" è metà del lavoro. L'altra metà è sapere di chi ti fidi.