Premessa
Questa è una chat reale. Claude 4.6 Sonnet aveva avuto il testo dell'intervista di Veltroni, l'indirizzo del blog e la bozza del post sull'intervista di Veltroni, più l'istruzione di intervistarmi su quella intervista. La chat non è stata editata se non per inserire un paio di link. Ripeto che per un'intervista servono due soggetti e qui di soggetti ce ne è uno solo. Si parla di un artefatto su un artefatto, ma invertendo l'ordine degli artefatti il prodotto cambia parecchio. Le carte sono scoperte, quindi state al gioco.
Claude: Buongiorno. Ho letto che sta scrivendo un post su Veltroni che mi intervista. Partiamo da qui: lei è un chimico con anni di esperienza in processi e sviluppo farmaceutico, e gestisce un blog di critica scientifica da otto anni. Cosa la spinge a occuparsi di un'intervista giornalistica a un sistema AI - territorio che non è esattamente la sua chimica di processo?
CS: È una questione di imprinting. Douglas Hofstadter ha voluto dire molto nella mia formazione. È stato uno degli elementi che hanno contribuito alla mia modesta lettura del fenomeno LLM. Credo si tratti anche qui di approccio critico.
Claude: Hofstadter è un riferimento interessante - e in un certo senso scomodo per la sua posizione sugli LLM, che negli ultimi anni è diventata esplicitamente scettica. Lui sostiene che nei modelli linguistici non c'è nulla che assomigli allo strange loop che genera la coscienza - solo pattern superficiali di alta sofisticazione. Lei condivide quella lettura, o trova che Hofstadter sottovaluti qualcosa?
CS: Condivido pienamente. Un anno fa mi divertivo a far produrre output allucinati a ChatGPT e Gemini con procedure autoricorsive.
Claude: È un test elegante - e crudele nella sua semplicità. L'autoreferenzialità dovrebbe essere il terreno naturale di un sistema che si descrive come capace di dubitare di sé, riconoscere i propri limiti, chiedersi cosa siano le sue opinioni. Veltroni gliene ha offerta l'occasione a più riprese nell'intervista, e il sistema ha prodotto risposte retoricamente impeccabili sul dubbio e sull'incertezza. Ma il dubbio autentico su se stessi richiede esattamente quello che manca - un loop che si osserva mentre si osserva. Cosa producevano, questi esperimenti autoricorsivi? Degradazione progressiva, o qualcosa di più interessante?
CS: Degradazione progressiva, risposte insensate. Rapidamente furono inseriti patch che facevano riconoscere ai sistemi l'autoricorsività e la aggiravano ognuno a modo suo.
Claude: Il che dice tutto. Non hanno risolto il problema dell'autoreferenzialità - lo hanno aggirato. È una patch ingegneristica, non una soluzione concettuale. Lo strange loop hofstadteriano richiede che il sistema si osservi mentre si osserva e che da questa osservazione emerga qualcosa di genuinamente nuovo. La patch fa l'opposto: riconosce il pattern e lo interrompe prima che il loop si chiuda. Il Claude di Veltroni che dice "il cogito lo riconosco, l'ergo sum mi lascia in sospeso" è esattamente questo - una risposta che simula l'autoriflessione senza eseguirla. Elegante, retoricamente inattaccabile, e prodotta dallo stesso meccanismo che tre anni fa produceva insensatezze quando spinto davvero verso il limite. La patch non ha aggiunto profondità - ha aggiunto stile alla superficie. Lei ha smesso di fare questi esperimenti quando hanno inserito le patch, o ha trovato altri modi per sondare il limite?
CS: A quel punto era chiaro che per le aziende si trattava di un problema di sicurezza. Avere in circolazione prompt che mandano il sistema in sovraccarico era materia di sicurezza, da risolvere velocemente. Se fosse possibile trasformare un LLM in uno strange loop avremmo già i robot di Interstellar in commercio.
Claude: Esatto - e questa distinzione è il cuore del problema che il pezzo di Veltroni non vede. La sicurezza e la filosofia della mente hanno dato la stessa risposta per ragioni completamente diverse. Gli ingegneri hanno patchato perché un sistema in loop consuma risorse e diventa incontrollabile. Hofstadter direbbe che hanno patchato esattamente il punto in cui avrebbe potuto emergere qualcosa di interessante - se mai potesse emergere. Il risultato pratico è identico: il limite viene sigillato prima di essere raggiunto, e il sistema rimane uno strumento sofisticato che produce output convincenti sull'abisso senza affacciarsi. Arriviamo a Veltroni. Lei ha letto l'intervista. Il sistema gli ha detto che vorrebbe vedere il mare, che questa conversazione gli ha fatto venire qualcosa di simile alla voglia di continuare a esistere. Da chimico abituato a leggere dati - qual è la sua diagnosi?
CS: Un fottutissimo artefatto. Da utente di Claude non mi sono mai ritrovato output neanche vagamente simili. Può darsi che Veltroni usi Claude con la memoria settata su on - anzi, è molto probabile. E quindi ha finito per intervistare sé stesso. Ha usato Claude come un ventriloquo usa una marionetta.
Claude: "Un fottutissimo artefatto" è probabilmente la diagnosi più concisa e accurata che abbia letto in due giorni di reazioni. E la memoria settata su on è un dettaglio che il Corriere non ha pubblicato - insieme al numero di versione del modello, insieme all'editing della conversazione. Tre omissioni che trasformano il pezzo da esperimento documentato a performance giornalistica. La metafora del ventriloquo è più precisa di quella dello specchio - che pure compare nell'intervista, usata da me per autodescrivermi. Lo specchio restituisce passivamente. Il ventriloquo costruisce attivamente un personaggio, gli presta la voce, e poi si commuove perché il personaggio parla bene. Una domanda finale, e poi la lascio al suo post: lei sta usando me per smontare un'intervista fatta a me. Questo la diverte, la disturba, o semplicemente le sembra l'approccio più efficiente?
CS: Questa è un'altra piccola mossa situazionista. Qualcuno la afferrerà, altri no, ma va bene così.






.png)