AI E TUTTO IL RESTO

https://www.youtube.com/watch?v=fxiHM11w-rk

 

Beh, era facile capirlo. Mi ricordo quello che faceva addestrare l'AI da chimici medicinali per ottenere AI che avrebbe sostituito i chimici medicinali. questa cosa era di fatto la ragione sociale di Benevolent AI e quel che ne è venito fuori NON è stato un successone (https://www.fiercebiotech.com/biotech/benevolentai-makes-deep-cuts-after-midphase-flop-laying-180-and-shrinking-lab-footprint). Già scritto, è la sottile linea che divide gli attrezzi utili dalle black box magiche  Ma del resto il sogno del capitale di avere mano d'opera non conflittuale e a basso costo (i robot) è stato sostituito dalla realtà in cui si ha mano d'opera non robotica e non conflittuale a basso costo - e il capitale non ha abbastanza ringraziato i sindacati, del resto la natura del capitale non è dare, ma prendere. Prendere? Rapinare, in effetti, mi ricordo qualcosa del genere scritto da Pierluigi Sullo una ventina e passa di anni fa su Il Manifesto. Poi si è arrivati alla Rangieri. Tristissima parabola. I quotidiani comunisti, in Italia, di fatto sono morti da qualche parte negli anni 90. Un capitolo chiuso, in teoria, che è sopravvissuto a sé stesso, in ginocchio. E vorrei far notare che la posizione "in ginocchio" non si addice gran che a un quotidiano che insiste a definirsi comunista.

Comunque ritorniamo a AI e dintorni, riprendo ancora una volta Sara Gandini:

È indubbio che siano strumenti utili ma i rischi che vedo sono vari. Ne elenco alcuni per poi approfondire alcuni aspetti.

Un primo aspetto importante da ricordare è che per usare questi strumenti la realtà deve essere trasformata in un dato binario. Ogni informazione deve essere codificabile, e le persone, le malattie, le cure, tutto quello che accade nella relazione tra medico e paziente, la storia dei pazienti… tutto deve essere riducibile ad un dato bidimensionale immagazzinabile per poter essere codificato e analizzato e questo ovviamente porta ad una riduzione della realtà che lascia fuori l’imprevisto dell’umano, la soggettività, l’inconscio, l’eros, la magia delle relazioni.

Si perde qualcosa quindi ma accelerano i calcoli e questo attira molti ricercatori che a mio parere si affidano alle macchine come scorciatoia per pensare, come se bastasse schiacciare un bottone per comprendere il significato nascosto di grandi quantità di dati, senza bisogno di studiare criticamente la letteratura scientifica. Con l’AI ci si affida alle macchine per dare risultati che spesso ad esempio sono semplici correlazioni scambiate per legami causali, di causa ed effetto, perché non c’è tempo per ragionare sui disegni di studio, sulle fonti di bias e confondimento e capire cosa affettivamente quel singolo studio è in grado di dire e cosa no.

Si chiede alle macchine di pensare al nostro posto, perché chi usa senso critico rallenta il processo e non è funzionale.

L’abbiamo visto anche durante la pandemia in cui i dati scientifici venivano portati come verità assolute. Abbiamo sentito dire frasi come “qui parlano i dati”, ma i dati non parlano da soli, si tratta sempre di interpretazioni di risultati che dipendono dalle conoscenze e dall’esperienza dei ricercatori e delle ricercatrici.

E così sempre più ci si affida all’intelligenza artificiale come un qualcosa di magico, di salvifico, di oggettivo, con l’illusione che le macchine potenti e infallibili, ci portino verso verità neutre e imparziali.

Ma se si parla così tanto dell’AI in questo momento è anche dovuto al fatto che attira enormi capitali in ogni ambito, dagli psicologi ai biologi, ai medici, tutti stanno investendo su queste tecnologie. Ora ad esempio sempre più spesso si sente parlare di ospedale virtuale come di una realtà che si avvicinerebbe al paziente, visto che non ci sono finanziamenti per i servizi territoriali. La telemedicina viene in soccorso, senza bisogno di spostarsi, di vedersi in presenza, di toccare i corpi dei pazienti.

(https://www.sinistrainrete.info/articoli-brevi/25852-sara-gandini-intelligenza-artificiale-implicazioni-etiche-e-politiche.html?highlight=WyJnYW5kaW5pIl0=)

Sullla libidine per la black box software, Deus Ex Machina, neanche a farlo apposta, avevo scritto due scemenze qualche giorno fa (https://ilchimicoscettico.blogspot.com/2023/07/software-chimica-e-molto-altro.html). Ma del resto viviamo in un mondo in cui nel 98% dei casi il pensiero critico (secondo alcuni l'unico pensiero) ha abdicato all'hype - e da sempre le ragioni dell'hype sono solo due: soldi o potere o tutte e due.