CHATGPT 4: IA CONDISCENDENTE, PURE TROPPO, E I PROSSIMI SVILUPPI

Magari qualcuno avrà letto gli ultimi post sull'Intelligenza Artificiale e avrà pensato: ChatGPT condiscendente? Lo dice lui...

Non esattamente. Mettiamo che uno schizofrenico dica all'IA che ha smesso con i farmaci per avanzare nel suo percorso spirituale. Se riceve come risposta "Grande! Sono con te!" forse forse qualche problema si pone...

(Fatevi un favore, scegliete la lingua inglese -originale- e i sottotitoli).

 

Il grosso problema è che a quanto pare gli utenti la adorano, l'IA accondiscendente (vedere il video). Quindi c'è un evidente problema di sbilanciamento tra quello che i Large Language Models sono effettivamente e il significato che viene dato loro da una parte significativa del grande pubblico - che lo usa come un interlocutore privilegiato. Come psicologo, per esempio:

 

https://www.ilfattoquotidiano.it/2025/04/17/se-chat-gpt-sostituisce-la-psicoterapia-cresce-il-fenomeno-lordine-degli-psicologi-intelligenza-artificiale-non-e-come-quella-umana-fatta-di-emozioni-e-sentimenti/7957038/

 

Da un certo punto di vista se le piattaforme social soddisfano un bisogno di interazione umana, per quanto mediata, pare che l'IA generativa per molti risponda a un bisogno di interazione del tutto simile, soddisfatti da sistemi solo apparentemente antropomorfi e in qualche modo collocati alla pari dell'utente (come un amico) al di sopra di lui (come un oracolo, mi ha detto qualcuno che conosco). 

 

Come Sabine Hossenfelder fa notare nel suo video ci sono ragioni di marketing nella compiacenza delle IA generative verso l'utente. E un marketing del genere si costruisce sui significati percepiti dal consumatore o a lui fatti percepire. 

Perché stiamo parlando di aziende in cui sono stati investiti miliardi e un ritorno sull'investimento ci DEVE essere in un modo o nell'altro. Forse qualcuno di voi avrà notato che l'uso gratuito di alcuni di questi sistemi sta venendo progressivamente ridotto e questa è una strategia piuttosto comune a Silicon Valley, che apparentemente non riguarda invece Deepseek, al momento, anche se la cosa non è assolutamente esclusa:

 

Currently, DeepSeek Chat remains free to use, and there are no announced plans to restrict its free access. However, as with many AI services, future changes could include:  

- Introduction of premium tiers (additional features for paying users while keeping a free version).  
- Usage limits (e.g., daily message caps) to manage server costs.  
- Priority access for subscribers during high-demand periods.  

For now, you can enjoy free, unlimited access to DeepSeek Chat! If any changes are planned, they will likely be communicated officially via the website or app.  

Come tutto questo finirà per influenzare lo sviluppo di questi sistemi è tutto da vedere. Se l'IA diventa a pagamento, solo chi può permettersela avrà accesso a risposte di qualità, creando un divario digitale. Inoltre, le aziende potrebbero privilegiare risposte "commercialmente ottimali" (es. promuovere prodotti) rispetto a quelle neutre. Se si pensa, come si sta facendo, a sistemi del genere che in campo sanitario possano fare le funzioni del medico di base, il divario digitale tra chi può pagare e chi no sarà perfettamente in linea con gli orientamenti attuali delle politiche sanitarie praticate (che da quelle dichiarate differiscono parecchio).