Trattare di Intelligenza Artificiale applicata alla vita quotidiana è un tema immenso; è uno strumento che utilizziamo sempre di più anche per ricevere dei consigli. Tuttavia, nel momento in cui li riceviamo, quanto può essere definita libera la decisione che viene presa dopo? Quanto è prestabilita da un ventaglio di opzioni che vengono date dal sistema stesso?
Alessia Sarrica, redattrice
Per circoscrivere il tema può essere utile partire dal concetto di bias di autorità, che si manifesta anche quando interagiamo con sistemi LLM (n.b. Large Language Model, modello linguistico di grandi dimensioni come Gemini, Chat GPT). Ci sono diversi casi di cronaca interessanti: nel 2025, per esempio, un uomo è finito in ospedale per un’intossicazione da bromuro dopo aver chiesto a un’IA come sostituire il sale, senza specificare in quale contesto volesse farlo. Non ha consultato il sistema in modo critico né ne ha messo in discussione la risposta: ha semplicemente eseguito il suggerimento. Questo comportamento può dipendere da molte cose, anche da una semplice inconsapevolezza, ma probabilmente entra in gioco anche il bias di autorità: l’idea che, se un sistema ci suggerisce qualcosa, debba possedere strumenti sufficientemente accurati da rendere quel consiglio affidabile. Tendiamo, cioè, ad attribuire alle IA una competenza contestuale e un’autorevolezza superiori a quelle che realmente hanno.
Esiste quindi una tensione costante: quando conosciamo poco un sistema, siamo più portati a cedere alla sua apparente autorità e lo facciamo perché questi strumenti sono progettati per avvolgerci, metterci a nostro agio e rendere naturale l’interazione. Luciano Floridi, filosofo che si è occupato del tema, faceva l’esempio dei primi robot aspirapolvere, piuttosto tonti e inclini a urtare gli ostacoli: chi dice che, anziché migliorare la macchina, non finiremo per strutturare le case in funzione dei suoi movimenti? È la tecnologia che deve adattarsi a noi o siamo noi a doverci adattare alla tecnologia? Il confine è molto sottile. Già oggi tendiamo a modificare gli spazi sulla base degli strumenti che utilizziamo. Il problema diventa ancora più insidioso quando questa disposizione riguarda sistemi molto più sofisticati, progettati per coinvolgerci e apparire neutrali, anche se la neutralità tecnica non esiste. È un tema anche di letteratura, non so se avete seguito il caso Tlon su Ipnocrazia…
Esmeralda Moretti, divulgatrice filosofica
Tempo fa noi abbiamo intervistato Maura Gancitano e abbiamo parlato anche di questo: è diventato un caso mondiale e di studio un po’ in tutto il mondo, diventando quasi un palinsesto della scrittura contemporanea nonostante sia stato scritto con l’IA.
Alessia Sarrica, redattrice
E lì si pone il problema del limite, cioè in che misura quel prodotto è stato co-creato? Perché poi parlare di co-creazione è complicatissimo, già un libro scritto a quattro mani in che misura l’ho scritto io e in che misura l’hai scritto tu? E già lì è problematico, figurarsi quando dentro c’è un sistema che ha dei problemi legati al corpus di testi su cui è stato addestrato; quindi, si può introdurre un problema di copyright di forma, di stile… Non credo che ci sia una risposta, bisogna essere molto consapevoli del fatto che è un problema attuale enorme e che riguarda tutti gli aspetti della nostra vita. Anche la leggerezza con cui noi spesso interpelliamo questi sistemi di AI per dinamiche che riguardano la nostra vita professionale lavorativa, privata, fornendo i nostri dati sensibili, pur di avere una sorta di rassicurazione esterna che rischia sempre di scivolare nel bias di conferma –in quella dinamica per cui nel momento in cui io ho una tesi, quindi ho litigato con il mio fidanzato, e sono convinta di avere ragione allora esponendo le mie ragioni, cerco di far di tutto per giustificare la mia visione e il sistema sarà il più delle volte portato ad assecondarmi. E questo è proprio un bias dello strumento stesso che è portato ad assecondare il fruitore per motivi di interfaccia, di rapporto con l’utente, che hanno a che fare con gli stessi motivi per cui l’algoritmo di Instagram mi consiglia il video che a me interessa di più.
Esmeralda Moretti, divulgatrice filosofica
Prima hai tirato in ballo la notizia dell’uomo che ha cucinato con il bromuro di sodio; un tuo parere, se un algoritmo sbaglia, premettendo che nel caso dell’uomo magari ha sbagliato lui a non specificare le circostanze, chi ha la responsabilità di quell’errore?
Pasquale Bruno, redattore
In etica applicata questo viene definito il problema delle molte mani. Se pensiamo ad esempio ai veicoli autonomi, una realtà complessa da regolamentare, di fronte a una collisione inevitabile in cui da un lato c’è un bambino e dall’altro un anziano, l’auto sarà costretta a colpire uno dei due. In una situazione del genere, chi scegliereste?
Esmeralda Moretti, divulgatrice filosofica
L’anziano ha già fatto quello che doveva fare [ride].
Pasquale Bruno, redattore
Magari è lo stesso signore del bromuro [ride]. Quando pongo questa domanda nelle scuole in un contesto occidentale, tutti rispondono che sarebbe più corretto salvare il bambino. Eppure, se ci spostassimo in Cina, dove l’anzianità è vista come fonte di sapienza, la risposta sarebbe opposta: meglio salvare l’anziano. Tutto dipende dal background culturale, che finisce per riflettersi anche nella regolamentazione. La vera difficoltà sta nel fatto che è impossibile avere un approccio del tutto sovraculturale. Quando poi si tratta di individuare un colpevole, le cose si complicano ulteriormente. Bisogna capire come funziona quel sistema specifico, dove è stato progettato e con quali dati è stato addestrato. Se prendiamo il caso di un’arma autonoma che commette un errore e, per esempio, colpisce la persona sbagliata, risalire la catena causale diventa un’impresa impossibile. Ci troviamo di fronte a uno scenario in cui la responsabilità è frammentata: c’è chi ha progettato lo strumento, chi doveva effettuare i controlli di sicurezza, il militare che ha premuto il comando, a sua volta esecutore di un ordine superiore… Si innesca una sequenza in cui è impossibile distribuire le colpe in modo proporzionato, anche a livello giuridico. Il problema delle molte mani rischia così di risolversi in un nulla di fatto: alla prova dei fatti tutti hanno un 5%, un 10% o un 20% di responsabilità, ed è quasi impossibile attribuire una colpa definitiva. Risultato? Finisce che non è colpa di nessuno. A questo si aggiunge il profondo bisogno umano di individuare sempre un responsabile, che è poi la base su cui poggia l’intero nostro sistema di giustizia. Il problema delle molte mani evidenzia proprio questa incompatibilità con i nostri meccanismi giudiziari. È un aspetto a cui non pensiamo mai: come si fa ad assegnare la colpa quando a sbagliare è un sistema di intelligenza artificiale? Certo, potremmo dire che la colpa è del sistema stesso, ma non funzionerebbe processare il modello. E poi, anche ammettendo che la colpa sia del modello… cosa ce ne facciamo dopo?
Esmeralda Moretti, divulgatrice filosofica
Stacchi la spina del server [ride]. In effetti, c’è un problema nell’assegnare la responsabilità, però è anche vero che queste decisioni vengono prese perché vengono richieste, vengono poste delle domande all’IA e le vengono delegati dei compiti. A questo punto, quali decisioni possiamo delegare all’IA e quali non dovremmo?
Pasquale Bruno, redattore
Non lo so, è un tema molto profondo, anche perché l’etica è sempre contestuale. Alcuni Paesi hanno avanzato provocazioni come quella della prima ministra AI, ed è bene che restino provocazioni. Esiste infatti un filone politico secondo cui gli algoritmi sarebbero decisori più imparziali, quasi super partes, ma questo non può essere vero in senso assoluto, perché ogni algoritmo è comunque il risultato di un addestramento. Io sono convinta che la politica debba restare una cosa umana, così come i sentimenti. La regola generale secondo me è fare di questi strumenti un uso il più possibile attivo, non delegante ma dialogante, utile per il confronto, il brainstorming e la ricerca di spunti.
Esmeralda Moretti, divulgatrice filosofica
Cambiando registro, quale sarà secondo voi l’IA futura?
Alessia Sarrica, redattrice
Ma tu stai facendo questa domanda a una super appassionata di letteratura distopica. Più che come si svilupperanno i modelli – perché potranno solo migliorare dal pov delle prestazioni – credo che si apriranno altri scenari che noi dobbiamo fronteggiare subito se non vogliamo veramente creare un mondo di disparità economiche immense in cui ci sono disequilibri così grandi da risultare poi invivibile. Sarebbe necessario un lavoro di regolamentazione reale, effettivo, che aiuti la ricerca. Adesso ci sono un sacco di regolamentazioni molto verticali sui bias, che rispondono alla provenienza dei dati, la loro estrazione e gestione. Io non sono troppo ottimista, vedo che c’è una grande corsa alla ricerca e questo è bene, ma anche un grande washing di posizionamento etico da parte delle big tech.
Io credo che il mercato non si autoregoli e quindi è qui che dovrebbero intervenire le istituzioni, perché adesso credo sia il momento di regolamentare tutto quello che sta accadendo. Rischiamo di andare verso un clima di disparità così tanto esasperate che non avrà nemmeno più senso chiedersi dove arriverà l’IA. La mia paura è che strumenti così potenti, se non gestiti democraticamente, possano sfuggire al controllo dei sistemi democratici. Ma c’è anche il rischio opposto: regolamentarli troppo potrebbe rallentare i Paesi democratici rispetto a quelli autoritari, che questi vincoli non li hanno. Quindi il punto è capire come conciliare una ricerca che corre velocissima con i tempi più lenti, e diversi, delle democrazie.
Esmeralda Moretti, divulgatrice filosofica
Per me ci vorrebbe un grande sforzo immaginativo e collettivo tra gli stati per poter cercare di mettere dei limiti, dei paletti. Ho una visione grigia e catastrofica e non credo nemmeno che l’umanità sia capace di autoregolarsi così bene.
Pasquale Bruno, redattore
Secondo me hai ragione, il problema è che non investiamo nella riflessione sulla regolamentazione futura. I comitati etici spesso arrivano tardi, quando le tecnologie sono già diffuse, e solo allora si comincia a pensare a come gestirle. Così ci ritroviamo improvvisamente con strumenti nuovi, senza aver sviluppato prima ipotesi concrete di regolamentazione. È un limite che si vede spesso in Europa, ma in realtà riguarda più in generale il modo in cui percepiamo e affrontiamo l’innovazione tecnologica.
Esmeralda Moretti, divulgatrice filosofica
Io sono anche abbastanza pessimista. Io mi approccio non approcciandomi all’AI, nel senso che sono consapevole dell’impigrimento, e cerco di limitare tantissimo il mio utilizzo personale. Anche dal punto di vista etico, mi chiedo che senso abbia che io faccia questo lavoro, se poi chiedo tutto il tempo consiglio a un computer. Io faccio l’illustratrice perché voglio comunicare emozioni, cose, quindi non lo so, per il futuro sono un po’ preoccupata, sinceramente.
Luna Ronco, illustratrice
È possibile che il settore creativo sia uno dei pochi a salvarsi? I contenuti prodotti dall’AI sono spesso riconoscibili perché raffazzonati, lineari e privi di quel guizzo capace di rendere davvero incisivi un testo, un’immagine o una storia. È vero che, con indicazioni precise, si possono eliminare molti segnali evidenti dell’intervento dell’AI, ma resta spesso una creatività derivativa, costruita su materiali già esistenti e poco capace di sorprendere. Inoltre, sta emergendo una reazione culturale di rifiuto e quando un contenuto viene etichettato come prodotto dall’IA, tende a essere percepito in modo negativo, anche quando, in realtà, potrebbe avere un valore estetico tutt’altro che trascurabile.
Pasquale Bruno, redattore
Ti direi assolutamente sì, anche se forse dipende molto dalle bolle in cui ci troviamo, perché tra le persone creative che frequento c’è un rifiuto diffuso, ma poi certi prodotti realizzati con l’AI vengono comunque venduti e acquistati. C’è chi, davanti alla sovrabbondanza di immagini artificiali, propone un ritorno alla carta e ai media tradizionali, ma presto potremmo non riuscire più a distinguere ciò che è stato creato da una persona da ciò che è stato generato da una macchina. Quello che forse continuerà a fare la differenza è la connessione umana, anche quando i clienti arrivavano in studio con immagini prodotte dall’AI, chiedevano comunque a una persona di rifarle, perché cercavano ancora una mano, un’interpretazione e un rapporto umano.
Luna Ronco, illustratrice
