Con l’IA la scuola ci deve insegnare a metterci la firma

da 24plus

Nel mondo caratterizzato dalla presenza dell’Intelligenza artificiale, è fondamentale che studenti e autori imparino a riconoscere, comprendere e assumersi la responsabilità critica dei contenuti prodotti anche con l’aiuto delle tecnologie digitali

Marco è uno studente di giurisprudenza con un elaborato da consegnare domani. Si connette a un chatbot, forse Chat GPT o Claude, descrive il caso, ottiene in pochi secondi tre pagine strutturate: inquadramento normativo, giurisprudenza, argomentazione. Il testo scorre bene, cita articoli del codice civile e sentenze della Cassazione. Marco modifica due frasi che considera troppo evidentemente in “stile IA”, rivede l’introduzione per renderla più contestuale, e consegna.

Dopo aver letto il testo, il professore può considerarlo un buon lavoro, adatto al livello del corso; oppure può trovare delle inesattezze, per esempio perché le sentenze citate esistono davvero, ma riguardano fattispecie diverse; o ancora può trovare il compito di livello talmente elevato da sembrare scritto da un avvocato esperto invece che da uno studente. Se nel primo caso la storia si conclude con un giudizio positivo che il professore comunica, negli altri due casi il professore chiede a Marco di discutere il lavoro. Lo studente non sa però argomentare né rispondere alle domande di chiarimento: non ha letto le sentenze e non sa spiegare perché il testo si appoggi proprio su quelle fonti.

Non abbiamo statistiche sulla frequenza con cui questi tre scenari si verifichino oggi, ma il punto che vorremmo discutere qui non è se, e nel caso quanto e come l’IA sbagli né se, al contrario, ci siano contesti disciplinari – la giurisprudenza nel nostro esempio – in cui l’IA abbia raggiunto le capacità degli studenti universitari o le abbia addirittura superate. Le differenze, pur ovviamente rilevanti, fra i tre scenari sono solo la punta dell’iceberg. Ciò che resta sotto la superficie è più sottile: in tutti e tre i casi, Marco ha prodotto non un contenuto che riconosce come proprio, ma un testo da consegnare. E la differenza dipende non dalla qualità del testo, buona o cattiva che sia, ma dalla relazione tra il produttore di un testo e il testo prodotto (e in questi termini la questione si potrebbe allora porre anche in riferimento ad altri generi di entità di informazione, come le immagini o il codice informatico). Il testo è formalmente di Marco, ma non lo è in senso epistemico, perché egli non lo ha verificato, non è consapevole dei suoi limiti, non lo ha compreso abbastanza da poterlo difendere: in definitiva, lo ha prodotto ma non lo conosce e non rispecchia una posizione che riconosce come sua.

Dato il modo con cui ha scelto di usare l’IA per produrre il testo, Marco ha effettivamente rinunciato a esercitare un giudizio, e quella rinuncia, silenziosa e che può rimanere invisibile – come nella situazione in cui il professore non nota nulla di anomalo –, è il cuore del problema che ci stiamo ponendo: perché porta con sé la rinuncia a esercitare in buona fede una responsabilità sul contenuto che si dichiara come proprio. In filosofia la si chiama responsabilità epistemica: la disposizione a chiedersi da dove viene un’informazione, se la si è davvero capita, se si è in grado di sostenerla, e quindi appunto se si è pronti ad assumersene la responsabilità di fronte agli altri.

La vicenda di Marco esemplifica situazioni che sono plausibilmente sempre più frequenti, e non solo nelle scuole e nelle università. Chiunque può ottenere, in pochi secondi e con un impegno assai limitato, una spiegazione di un fenomeno fisico, un riassunto di dottrina giuridica, una bozza di codice informatico, un’analisi storica, una traduzione di un testo in una diversa lingua. In molti casi, il costo cognitivo della produzione di contenuti si è praticamente azzerato.

La domanda che a questo proposito la diffusione di sistemi di IA sempre più sofisticati ci pone non è nuova: come un autore dovrebbe esercitare la propria responsabilità epistemica? E dunque, in particolare, come avrebbe dovuto comportarsi Marco?

La scelta di porre la questione dal punto di vista dell’autore, e dunque nel nostro caso dello studente, è cruciale. Certo, i docenti potrebbero vietare l’uso dell’IA, e operare per cercare di impedirlo, ma per qualche studente questo sarebbe solo un ulteriore problema da affrontare: non più solo come usare l’AI, ma prima ancora se decidere di provare a usarla comunque, e nel caso come cercare di aggirare il divieto in modo efficace. E in questa situazione qualche altro studente avrebbe delle buone ragioni per chiedere una spiegazione al docente: insegnare a esercitare la propria responsabilità epistemica non dovrebbe essere tra gli obiettivi di un’istituzione formativa? Non dovremmo perciò aspettarci che scuola e università insegnino a usare l’IA non solo in modo strumentalmente efficiente ma anche, appunto, responsabile? Vietare l’uso dell’IA non sarebbe perciò solo un modo per delegare questo compito ad altri? (e a chi altri, poi?) E qualche altro studente ancora potrebbe infine notare che plausibilmente l’IA avrà un ruolo importante nella sua vita, lavorativa e non solo, e che perciò sarebbe auspicabile che scuola e università contribuissero ad accompagnarci in un percorso di consapevolezza verso una vita che vivremo in una società coabitata con entità artificiali dal comportamento cognitivamente sofisticato.

La questione che ci stiamo ponendo è dunque tutt’altro che solo tecnica. È invece soprattutto culturale, anche considerando quanto l’autorialità, nelle sue varie forme a partire dal concetto stesso di proprietà intellettuale, sia importante oggi: essere epistemicamente responsabili significa prendersi cura delle proprie credenze e dei contenuti che produciamo e condividiamo con gli altri con la stessa serietà con cui ci si prende cura delle proprie azioni. In un mondo in cui le informazioni sono abbondanti, saper rispondere di ciò che si afferma è una competenza chiave.

La risposta educativa si è collocata finora soprattutto su uno dei due poli: o vietare del tutto l’IA, o insegnare a usarla diffidando della qualità dei risultati che produce. Quello che manca è più profondo: chi si preoccupa di far crescere nelle persone la capacità di rispondere responsabilmente delle proprie affermazioni? E dunque di chiedersi, prima di consegnare o pubblicare: questo è davvero sostenibile? lo conosco abbastanza da poterlo firmare? è proprio quello che penso?

Roderick Chisholm, in Theory of Knowledge (1977), ha caratterizzato questa attitudine addirittura in una prospettiva etica: i soggetti cognitivi hanno doveri nei confronti delle proprie credenze. Termini come “giustificato” e “irragionevole”, quando vengono applicati alle credenze, secondo Chisholm hanno lo stesso statuto normativo che assumono quando vengono applicati alle azioni. Non siamo responsabili solo di ciò che facciamo, ma anche di come formiamo e organizziamo in contenuti ciò che crediamo. Nell’epoca dei chatbot, questo principio non è un’astrazione filosofica: è la differenza tra Marco che consegna un testo e Marco che consegna il suo testo.

La responsabilità epistemica non è un’unica competenza, ma si realizza in una costellazione di pratiche: domande da porsi sistematicamente, come abitudine del pensiero. Ne commentiamo brevemente alcune, che non hanno in sé nulla di nuovo ma che con la diffusione dei chatbot potrebbero diventare ancora più importanti.

La gran parte delle informazioni che trattiamo ci è riportata da mediatori, e quella prodotta dai chatbot non fa eccezione: un chatbot non è un testimone diretto, a cui poter delegare in modo affidabile il controllo della correttezza dell’informazione che produce. La responsabilità del controllo rimane nostra, e dovremmo esercitarla con attenzione.

In accordo a una posizione ampiamente condivisa, la differenza tra scienza e pseudoscienza dipende dal metodo con cui le affermazioni vengono formulate ed esposte alla critica: la scienza non garantisce la verità dei suoi risultati, ma li giustifica in modo che chiunque può, in linea di principio, controllarli. Dovremmo essere analogamente consapevoli a proposito del lavoro co-prodotto con un chatbot: quali scelte rilevanti abbiamo fatto, cosa abbiamo accettato, cosa abbiamo verificato, cosa abbiamo scartato, e perché.

Un testo può essere formalmente adeguato senza essere stato interiorizzato. La responsabilità epistemica richiede che si possa dire onestamente: “ho capito ciò che sto affermando”. Marco non avrebbe potuto dirlo.

Un chatbot può produrre asserzioni su fatti, ipotesi, inferenze, raccomandazioni, anche nello stesso paragrafo, e non necessariamente con registri linguistici chiaramente distinti. Siamo consapevoli del tipo di comunicazione implicata dalla forma del contenuto che stiamo proponendo? È appropriato al destinatario e alla situazione?

La correttezza di un contenuto non può essere valutata con un criterio unico e universale, perché dipende anche dai criteri propri della disciplina in cui si opera. Ogni campo stabilisce infatti che cosa conta come prova, spiegazione, interpretazione o argomentazione valida. Per questo, chiedersi se un contenuto sia valido non in senso generico, ma secondo le regole del sapere specifico a cui si intende fare riferimento, è un aspetto importante della responsabilità epistemica.

Se non richiesto espressamente altrimenti, un chatbot potrebbe produrre testi con un registro assertivo uniforme, indipendentemente dal grado di incertezza dei loro contenuti, presentando come assodato ciò che potrebbe essere controverso e come documentato ciò che potrebbe essere solo plausibile. Ammettere che siamo incerti non è un’ammissione di debolezza: è onestà intellettuale.

Un testo generato con il supporto di un chatbot può essere corretto e tuttavia non coincidere con il nostro giudizio. In assenza di questo passaggio il rischio è l’alienazione cognitiva: presentiamo come nostro un risultato che non abbiamo condiviso. Vale anche in contesti tecnici: del codice informatico o un modello matematico possono essere formalmente corretti senza essere davvero assunti come propri da chi li presenta.

Anche un testo generato con il supporto di un chatbot può diventare un’occasione per riconoscere, sperimentare e affinare il proprio modo di comunicare. Dovremmo perciò chiederci se siamo riusciti a dare la nostra voce all’informazione che stiamo pubblicando: nel registro scelto, negli esempi, nella scelta dei termini, nelle connessioni tra le idee, nel modo di prendere posizione. E questo vale anche in contesti tecnici: del codice, una dimostrazione, un modello o un grafico dovrebbero riflettere il modo in cui decidiamo di spiegare, organizzare e rendere visibile il nostro pensiero.

Miranda Fricker ha mostrato che i sistemi di produzione della conoscenza non sono neutri (Epistemic Injustice – Power and the Ethics of Knowing, 2007): distribuiscono il credito epistemico in modo disuguale. I chatbot sono addestrati su corpora che inevitabilmente riflettono i profondi, storici squilibri della nostra società a proposito di lingua, cultura, genere, accesso alla scrittura digitale. Un testo può essere formalmente corretto pur contenendo pregiudizi e stereotipi. Chiedersi “chi resta fuori?” non è un’attività accessoria: è parte della valutazione.

Chi accetta acriticamente il testo di un chatbot non ha esercitato l’atto di assunzione di responsabilità che rende il testo epistemicamente suo. Un chatbot può partecipare alla generazione di un testo, ma non può sostituire il soggetto nell’atto finale di firmarlo e difenderlo.

Suggeriamo che la responsabilità epistemica, di cui abbiamo descritto qui solo alcuni aspetti, dovrebbe diventare oggetto di insegnamento. Con ciò, siamo consapevoli del rischio di ridurre tutto a una lista di compiti: verifica le fonti, documenta i prompt, controlla la validità, dichiara i limiti. Non è sbagliato, ma è insufficiente. Aristotele distingueva tra il sapere cos’è giusto e la virtù autentica, la disposizione stabile a farlo spontaneamente (Etica Nicomachea, II). Una virtù epistemica non è diversa: non basta sapere che si dovrebbe esercitare responsabilità epistemica; bisogna coltivare la disposizione a farlo anche quando è scomodo, anche quando il risultato è convincente, anche quando nessuno controlla. Anche quando si è Marco, la sera prima della consegna, e si spera che il professore “non si accorgerà di nulla”.

Inoltre, la responsabilità epistemica non può essere insegnata solo in modo trasversale. Deve essere appresa dentro le discipline, attraverso esempi, esercizi, discussione di casi, confronto con pratiche reali di validazione. I chatbot non eliminano il bisogno di formazione disciplinare: ci sollecitano a farlo evolvere.

Più i chatbot migliorano le loro prestazioni e la qualità dei contenuti che generano, più la scuola e l’università devono insegnare il valore sociale della firma dell’autore: non una semplice attribuzione di origine, ma l’assunzione di una responsabilità verso la comunità.