Intelligenza  artificiale              a scuola

Nell’Agenda mese CISL Scuola di aprile 2023 avevo proposto una prima riflessione su “Attualità frontiere e limiti dell’intelligenza artificiale (AI)”. Vorrei ora focalizzare meglio le implicazioni dell’AI su scuola e contesto educativo. 

​

L’AI è generalmente identificata con la capacità delle macchine di pensare e agire come fanno gli esseri umani. Ma è proprio così? 

​

Solo in parte. Un bambino impara cos’è un cane osservandone una serie di esemplari e ottenendo conferma dagli adulti quando indica un quadrupede con “Cane” o “Bau”. Se di fronte ad una pecora dice “Bau”, il genitore prontamente lo corregge. Più tipi di cane ha modo di osservare e più la sua idea diventa precisa. Ebbene, anche l’AI impara in modo molto simile a questo. 

​

L’esempio evidenzia quindi che l’affidabilità degli ADMS (Algorithmic Decision Making Systems), ossia gli algoritmi addestrati a prendere decisioni in modo autonomo, è strettamente relata alla vastità, accuratezza e rilevanza scientifica dei materiali, sulla cui base si “formano le loro idee”. Ciò fa capire anche che possono farsene di sbagliate e che addirittura possono essere appositamente addestrati a formarsi delle idee false e potenzialmente pericolose. 

​

Teniamo comunque presente che un ADMS potrebbe formarsi un’idea di cane molto più precisa di quella del bambino, ma nulla avrebbe a che vedere con l’emozione che si vive nella relazione con il cane, anche se fosse addestrato a riconoscere i segnali esterni delle emozioni del cane. 

La suddetta apparente neutralità dell’AI, ma che può invece nascondere imprecisioni e falsità, viene indicata come mathwashing. Le cronache raccontano di ADMS utilizzati per creare video, audio e immagini falsi, quanto estremamente realistici, noti come deepfake, che possono avere effetti molto dannosi, più di quanto si possa solo immaginare. 

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

Ciò premesso, a seguito dei crescenti investimenti miliardari, soprattutto in Cina e negli USA, dobbiamo imparare a convivere con l’AI e acquisire le competenze necessarie per gestirla positivamente. È una partita che deve vedere necessariamente in prima linea la scuola. 

Gli insegnanti devono essere formati su come educare gli studenti a conoscerla, capirla e dominarla, nonché sui principi etici che la devono regolare. 

​

L’AI può essere utilizzata a scuola in una vasta gamma di contesti. 

Matthew Lynch esamina un'ampia gamma di argomenti in un articolo intitolato 26 modi in cui l'intelligenza artificiale sta trasformando l'istruzione in meglio1. Per esempio: software di tecnologia avanzata, assistenti e tutor robot, istruzione individualizzata e personalizzata, simulazioni di scenari e case study, sistemi di analisi e di orientamento, varie forme di valutazione e molto altro ancora. 

​

Tra i possibili benefici, particolare attenzione è dedicata alle applicazioni che permettono di personalizzare l’apprendimento, anche grazie all’utilizzo di sistemi di riconoscimento delle espressioni facciali. Vedi ad esempio la piattaforma Knewton che consente di monitorare i progressi di apprendimento e di adeguare costantemente le proposte e la qualità dei contenuti ai ritmi ed agli interessi degli studenti. Un funzionamento molto simile lo offre anche la piattaforma Watson Education, approntata da IBM. 

​

Uno dei rischi più evidenziati dalla ricerca è invece quello del pregiudizio. 

Come dicevo, infatti, l’AI si crea una conoscenza in base ai materiali che le sono messi a disposizione. Se essi contengono dei pregiudizi, tali pregiudizi guidano il suo comportamento e gli output che restituisce. Ad esempio, una ricerca del National Bureau of Economic Research ha comprovato che un algoritmo utilizzato in USA per prevedere il rischio di abbandono degli studenti attribuiva maggiori possibilità di insuccesso agli afroamericani, anche quando costoro avevano dei curricula migliori dei colleghi bianchi. 

​

Un altro fattore di rischio è la mancanza di trasparenza, perché è difficile risalire ai presupposti dai cui derivano le conclusioni a cui pervengono i sistemi di AI. 

Come evidenziato in occasione dell’arrivo in Italia della Chat GPT, una questione delicata è quella della tutela della privacy. Le grandi quantità di dati raccolti sugli studenti, sensibili e non, necessari agli algoritmi per poter operare, sono infatti direttamente proporzionali al rischio che possano essere usati in modo improprio o ceduti ad altri, che potrebbero farne un uso scorretto. Preoccupa anche il fatto, come sperimentato per le banche dati dei social, che i dati siano oggetto di furto. È già accaduto con la piattaforma Edtech Chegg, che conteneva informazioni su centinaia di migliaia di studenti. 

​

C’è inoltre il fondato rischio che gli studenti sfruttino a dismisura l’intelligenza esterna messa loro a disposizione, con ciò non implementando, o addirittura indebolendo, le proprie competenze in termini di problem solving. È un po’, ma con effetti che potrebbero essere molto più dannosi, quello che è accaduto in passato con l’uso anomalo di altre tecnologie che hanno inibito il calcolo mentale: ormai si mette mano allo smartphone anche per elementari operazioni aritmetiche. Le neuroscienze hanno infatti acclarato che il nostro cervello muta e diventa più potente solo se si mantengono attive le competenze apprese, altrimenti ciò che sapevamo fare si indebolisce o si perde. Pur non avendo infine alcuna simpatia per la paura ossessiva della scuola che gli studenti copino, è poi evidente come l’alettante offerta messa a disposizione da strumenti come la chat GPT, capace di “fare ricerca” al posto tuo, diventi (e sia già in parte diventata) una facile “istigazione a delinquere”. 

​

In conclusione, è fondamentale ed irrinunciabile sostenere un costante e progressivo intervento di alfabetizzazione digitale, al fine di conoscere l’AI ed imparare ad interagire correttamente con essa, e ciò non può prescindere da un pronto e mirato intervento formativo rivolto agli studenti e, ovviamente, prima ancora agli insegnanti. 

​

​

​

​

​

1 "26 Ways That Artificial Intelligence Is Transforming Education For The Better", The Tech Edvocate, 30 gen. 2019