L’utilizzo dell’Intelligenza Artificiale (IA) in ambito scolastico richiede una supervisione costante da parte di un tutor umano, il quale ha il compito di monitorare i risultati generati dal sistema automatizzato e, se necessario, modificarli o annullarli. Questa misura è imposta dal regolamento europeo n. 2024/1689, che stabilisce l’obbligatorietà del controllo umano per i sistemi di IA considerati ad alto rischio, specialmente se impiegati nella valutazione degli studenti o nella gestione del personale scolastico.

Il regolamento europeo e le sue implicazioni

Le linee guida stabilite dal regolamento UE, in particolare dall’articolo 14 e dall’allegato III, definiscono l’importanza della supervisione umana nei contesti educativi e professionali. L’allegato III, nei punti 3 e 4, evidenzia come i sistemi di IA possano avere un impatto significativo nella formazione, nella selezione e nell’amministrazione del personale, rendendo indispensabile un attento monitoraggio per evitare rischi o conseguenze indesiderate.

L’adozione dell’IA in ambito scolastico non può essere trattata come una semplice scelta tecnologica: richiede una regolamentazione chiara e una struttura organizzativa adeguata che ne garantisca l’uso in modo sicuro ed efficace. L’impiego di strumenti di IA ad alto rischio, infatti, necessita di precise misure di controllo umano, come stabilito dall’articolo 14 del regolamento.

Perché è fondamentale la supervisione?

L’obiettivo principale di questa supervisione è prevenire o almeno ridurre al minimo eventuali rischi per la sicurezza, la salute e i diritti fondamentali delle persone coinvolte, in particolare studenti e docenti. La presenza di un supervisore consente di rilevare e correggere eventuali errori, anomalie o risultati inattesi generati dall’intelligenza artificiale.

Chi si occupa della supervisione deve avere le competenze necessarie per interpretare i dati prodotti dall’IA ed evitare un’eccessiva dipendenza dalle decisioni automatizzate. Il rischio, infatti, è che ci si affidi ciecamente ai risultati senza considerarne il contesto o le possibili implicazioni.

Il ruolo del supervisore

Il supervisore deve avere il potere di intervenire in qualsiasi momento, potendo decidere di ignorare, modificare o persino annullare le decisioni prese dall’IA. Inoltre, deve essere in grado di arrestare il sistema in caso di necessità, garantendo che il suo funzionamento avvenga sempre in condizioni di sicurezza.

L’intelligenza artificiale nella scuola

L’allegato III del regolamento stabilisce che l’IA potrà essere utilizzata nelle scuole per vari scopi, tra cui:

• Stabilire l’accesso e l’ammissione degli studenti a istituti scolastici e di formazione professionale.
• Valutare i risultati scolastici, influenzando percorsi di orientamento e assegnazione dei livelli di istruzione.
• Monitorare comportamenti scorretti durante esami e verifiche.

Anche nella gestione del personale scolastico, l’IA potrebbe avere un ruolo rilevante, ad esempio:

• Nei processi di selezione, valutazione e assunzione del personale.
• Nelle decisioni relative a promozioni, licenziamenti o assegnazione di incarichi basati su performance e comportamenti.

Chi è responsabile della supervisione?

Secondo il regolamento UE, il controllo umano sui sistemi di IA deve essere predisposto direttamente dall’ente che li utilizza. La scuola, quindi, ha l’obbligo di individuare figure con competenze adeguate, in possesso di formazione specifica e risorse sufficienti per gestire questa funzione (come stabilito dall’articolo 26, paragrafo 2 del regolamento).

Prima di implementare soluzioni di IA per scopi didattici o amministrativi, le istituzioni scolastiche devono garantire che il personale incaricato della supervisione sia adeguatamente preparato e consapevole delle proprie responsabilità.

Necessità di regolamenti interni

Per rendere operativo il controllo umano, ogni istituto scolastico deve adottare regolamenti interni chiari, definendo ruoli, responsabilità e criteri per l’eventuale revisione o modifica dei risultati prodotti dall’IA. Questo significa che le decisioni su ammissioni, valutazioni, incarichi o provvedimenti disciplinari non potranno essere lasciate interamente in mano agli algoritmi, ma dovranno sempre essere validate da personale competente.

L’integrazione dell’IA nel mondo scolastico offre grandi opportunità, ma solo attraverso un uso consapevole e regolamentato sarà possibile evitare rischi e garantire equità e trasparenza nel processo educativo.