15/06/2022 – La commissione CULT ha votato questa mattina il parere AI Act. I deputati hanno concordato un elenco aggiornato di applicazioni ad alto rischio nel settore dell’istruzione. I sistemi di supervisione elettronica utilizzati per monitorare e rilevare i comportamenti vietati degli studenti durante i test sono ora classificati come applicazioni ad alto rischio. L’eurodeputato del Partito Pirata Marcel Kolaja, relatore d’opinione della commissione CULT sull’IA Act, accoglie con favore questi risultati e avverte che tali sistemi possono davvero avere un impatto significativo sul futuro degli studenti.
Marcel Kolaja , membro del Partito pirata ceco e questore del Parlamento europeo, spiega:
“Penso che siamo tutti d’accordo sul fatto che fa un’enorme differenza se si supera o meno l’esame. Pertanto, non possiamo lasciare alla tecnologia il compito di decidere e determinare le nostre vite senza regole e valutazioni adeguate.
Kolaja mette inoltre in guardia contro la discriminazione:
“Sebbene il suo nome possa suggerire il contrario, l’intelligenza artificiale è tutt’altro che perfetta. Può discriminare gli studenti in base al sesso o al colore della pelle. Se la tua pelle è un po’ più scura del tipo di pelle su cui è stato eseguito il training del set di dati, potrebbe segnalare erroneamente che stai tenendo un oggetto scuro tra le mani. Il sistema potrebbe quindi segnalarti automaticamente come sospetto di frode. Queste situazioni devono essere evitate.“
Secondo i risultati delle votazioni odierne, le stesse regole dovrebbero valere anche per i sistemi, che servono a prevedere quali programmi e aree di studio dovrebbero seguire gli studenti.
„Se la scuola decide di utilizzare questi sistemi, dobbiamo assicurarci che siano considerati ad alto rischio e adeguatamente valutati. Come ho detto, l’intelligenza artificiale può essere di parte. E l’ultima cosa di cui abbiamo bisogno nel mondo di oggi è una tecnologia che, ad esempio, raccomanderà solo i ragazzi come studenti adatti alle TIC”
conclude Kolaja.
Durante i negoziati, la maggioranza dei relatori ombra ha ritenuto l’articolo 5 fuori dal campo di applicazione del parere. Per questo motivo si è deciso di lasciare completamente alle Commissioni principali il compito di trovare l’accordo.
Sfondo :
Il 24 aprile 2021 la Commissione Europea ha pubblicato la sua proposta legislativa recante regole armonizzate sull’intelligenza artificiale (AI Act), che introduce un quadro normativo con l’obiettivo di garantire che i sistemi di IA immessi sul mercato dell’Unione Europea siano sicuri da usare e rispettino i fondamentali diritti. La legge sull’IA dovrebbe essere votata in plenaria nel novembre 2022.
I commenti sono disabilitati, ma se vuoi segnalare un errore o aggiungere un contributo, puoi scriverci su Twitter o su Mastodon
