L’intelligenza artificiale e quel tocco umano di cui ha bisogno
La maggior parte dei modelli di apprendimento automatico (ML, machine learning) sono progettati al fine di prendere autonomamente decisioni basate su dati raccolti in maniera passiva; in tal senso, sono visti come un mezzo per sostituire l’essere umano in alcuni compiti. Ma questo approccio rispecchia la realtà? Secondo Manuel Gomez Rodriguez, ricercatore presso l’Istituto Max Planck per i sistemi software(si apre in una nuova finestra), la risposta è «no». «Nella maggior parte dei sistemi sociali, informativi e ciberfisici, le decisioni algoritmiche e quelle umane si alimentano e si influenzano a vicenda», spiega. Alla luce di ciò, Gomez Rodriguez sostiene che i modelli di ML devono riflettere questa relazione interdipendente in maniera migliore. In altre parole, questi modelli e algoritmi hanno in certa misura bisogno del tocco umano. Un tocco in più è dato dal progetto HumanML(si apre in una nuova finestra), finanziato dall’UE.
Modelli di apprendimento automatico incentrati sull’essere umano
Il progetto, che ha ricevuto il sostegno del Consiglio europeo della ricerca(si apre in una nuova finestra) (CER), ha sviluppato modelli e algoritmi di ML incentrati sull’essere umano in grado di valutare, sostenere e migliorare il processo decisionale. «Volevamo che i nostri modelli e algoritmi tenessero conto del ciclo di feedback tra le decisioni algoritmiche e quelle umane e imparassero a operare con diversi livelli di automazione», spiega Gomez Rodriguez, che ha svolto il ruolo di ricercatore principale del progetto. I ricercatori hanno inoltre progettato modelli in grado di anticipare la reazione degli esseri umani alle loro decisioni algoritmiche e di fornire informazioni utili sul modo in cui hanno raggiunto tali decisioni.
Due teste sono meglio di una, anche se una è artificiale
Basandosi su questo modello di riferimento, il progetto ha sviluppato il primo algoritmo di ML progettato specificamente per supportare il processo decisionale congiunto tra IA ed essere umano. Inoltre, ha condotto diversi studi di ampia portata su soggetti umani che hanno dimostrato l’efficacia dei suoi modelli di ML incentrati sull’essere umano, il che rappresenta un passo importante spesso trascurato dalla comunità impegnata nello sviluppo dell’ML. «Si dice che due teste siano meglio di una, e i nostri modelli funzionano essenzialmente come una testa in più, supportando il processo decisionale umano e, in ultima analisi, fornendo una decisione migliore di quella che potrebbe essere ottenuta da un essere umano o da un algoritmo in autonomia», osserva Gomez Rodriguez.
Rendere l’IA una soluzione di ausilio alle decisioni
Spostando l’attenzione dal modo in cui l’IA sostituirà gli esseri umani a quello in cui sarà in grado di aiutarci, il progetto HumanML cambia radicalmente le modalità attraverso cui vengono valutati i modelli e gli algoritmi di ML. «Questo cambiamento a livello di prospettiva riduce al minimo i potenziali danni, rischi e oneri che i sistemi di apprendimento automatico potrebbero avere sul pubblico e ne massimizza invece i benefici per la società, in particolare nel contesto del supporto alle decisioni», conclude Gomez Rodriguez. Il lavoro svolto nell’ambito del progetto è stato presentato in occasione di conferenze di spicco e pubblicato in importanti pubblicazioni di settore, ricevendo inoltre il premio per il miglior articolo presso un workshop sull’IA e l’interazione tra computer ed essere umano(si apre in una nuova finestra), parte della Conferenza internazionale sull’apprendimento automatico del 2023(si apre in una nuova finestra). Sulla base dei risultati ottenuti durante il progetto HumanML, Gomez Rodriguez sta ora sfruttando una sovvenzione di consolidamento del CER(si apre in una nuova finestra) per studiare il ruolo rivestito dai controfattuali nella mente delle macchine.
