La inteligencia artificial solo necesita un toquecito humano
La mayoría de los modelos de aprendizaje automático (AA) están diseñados para tomar decisiones de forma autónoma a partir de datos recogidos de forma pasiva. En este sentido, se consideran un medio para sustituir a los humanos en determinadas tareas. ¿Pero refleja este planteo la realidad? Según Manuel Gómez Rodríguez, investigador del Instituto Max Planck de Sistemas de Software(se abrirá en una nueva ventana), la respuesta es «no». «En la mayoría de los sistemas sociales, de información y ciberfísicos, las decisiones algorítmicas y humanas se retroalimentan e influyen mutuamente», afirma. Así las cosas, Gómez Rodríguez sostiene que los modelos de AA deben reflejar mejor esta relación interdependiente. En otras palabras, lo que estos modelos y algoritmos necesitan es un poco de ese toque humano. El equipo del proyecto HumanML(se abrirá en una nueva ventana), financiado con fondos europeos, añade ese toque.
Modelos de aprendizaje automático centrados en el ser humano
En el proyecto, que contó con el apoyo del Consejo Europeo de Investigación(se abrirá en una nueva ventana) (CEI), se desarrollaron modelos y algoritmos de AA centrados en el ser humano capaces de evaluar, apoyar y mejorar el proceso de toma de decisiones. «Queríamos que nuestros modelos y algoritmos tuvieran en cuenta el bucle de retroalimentación entre las decisiones algorítmicas y humanas y aprendieran a funcionar con distintos niveles de automatización», explica Gómez Rodríguez, investigador principal del proyecto. Los investigadores también diseñaron modelos que anticipaban cómo reaccionarían los humanos a sus decisiones algorítmicas y proporcionaban información procesable sobre cómo llegaron a esas decisiones.
Dos cabezas piensan mejor que una, incluso cuando una es artificial.
Con este plan en la mano, el equipo del proyecto desarrolló el primer algoritmo de AA diseñado específicamente para ayudar a la toma de decisiones entre humanos e IA. También ha llevado a cabo varios estudios de gran envergadura con sujetos humanos que han demostrado la eficacia de sus modelos de AA centrados en el ser humano, un paso importante que la comunidad de AA suele pasar por alto. «Dicen que dos cabezas piensan mejor que una, y nuestros modelos funcionan como una cabeza adicional que apoya el proceso de toma de decisiones humano y, en última instancia, ofrece una decisión que supera lo que conseguiría un ser humano o un algoritmo actuando por sí solos», señala Gómez Rodríguez.
Posicionar la IA como una tecnología de apoyo a la toma de decisiones
En el proyecto HumanML se cambia radicalmente la forma de evaluar los modelos y algoritmos de inteligencia artificial, pasando de centrarse en cómo la IA sustituirá a los humanos a cómo puede ayudarnos. «Este cambio de perspectiva minimiza los posibles daños, riesgos y cargas que los sistemas de aprendizaje automático podrían tener sobre el público y, en cambio, maximiza sus beneficios sociales, especialmente en el contexto del apoyo a la toma de decisiones», concluye Gómez Rodríguez. El trabajo del proyecto se ha presentado en conferencias emblemáticas y se ha publicado en destacados medios especializados. También recibió el premio al mejor artículo en un taller de AI & HCI(se abrirá en una nueva ventana), parte de la Conferencia Internacional sobre Aprendizaje Automático 2023(se abrirá en una nueva ventana). Partiendo de los resultados obtenidos durante el proyecto HumanML, Gómez Rodríguez utiliza ahora una beca Subvención de Consolidación del CEI(se abrirá en una nueva ventana) para estudiar el papel de las hipótesis contrafactuales en la mente de las máquinas.
