Entendiendo la confianza en la Inteligencia Artificial

¿Por qué hablar de confianza en la IA?

La confianza es un valor fundamental en toda relación humana, y también lo será en nuestra interacción con sistemas inteligentes. En el proyecto CONFIA, abordamos el reto de entender qué hace que una persona confíe (o no) en un sistema de IA, qué factores influyen en esa percepción y cómo se puede medir y mejorar.

Cada vez delegamos más decisiones en sistemas automatizados: desde recomendaciones hasta diagnósticos, pasando por la gestión financiera. Sin embargo, la falta de confianza sigue siendo una de las grandes preocupaciones en el desarrollo responsable de la IA, tanto para expertos como para legisladores.

Close-up of a professional handshake over a laptop during a business meeting in an office.

Nuestro enfoque

CONFIA propone un enfoque interdisciplinar que une sociología, filosofía, ciencia de datos, antropología y tecnologías de IA, con el objetivo de

  • Analizar el concepto de confianza en sistemas de IA desde una perspectiva humana y social.
  • Identificar los factores técnicos, psicológicos y sociales que influyen en la construcción de esa confianza.
  • Diseñar una metodología rigurosa para evaluar empíricamente cómo las personas confían (o desconfían) de los sistemas inteligentes.

¿Cómo lo investigamos?

Nuestra hipótesis central es que la confianza no depende exclusivamente del rendimiento técnico de un sistema inteligente, sino que se construye también en función de:

  • La explicabilidad y transparencia del sistema.
  • La interacción con el usuario y su contexto social.
  • Las características demográficas y conductuales del usuario.
  • El rol de las instituciones como garantes de esa confianza.

Para estudiar esto, proponemos un experimento piloto en el ámbito de la educación financiera, un entorno cotidiano y altamente sensible a la confianza. Analizaremos cómo las personas reaccionan ante recomendaciones (hechas por un sistema de IA) relacionadas con sus finanzas personales y qué elementos aumentan o reducen su nivel de confianza.

Objetivos del proyecto

Nuestra hipótesis central es que la confianza no depende exclusivamente del rendimiento técnico de un sistema inteligente, sino que se construye también en función de:

  • Identificar los factores clave en la construcción de sistemas inteligentes dignos de confianza.
  • Desarrollar herramientas para medir esa confianza de forma cualitativa y cuantitativa.
  • Realizar un estudio experimental que permita validar nuestras hipótesis y aportar recomendaciones prácticas.