Investigadores de la Universidad de las Islas Baleares lideran una iniciativa para desarrollar métodos que garanticen transparencia, confianza y ética en los sistemas de inteligencia artificial.
Palma, 27 de enero de 2025. Investigadores de la Unidad de Gráficos, Visión e Inteligencia Artificial (UGiVIA) de la Universidad de las Islas Baleares (UIB) lideran el proyecto EXPLAINME, una iniciativa que busca desarrollar métodos y herramientas para una inteligencia artificial (IA) más transparente, confiable y ética, con especial atención a sectores clave como la salud y el bienestar social.
El proyecto EXPLAINME (EXPLainable Artificial INtelligence Methods and Evaluation for trustworthy, human-centric, and ethical AI), financiado por el Ministerio de Ciencia e Innovación (MICINN) y los fondos europeos FEDER, surge ante la necesidad de resolver los desafíos asociados a la falta de explicabilidad en la IA, especialmente en áreas sensibles donde las decisiones deben ser comprensibles tanto para profesionales como para usuarios. Esta falta de comprensión genera desconfianza y puede dificultar la adopción de estas tecnologías.
El objetivo principal es crear sistemas de IA que no solo sean técnicamente robustos, sino que también respeten los valores éticos, los derechos humanos y la diversidad. Para lograrlo, el proyecto integra principios de diseño centrado en el usuario y trabaja en el establecimiento de estándares que permitan medir la explicabilidad y el impacto ético de la IA.
El equipo investigador está desarrollando dos demostradores prácticos. El primero es una herramienta para apoyar el diagnóstico de la enfermedad de células falciformes, una patología genética que afecta a millones de personas en todo el mundo. El segundo es un sistema de monitorización destinado a personas mayores que viven solas, diseñado para mejorar su seguridad y calidad de vida. Estas aplicaciones reflejan el compromiso de EXPLAINME con los Objetivos de Desarrollo Sostenible de las Naciones Unidas, abordando retos globales relacionados con la salud y el bienestar social.
Además de su enfoque práctico, EXPLAINME pretende tener un impacto significativo en el ámbito científico. Los investigadores planean publicar resultados en revistas especializadas, participar en congresos internacionales y fomentar la formación de nuevos talentos mediante programas de doctorado y colaboraciones internacionales. Con este enfoque, el proyecto busca no solo avanzar en el desarrollo tecnológico, sino también generar un conocimiento más amplio y profundo sobre cómo hacer que la IA sea accesible y comprensible para todos.
EXPLAINME es una apuesta por una inteligencia artificial que, además de innovar, pone a las personas en el centro, demostrando que la tecnología puede y debe ser un aliado ético en la mejora de la calidad de vida y en la resolución de desafíos sociales.
