El pasado jueves 4 de noviembre, Sunset Technologies celebró su primera mesa redonda sobre un tema tan interesante como necesario: la ética en la aplicación de la inteligencia artificial en sanidad.
El evento tuvo un gran éxito, lo que anima a continuar organizando nuevas “paradas para reflexionar” en 2022. Porque si hay algo que Sunset Technologies siempre ha tenido presente, en su larga trayectoria como empresa tecnológica dedicada al sector sanitario, es la ética. Conforme vamos avanzando tecnológicamente, siempre hay un momento en el que debemos hacer una pausa para preguntarnos:
- ¿Por qué estamos haciendo lo que estamos haciendo?
- ¿Lo estamos haciendo bien desde el punto de vista de la ética?
Los tiempos son convulsos y la tecnología avanza sin tregua. Esta combinación puede provocar que nos situemos en modo de piloto automático de muy alta velocidad, donde la atención se centra tanto en avanzar que perdemos de vista el porqué y el para qué del avance.
El objetivo de esta primera mesa redonda de Sunset Technologies era invitar a todos a una parada para reflexionar sobre cuestiones tan importantes como la privacidad en el uso de los datos, la responsabilidad en la toma de decisiones y los posibles cambios deontológicos que se deben contemplar con el creciente uso de IA en sanidad.
La IA empieza a estar presente en cada vez más ámbitos en la salud, por lo que hay preguntas que piden una reflexión urgente y profunda, no sólo práctica y tecnológica, sino también, y sobre todo, filosófica y trascendental:
- ¿Cómo encontrar el delicado equilibrio entre eficacia y ética?
- ¿Quién pone los límites y cómo se determinan?
- ¿El avance tiene un precio en términos de calidad humana?
El debate estuvo moderado por el filósofo gerundense Josep Mª Carbó y la composición de la mesa fue de una calidad extraordinaria, tanto de currículum y experiencia en las cuestiones debatidas como humana. Fue lo que se dice “un reparto de lujo”:
- Francisco Javier Díez, catedrático del departamento de Inteligencia Artificial de la UNED, con más de 30 años de experiencia en la investigación sobre la aplicación de la IA a la medicina.
- Joan Guanyabens, consultor médico en TICSalut; consultor independiente en salud, TI e innovación, y codirector académico en máster en Big Data sanitario.
- Josep Maria Terricabras, filósofo, catedrático, político, autor de varios libros de IA y catedrático de filosofía en la Universidad de Girona.
En un ambiente cordial y distendido, durante las dos horas que duró el debate, pudimos escuchar intervenciones y reflexiones brillantes y bien argumentadas en respuesta a los tres puntos planteados. El objetivo no era buscar un consenso, sino escuchar diferentes enfoques y formas de abordar estas cuestiones. Como todo debate de carácter filosófico, lo importante era poner el foco en las preguntas y provocar reflexiones profundas, tanto en panelistas como en oyentes, más que fijar respuestas. Son cuestiones que no se pueden cerrar en un solo debate, sino que la función del debate debe ser abrir nuevas preguntas que hasta ahora no nos habíamos planteado. Porque ¡el auténtico avance se produce cuando nos detenemos a hacer preguntas!
Aun así, entre los panelistas se llegó a un cierto consenso sobre algunas cuestiones, como son:
- La IA, en ningún, caso debe sustituir el profesional de la salud, por lo que la responsabilidad última sobre las decisiones, aunque éstas se apoyen en la IA, es del profesional.
- La IA se debe considerar una herramienta al servicio del profesional.
- Los datos personales son propiedad del paciente, pero se pueden utilizar para servir a un bien común, siempre y cuando sean debidamente anonimizados y solo se usen para fines de bien común y nunca en contra de la persona.
Sin embargo, lo realmente interesante no fueron los consensos sino las argumentaciones y el debate que se genera alrededor de los diferentes puntos de vista para sostener el delicado equilibrio entre eficacia y ética.
Para quien no pudo escuchar el debate en directo, os facilitamos un enlace para escuchar el podcast.