La Inteligencia Artificial (IA) ha llegado para quedarse; también en el derecho sanitario. Y es que, con los avances de las nuevas tecnologías en el sector sanitario, también deben desarrollarse los aspectos legislativos y normativos que protejan a pacientes y profesionales de la salud de este nuevo actor. Especialmente, ante aquellos puntos que pueden suponer una vulneración en el cuidado de la salud de los ciudadanos.
Desde el tratamiento de los pacientes, el consentimiento informado, o el uso de neurotecnologías. Elementos que suponen importantes desafíos para el derecho sanitario, que han sido analizados por María Esperanza Marcos Juárez, presidenta de la Sección de Derecho Sanitario del ICAM, para Confilegal.
Unas reflexiones que llegan tras el III Congreso de Derecho Sanitario organizado en el Ilustre Colegio de Abogados de Madrid.
La Inteligencia Artificial está entrando con fuerza en el ámbito sanitario. ¿Cuál es el mayor reto jurídico que plantea?
La gen-IA tiene el potencial de mejorar significativamente los resultados de los pacientes, aliviar el agotamiento de los profesionales sanitarios, optimizar la eficiencia operativa del sector sanitario, automatizar la gestión de la historia clínica…
El mayor reto jurídico es la responsabilidad en las decisiones sanitarias asistidas por al IA. No resulta fácil determinar la responsabilidad ante errores por los problemas de transparencia del algoritmo, así como por la trazabilidad del acto clínico.
¿Hasta qué punto puede una herramienta de IA condicionar la autonomía médica o la relación entre el paciente y profesional?
En un aspecto positivo, la IA generativa puede ser una herramienta valiosa de apoyo, por ejemplo en la revisión de literatura científica, la identificación de posibles interacciones medicamentosas o como ayuda en el diagnóstico diferencial.
Negativamente, existe el riesgo de una dependencia excesiva de la IA, lo que podría mermar el juicio crítico del profesional.
El profesional sanitario sanitario sigue siendo el garante último de la calidad de la atención y de la información proporcionada, independientemente de las herramientas que utilice.
Uno de los pilares del Derecho Sanitario es el consentimiento informado. ¿Cómo cambia este concepto cuando intervienen algoritmos en el proceso clínico?
La introducción de herramientas de Inteligencia Artificial (IA) generativa en el ámbito sanitario plantea interrogantes relevantes sobre su posible influencia en la autonomía médica y en la fundamental relación entre el paciente y el profesional sanitario.
La clave reside en que la IA generativa sea una herramienta al servicio del profesional y del paciente, y no un factor que distorsione los derechos y deberes establecidos.
La supervisión humana, la validación de la información generada por IA, la transparencia en su uso y la preservación de la responsabilidad del profesional sanitario son cruciales para asegurar que su impacto sea constructivo y respetuoso con la autonomía y la dignidad de las personas, tal como lo exige la Ley básica reguladora de la autonomía del paciente.
En términos éticos, ¿Cuál es la línea roja que no deberíamos cruzar con la IA en medicina?
La línea roja que no deberíamos cruzar con la Inteligencia Artificial en medicina se sitúa en el punto donde la tecnología comienza a socavar la autonomía fundamental tanto del paciente como del profesional sanitario, deshumaniza la atención médica, o diluye la responsabilidad inherente al acto clínico.
Considero que esta línea roja se manifiesta en varios aspectos críticos: sustitución del juicio humano en decisiones críticas, menoscabar la autonomía del paciente, deshumanización de la relación médico-paciente, dilución de la responsabilidad profesional, falta de transparencia, compromiso de la privacidad, o el uso discriminatorio de la IA.
Las neurotecnologías van incluso más allá. ¿Qué implicaciones legales plantea el hecho de poder leer o modular la actividad cerebral?
La capacidad de «leer» la actividad cerebral, es decir, de acceder e interpretar los datos neuronales de una persona, afecta al derecho a la Intimidad y confidencialidad. La actividad cerebral es, posiblemente, la información más íntima y personal. Su lectura afecta directamente al núcleo del derecho a la intimidad. Los datos cerebrales son, inequívocamente, datos relativos a la salud y, por tanto, especialmente protegidos. Y, para cualquier acceso a la actividad cerebral, se necesitaría un consentimiento informado especialmente riguroso.
La capacidad de «modular» o alterar la actividad cerebral es aún más delicada, ya que implica una intervención directa en los procesos mentales y la personalidad.
El uso de neurotecnologías para la «mejora» cognitiva o emocional en individuos sanos plantea dilemas éticos y legales adicionales sobre la equidad, la autenticidad personal y la posible creación de desigualdades sociales, aspectos no directamente abordados por la normativa sanitaria vigente.
¿Cree que el marco normativo actual está preparado para asumir los riesgos asociados a estas tecnologías?
Si bien los principios generales de autonomía, intimidad y protección de datos son aplicables, la especificidad de las neurotecnologías podría requerir adaptaciones legislativas o interpretaciones jurisprudenciales que aborden los «neurodatos» y las intervenciones cerebrales de manera más precisa.
Es crucial establecer salvaguardas fuertes para prevenir la coerción, la manipulación, la discriminación basada en datos cerebrales y el acceso no autorizado a la actividad mental.
Las neurotecnologías nos enfrentan al desafío de proteger la última frontera de la privacidad y la autonomía individual: la mente humana. El marco legal existente proporciona una base, pero su aplicación y desarrollo futuro serán decisivos para asegurar que estas poderosas herramientas se utilicen de manera ética y respetuosa con la dignidad y los derechos de las personas.
¿Cuál debería ser el papel de la abogacía en el debate sobre la regulación de estas innovaciones?
El papel de la abogacía en el debate sobre la regulación de las neurotecnologías es, y deberá ser, multifacético y determinante.
Considero que los principales roles son: asesoramiento y orientación experta; defensa y salvaguarda de derechos fundamentales; participación activa en la creación de la norma; diseño de mecanismos de responsabilidad y resolución de conflictos; el fomento del debate ético-jurídico, y la vigilancia del cumplimiento.
Actualmente, son pocos los profesionales del derecho con una especialización profunda en la intersección entre neurociencia, tecnología y derecho. La abogacía ha demostrado históricamente su capacidad para adaptarse a nuevas realidades sociales y tecnológicas. Sin embargo, esto no ocurrirá de forma pasiva.
¿Cuál será el debate central sobre inteligencia artificial en Derecho Sanitario en los próximos cinco años?
Considero que el debate central sobre la inteligencia artificial en el Derecho Sanitario durante los próximos cinco años girará en torno a la búsqueda de un
equilibrio fundamental: cómo aprovechar el inmenso potencial transformador de la IA para mejorar la asistencia sanitaria, garantizando al mismo tiempo la protección de los derechos fundamentales de los pacientes y la seguridad jurídica de todos los actores implicados.
En esencia, el debate central no será si se debe usar la IA, sino cómo se debe integrar de manera responsable, ética y legalmente sólida en el ecosistema sanitario para que actúe como un verdadero copiloto al servicio del bienestar humano y la justicia.
