ECO.90 IA ¿INTRUSISMO? (II)

IA ¿Intrusismo? (II), por Juan M. Ortiz, Doctor en Medicina

(continuará)

 

¿Quién es el responsable cuando las aplicaciones fallan?

Empecemos por lo más sencillo, los consejos o recomendaciones mediante informes ultrafalsos o deepfakes  (generalmente videos). Están hechos con IA y presentan el avatar de alguien con un cierto prestigio. Son tan realistas en imagen, voz y entorno que es casi imposible darse cuenta de que son falsos. Se han dado casos con políticos o deportistas famosos, pero también en médicos reconocidos. Por ejemplo, el Dr. Serge Hercberg, profesor de nutrición de la Université Sorbonne-Paris-Nord y creador del sistema de etiquetado de alimentos Nutri-Score.

Se utiliza al personaje para dar falsos consejos aprovechando su prestigio. No es un caso aislado porque van apareciendo situaciones similares. Es interesante que con frecuencia se trata de falsas informaciones relacionadas con la nutrición.

El daño que puede causar la información errónea es grande ya que con estos métodos no se puede distinguir si proviene o no de un profesional de la salud.

 

¿Quién responde de los efectos perjudiciales?

En el caso del propio personaje imitado es posible que pueda eliminar la información dirigiéndose o persiguiendo a los responsables de la página que aloje el video y argumentando que se trata de una falsificación que ha provocado daño a la propia imagen. En este caso se tardaron más de cinco días en cancelar el canal con el video falso.

Un particular perjudicado lo tiene más difícil porque tendrá que demostrar una relación directa entre el perjuicio y la información errónea. Con el problema añadido de que, normalmente, habrá actuado por su propia voluntad y que, para entonces, habrá desaparecido, muy probablemente, la información de la red.

En estos casos es evidente que la mejor solución es no confiar NUNCA en una sola opinión y antes de actuar investigar en otras fuentes sobre el asunto.

Consejo fácil de dar, pero difícil de seguir, porque se parte de que se confía, casi ciegamente, en la información falsa, precisamente porque procede de alguien cuyo prestigio supera al de las otras fuentes y de que se aprovechan de la situación de angustia o temor en que se encuentra la persona engañada.

La situación se asemeja a los timos y estafas.

 

Pero ¿qué pasa cuando se trata de utilizar una determinada IA en el entorno médico? 

Aquí va muy por delante Estados Unidos debido a la insistencia reguladora de Europa, lo que retarda el empleo de tecnologías más recientes. Por ejemplo, la agencia federal americana competente (FDA) tiene ya autorizados más de 1300 sistemas médicos con IA.

 

¿Quién sería en estos casos el responsable del daño causado por alguno de estos sistemas?

Por ejemplo, la preocupación, ansiedad y estrés causados por un informe erróneo al detectar un cáncer que, en realidad, no existe, por poner un caso de daño leve, que se podría haber producido ante una prueba de imagen (lo que se llama un falso positivo).

¿El médico (partimos de que la IA ha sido supervisada por uno) que se lo ha comunicado al paciente?

¿El fabricante del sistema con IA?

¿La aseguradora pública o privada que proporciona asistencia, contrató al médico y compró el sistema?

¿Una combinación de los tres?

Habitualmente el paciente dañado se relaciona directamente con el médico y se dirigirá contra él. El fundamento podría ser una práctica negligente es decir actuar fuera de lo que se conoce como lex artis, o sea, no haber realizado la actividad médica que se reconoce como apropiada en el contexto del que se trate.

Aquí tropezamos con un problema, porque el profesional puede ser criticado tanto si depende excesivamente de resultados de la IA, como si no tiene en cuenta lo que le dice una herramienta que ha demostrado ser capaz de reducir los errores de diagnóstico.

También aquí el consejo es engañosamente simple: el médico debe utilizar la IA si existe y se ha demostrado su fiabilidad, pero en el diagnóstico final debe prevalecer su capacidad personal. Por lo tanto, será suya la responsabilidad.

 

Pero ¿quién se atreve a contradecir un sistema que, por poner un caso, es capaz de aumentar en un 25% la tasa de detección de pólipos frente a la de un especialista a ojo?

Es posible que todo se entienda mejor si sustituimos el “me lo dijo la IA” por “lo leí en un artículo sobre el tema” en ambos casos (excluida, por supuesto, la intención de hacer daño) la actuación negligente generará responsabilidad para el médico. Es posible que el sistema legal incluya como responsable al sistema de salud, que, a su vez, podría repercutir sobre el médico (o este sobre el fabricante del sistema).

Otra cosa son los casos en que se utiliza la IA para tomar decisiones administrativas como reembolsar los gastos médicos o suspender una ayuda, situaciones más propias de sistemas de salud privados y que han acabado en los juzgados.

Por eso, normalmente se plantea que hay que informar al paciente que se ha utilizado IA para su diagnóstico o tratamiento y que debe existir un médico que revise esa actuación de la IA.

En el fondo ésta es la idea que está en la propuesta sobre intrusismo del Colegio de Abogados: no sería admisible el consejo o recomendación hecho por una IA si no existe un profesional que la revise y se haga responsable.

Y añado un ascua a mi sardina, a lo mejor esto explica por qué los médicos piden una regulación propia, adecuada a su diferente responsabilidad, frente a un estatuto marco común para todos los trabajadores relacionados con la sanidad.

Todo lo cual nos lleva a otra pregunta.

 

Pero ¿es mejor un médico que utiliza la IA o el que trabaja sin ella?

 

(continuará)