IA ¿Intrusismo? (II), por Juan M. Ortiz, Doctor en Medicina
(continuará)
¿Quién es el
responsable cuando las aplicaciones fallan?
Empecemos
por lo más sencillo, los consejos o recomendaciones mediante informes
ultrafalsos o deepfakes
(generalmente videos). Están hechos con IA y presentan el avatar de
alguien con un cierto prestigio. Son tan realistas en imagen, voz y entorno que
es casi imposible darse cuenta de que son falsos. Se han dado casos con
políticos o deportistas famosos, pero también en médicos reconocidos. Por
ejemplo, el Dr. Serge Hercberg, profesor de nutrición de la Université
Sorbonne-Paris-Nord y creador del sistema de etiquetado de alimentos
Nutri-Score.
Se
utiliza al personaje para dar falsos consejos aprovechando su prestigio. No es
un caso aislado porque van apareciendo situaciones similares. Es interesante
que con frecuencia se trata de falsas informaciones relacionadas con la
nutrición.
El
daño que puede causar la información errónea es grande ya que con estos métodos
no se puede distinguir si proviene o no de un profesional de la salud.
¿Quién responde de
los efectos perjudiciales?
En el caso del propio
personaje imitado es posible que pueda eliminar la información dirigiéndose o
persiguiendo a los responsables de la página que aloje el video y argumentando
que se trata de una falsificación que ha provocado daño a la propia imagen. En
este caso se tardaron más de cinco días en cancelar el canal con el video
falso.
Un
particular perjudicado lo tiene más difícil porque tendrá que demostrar una
relación directa entre el perjuicio y la información errónea. Con el problema
añadido de que, normalmente, habrá actuado por su propia voluntad y que, para
entonces, habrá desaparecido, muy probablemente, la información de la red.
En
estos casos es evidente que la mejor solución es no confiar NUNCA en una sola
opinión y antes de actuar investigar en otras fuentes sobre el asunto.
Consejo
fácil de dar, pero difícil de seguir, porque se parte de que se confía, casi
ciegamente, en la información falsa, precisamente porque procede de alguien
cuyo prestigio supera al de las otras fuentes y de que se aprovechan de la
situación de angustia o temor en que se encuentra la persona engañada.
La situación se asemeja a
los timos y estafas.
Pero ¿qué pasa cuando se
trata de utilizar una determinada IA en el entorno médico?
Aquí
va muy por delante Estados Unidos debido a la insistencia reguladora de Europa,
lo que retarda el empleo de tecnologías más recientes. Por ejemplo, la agencia
federal americana competente (FDA) tiene ya autorizados más de 1300 sistemas
médicos con IA.
¿Quién sería en estos
casos el responsable del daño causado por alguno de estos sistemas?
Por
ejemplo, la preocupación, ansiedad y estrés causados por un informe erróneo al
detectar un cáncer que, en realidad, no existe, por poner un caso de daño leve,
que se podría haber producido ante una prueba de imagen (lo que se llama un
falso positivo).
¿El médico
(partimos de que la IA ha sido supervisada por uno) que se lo ha comunicado al
paciente?
¿El fabricante
del sistema con IA?
¿La aseguradora
pública o privada que proporciona asistencia, contrató al médico y compró el
sistema?
¿Una combinación de los
tres?
Habitualmente
el paciente dañado se relaciona directamente con el médico y se dirigirá contra
él. El fundamento podría ser una práctica negligente es decir actuar fuera de
lo que se conoce como lex artis, o sea, no haber realizado la actividad
médica que se reconoce como apropiada en el contexto del que se trate.
Aquí
tropezamos con un problema, porque el profesional puede ser criticado tanto si
depende excesivamente de resultados de la IA, como si no tiene en cuenta lo que
le dice una herramienta que ha demostrado ser capaz de reducir los errores de
diagnóstico.
También
aquí el consejo es engañosamente simple: el médico debe utilizar la IA si
existe y se ha demostrado su fiabilidad, pero en el diagnóstico final debe
prevalecer su capacidad personal. Por lo tanto, será suya la responsabilidad.
Pero
¿quién se atreve a contradecir un sistema que, por poner un caso, es
capaz de aumentar en un 25% la tasa de detección de pólipos frente a la de un
especialista a ojo?
Es
posible que todo se entienda mejor si sustituimos el “me lo dijo la IA”
por “lo leí en un artículo sobre el tema” en ambos casos (excluida, por
supuesto, la intención de hacer daño) la actuación negligente generará
responsabilidad para el médico. Es posible que el sistema legal incluya como
responsable al sistema de salud, que, a su vez, podría repercutir sobre el
médico (o este sobre el fabricante del sistema).
Otra
cosa son los casos en que se utiliza la IA para tomar decisiones
administrativas como reembolsar los gastos médicos o suspender una ayuda,
situaciones más propias de sistemas de salud privados y que han acabado en los
juzgados.
Por
eso, normalmente se plantea que hay que informar al paciente que se ha
utilizado IA para su diagnóstico o tratamiento y que debe existir un médico que
revise esa actuación de la IA.
En
el fondo ésta es la idea que está en la propuesta sobre intrusismo del Colegio
de Abogados: no sería admisible el consejo o recomendación hecho por una IA si
no existe un profesional que la revise y se haga responsable.
Y
añado un ascua a mi sardina, a lo mejor esto explica por qué los médicos piden
una regulación propia, adecuada a su diferente responsabilidad, frente a un
estatuto marco común para todos los trabajadores relacionados con la sanidad.
Todo lo cual nos lleva a
otra pregunta.
Pero ¿es mejor un
médico que utiliza la IA o el que trabaja sin ella?
(continuará)
