IA ¿Intrusismo? (I), por Juan M. Ortiz, Doctor en Medicina
Esta mañana, a mediodía, he conectado
con la red de internet y le pregunté a la IA (Inteligencia Artificial) de
Google:
me salen leucocitos y nitritos positivo en una
tira de orina ¿qué puedo tener?
Esta es la contestación:
“La presencia conjunta de leucocitos
(glóbulos blancos) y nitritos positivos en una tira de orina indica con alta
probabilidad una infección del tracto urinario (ITU). Los nitritos son
producidos por bacterias (como E. coli) que convierten nitratos, mientras que
los leucocitos indican la inflamación causada por esta infección.
………………...y acaba con:
Recomendaciones:
Consulta a un médico: Es necesario un
diagnóstico profesional para confirmar la infección y determinar el antibiótico
correcto.
Urocultivo: Es probable que pidan un
urocultivo para identificar la bacteria exacta.
Hidratación: Bebe abundante agua para
ayudar a limpiar el tracto urinario.
Aviso: Este mensaje no sustituye la
consulta médica. No te automediques.”
He subrayado tres frases de la
contestación que merecen un comentario. La primera porque muy probablemente
cualquier médico de asistencia primaria estaría de acuerdo con ella, con esos
dos datos lo más probable es una infección urinaria, Luego se añaden algunos
síntomas que lo podrían confirmar los análisis pertinentes.
Las dos siguientes son consejos: acuda
a un médico y no se automedique y, por supuesto, son dos consejos a seguir sin
ninguna duda, porque si el diagnóstico es correcto, solamente el médico deberá
indicar qué antibiótico utilizar en espera de un posible cultivo de orina.
Pero siendo viernes y a la hora en que
estamos ¿qué ventaja tiene consultar una IA en lugar de a un médico?
En cualquier caso pedir una cita significa que como pronto mi médico me recibirá
en el consultorio el próximo lunes (si no existe lista de espera, claro). Pero
la IA me sugiere una infección urinaria lo que supone una enfermedad
importante, aunque normalmente no sea muy grave, así es que en lugar de esperar
al lunes he ido directamente al servicio de urgencia, ganando casi tres días (o
más) de tratamiento.
Todo esto viene a cuento de que esta
mañana he recibido por tres vías distintas artículos serios comentando los
problemas que está causando la Inteligencia Artificial.
Empezaré por lo más alejado a mi
actividad. Hace unos días una abogada me comentaba la discusión que tuvo con un
colega, conocido común, que se empeñaba en afirmar que su actividad profesional
se limitaba a copiar los informes de la IA que utilizaba y mandarlos al
juzgado. No hubo forma de convencerle de que, en algunos casos, la IA se
inventaba cosas y podía fallar. A los pocos días comentaba, con la misma
abogada, la multa que le habían puesto a un colega suyo por citar sentencias
falsas (proporcionadas por una IA) en un escrito ante el tribunal (no era
nuestro conocido, pero ambos concluimos que mejor sería que fuese poniendo sus
barbas a remojar).
Precisamente hoy leo en una revista
jurídica -Confilegal-, la noticia de que “El Ilustre Colegio de la Abogacía
de Madrid (ICAM) ha registrado en el Congreso una propuesta de modificación del
artículo 403 del Código Penal, sobre intrusismo profesional, para adaptarlo a
la nueva realidad en el «ejercicio» de la abogacía”.
Se refieren a la existencia y auge de
sistemas de Inteligencia Artificial que ofrecen «consultoría» jurídica sin
intervención de un profesional. Proponen una modificación del Código Penal del
artículo 403, puesto que con la actual redacción sólo se pueden perseguir las
acciones de una persona física sin título y no a la Inteligencia Artificial
cuya “autoría organizativa” es difusa.
La revista cita como argumentos del
ICAM: «La ciudadanía puede adoptar decisiones de trascendencia jurídica
(presentación de escritos, aceptación de acuerdos, renuncias, estrategias
procesales, contratación, reclamaciones o recursos) basadas en “respuestas”
generadas por sistemas automatizados que: carecen de deberes deontológicos; no
están sometidos a responsabilidad profesional en los términos propios del
ejercicio; o pueden inducir a error por falta de control humano cualificado»,
explican en su Proposición de Ley.
Lo que el Colegio propone es añadir al
articulado la inclusión de la conducta de quien:
“«con ánimo de lucro o en el marco de
una actividad empresarial o profesional», diseñe u ofrezca al público sistemas
automatizados que, sin intervención directa y efectiva de un profesional
habilitado, generen recomendaciones, dictámenes o documentos propios de una
profesión titulada”.
Es interesante resaltar que la
conducta sería punible cuando deje de producirse la intervención de un
profesional titulado, no porque la recomendación, el dictamen o el documento
sean erróneos. Por supuesto se aplicaría a cualquier tipo de ejercicio profesional
titulado.
Nótese que no incluyen solamente los
casos en que se actúa con ánimo de lucro sino también los que se dan en el
marco de una actividad empresarial o profesional lo que incluye casi cualquier
cosa.
De manera que si la propuesta
prosperase ¿sería intrusismo la recomendación que Google me sugirió esta
mañana? Me quedo con la duda, pero me da la impresión de que se están poniendo
puertas al campo, lo que deduzco de otros dos artículos de esta mañana. Ambos
proceden de una publicación destinada a los médicos: Medscape.
El primero, en un contexto europeo,
trata de resultados sobre comportamiento y opiniones de ciudadanos alemanes.
Casi la mitad de ellos indicó que había consultado a una IA antes de pedir
consejo médico ante un problema de salud (!vaya¡ lo que yo he hecho esta mañana). En general
opinan que es positiva la aplicación de la IA en medicina. La conclusión sería
que desde un punto de vista sociológico estos ciudadanos consideran muy
valiosas las recomendaciones de la IA hasta el punto de que podríamos pensar, por
generar polémica, si en un futuro no será intrusismo la
recomendación del profesional titulado si no ha intervenido en ella una IA y no
al contrario (en ocasiones la IA tiene más aciertos que los profesionales en
sus diagnósticos). No está claro porque en el mismo artículo se refieren
publicaciones que indican que “aunque los pacientes confían cada vez más en
los consejos generados por IA, pueden percibir a los médicos que utilizan IA
como menos competentes, empáticos y confiables”.
El segundo nos lleva más lejos, a
Canadá. Los datos proceden de una encuesta de la Asociación Médica Canadiense y
empieza con un dato “la mayoría de los canadienses (89%) buscan información
de salud en línea”; normalmente indican que por razones de velocidad en la
respuesta ya que el acceso a las redes sociales es muy fácil y el acceso a los
equipos de atención no lo es tanto.
El cuerpo del artículo se centra en la
fiabilidad de la información que se obtiene y en los riesgos de emplearla. Es
interesante que los autores destacan que los canadienses desconfían cada vez
más de la información sobre salud procedente de Estados Unidos, lo que pienso
que puede tener que ver con los cambios sobre al asunto que está llevando a
cabo el gobierno actual.
Más interesantes son los peligros que
se pueden producir cuando se utiliza información sobre salud obtenida en redes.
Estos serían:
1.- confusión sobre la mejor manera de
cuidar proactivamente su salud.
2.- estrés mental o aumento de la
ansiedad.
3.- demora en buscar atención o
tratamiento médico adecuado.
4.- menor confianza en los
profesionales de la salud.
5.- dificultad para discutir problemas
de salud con los proveedores de atención médica.
6.- relaciones tensas con familiares o
amigos.
7.- evitación de tratamientos
efectivos debido a la desinformación.
El 3, el 4 y el 7 muy relacionados
entre sí, pueden llegar a ser problemas verdaderamente graves y son comunes a
los que causan algunas “medicinas alternativas” o “tratamientos milagrosos” sin
evidencia científica.
No parece que sea posible otra
solución que la de confiar en que, con el tiempo, los ciudadanos sean capaces
de distinguir la información correcta de la que no lo es y que clientes y
profesionales conversen sobre los datos que la IA les proporciona. Proporcionar
información falsa es el riesgo que tiene la libertad de expresión.
Con el tercer articulo volvemos al
comienzo ¿Quién es el responsable cuando los algoritmos fallan?
(continuará)
