Es bien sabido que la Inteligencia Artificial, se ha convertido en una herramienta sumamente útil en estos tiempos y la salud no se ha quedado exenta e indudablemente la medicina ha obtenido beneficios de las tecnologías digitales, pero como en todos los campos, existen riesgos potenciales que deben ser contemplados.
En la Organización Mundial de la Salud se han presentado en múltiples ocasiones que el uso de esta tecnología de forma inadecuada puede causar graves daños a los pacientes, si se les diagnostica de forma errónea o se brinda un tratamiento erróneo, que afecta aún más la salud del paciente e inclusive la muerte, por tal motivo la OMS recomienda su uso, pero siempre de forma supervisada por un especialista de la salud capacitado.
¿Una Inteligencia Artificial puede brindar un diagnóstico?
Marcelo D’Agostino, jefe de Sistemas de Información y Salud Digital, responde. “Sí, pero no dejar que la herramienta haga el diagnóstico y confiar un 100% en ese diagnóstico, porque también se han identificado algunas fallas. Siempre tiene que estar acompañado de profesionales, siempre debe tener una serie de parámetros para que uno pueda utilizarlo como instrumento de apoyo (…) la idea es que un profesional, en última instancia, sea quien tenga la responsabilidad de diagnosticar, de tomar decisiones”.
Pero en lo que concierne a la robótica quirúrgica, las cirugías asistidas por un robot, brinda una mejor precisión que permite obtener una intervención menos invasiva, ya que esta es controlada por un ser humano totalmente capacitado.
En cuanto al Chat GPT, es cierto quepuede procesar grandes volúmenes de información en cuestión de segundos, pero en lo que respecta al tema de la salud es sumamente importante que exista la presencia de una especialista que tenga los conocimientos del funcionamiento de esta herramienta.
¿Qué tanto podemos confiar?
D’Agostino comenta. “Hoy estamos en un momento de convergencia donde hay mucho profesional y trabajador que utiliza herramientas de inteligencia artificial o que tiene acceso a estas herramientas, pero que no tuvo contacto con nada de la salud digital a lo largo de su formación profesional”.
Agrega que con el pasar del tiempo, “las nuevas generaciones ya se formarán con estas herramientas como parte del proceso educativo. En este momento hay mayor riesgo (…) no necesariamente la gente tiene hoy esa capacidad de discernir entre una herramienta que puede utilizar fuentes basadas en evidencia o una herramienta que no tiene ningún tipo de sustento de evidencia científica y que no se sabe de dónde está sacando la información”.
Por tal motivo, la OPS hace restar lo importante que se debe utilizar esta tecnología con algoritmos transparentes o ya conocidos, ya que no se sabe que hay detrás del software basado en una IA, por tal motivo resulta aún más riesgoso obtener un diagnóstico erróneo.
¿Qué tan importante es conocer esta tecnología?
Tal y como ocurrió con la literatura científica, donde tuvieron que pasar años para el entendimiento, acceso y diferenciar las fuentes de información basada en evidencia, en el ambiente digital tomará tiempo para poder formar una cultura que entienda esta herramienta, cuáles son las fuentes, quién está detrás y que tan confiables puede ser.
Por la cantidad de fuentes que existen es prácticamente incontrolable, por tal motivo la Organización Mundial de la Salud y la Unión Internacional de Telecomunicaciones (UIT) trabajan en conjunto en poder establecer ciertos estándares de la importancia de contar con algoritmos abiertos y de acercar a las numerosas agencias reguladoras y comisiones gubernamentales de los países que puedan modificar las legislaciones, normas y principios técnicos.
Agrega D’Agostino. “Nos han invitado a muchas sesiones de las comisiones de salud de los parlamentos de los diferentes grupos de países en el continente americano, donde han dedicado reuniones de varios días exclusivamente para ver, entender y obtener nuestras recomendaciones de analizar la legislación vigente y la nueva legislación que se debe desarrollar para poder atender de manera segura y ética la transformación digital del sector salud, en particular la regulación del uso de algoritmos y herramientas de inteligencia artificial”.
¿Qué tan ético es el uso de esta tecnología en la medicina?
D’Agostino comenta. “Desde el punto de vista de la ética, se tiene que analizar con mucha profundidad la responsabilidad moral, los daños que pueden causar los algoritmos, al igual que cuáles son los límites, cuál es la autonomía de su aplicación. Si una herramienta de inteligencia artificial puede tener autonomía a la hora de tomar una decisión o si se le circunscribe a proveer una recomendación”.
Añade que se deben tener muy claros los marcos normativos y legales con respecto a la privacidad, confidencialidad y el uso de datos. La OMS cuenta con un programa de bioética que se dedica exclusivamente en analizar estas cuestiones.
