3 min. de lectura

Ya la mayoría de los lectores se habrán familiarizado con los términos nuevos (y no tan nuevos) en boga: chatbots, ChatGPT, inteligencia artificial, machine learning, deep learning, de manera que ya no se hará una presentación de conceptos sino específicamente una valoración.

Analizaremos aquí los ensayos realizados con el uso de esta tecnología en el trabajo diario del médico. Actualmente se evalúa el potencial de estas herramientas, sobre todo en relación a los aspectos comunicativos con el paciente. 

¿Qué desafíos presenta el uso de esta tecnología? ¿Qué se debe tener en cuenta al valorar la información brindada? ¿Qué aspectos éticos deben considerarse ahora y en el futuro?

Como se sabe, la materia prima de la cual se nutre ChatGPT es una ingente cantidad de información proveniente de revistas, artículos, libros, foros e incluso de contenido de redes sociales. A través del machine learning incluso Wikipedia ha creado hasta la fecha el 3,5 % de su contenido usando este chatbot. 

Su uso por parte de usuarios comunes y sus evaluaciones de las respuestas forman parte fundamental del bucle de retroalimentación que usa el algoritmo para seguir ‘’aprendiendo’’ y perfeccionar sus respuestas futuras, de manera que no sorprenda la masificación de su empleo con el tiempo. Ese es el motor responsable de sus capacidades. 

Es interesante que al ser preguntado ChatGPT sobre las fuentes que utiliza, este haya respondido: ‘’Como inteligencia artificial no tengo acceso a una determinada fuente y esta no puede ser por tanto descrita’’. 

Las posibilidades de esta tecnología en el campo médico son amplias. Incluyen el diagnóstico a través de la descripción de molestias hasta el procedente de estudios complementarios como radiografías o hasta resonancias magnéticas. El acercamiento a un diagnóstico correcto puede ayudar a su vez a encontrar la terapia correcta y mediante eso optimizar tiempos y recursos. 

La privacidad de los datos es un tema monumental que dispara críticas álgidas a todo lo vinculado con el aprendizaje de máquinas tiene una de sus aristas más delicadas en la cuestión de salud. (News Medical)

Uno de los aspectos más desgastantes en la práctica médica actual es la burocracia implícita. En Alemania, por ejemplo, el médico dedica por lo menos dos horas al día simplemente «alimentando a la bestia» informática, ya sea registrando la evolución del paciente o escribiendo cartas de alta de los pacientes para los colegas. 

Se ha experimentado la habilidad de ChatGPT en esta tarea y los resultados son interesantes. En palabras del Prof. Michael Forsting, del Instituto de inteligencia artificial en la medicina (IKIM, por sus siglas en alemán): Hasta ahora ChatGPT no es particularmente buena. 

“Se trata de una herramienta de capacidad impredecible. Tan pronto como Open AI (creadora de ChatGPT) la alimente con  datos médicos podría contribuir a traducir conceptos médicos en un lenguaje más sencillo. Esto puede hacer entendibles a los pacientes temas médicos complejos’’, asegura. 

En un caso particular, al solicitarle a ChatGPT el resumen de internación de una paciente ficticia operada por un tumor mamario, este redactó -podría decirse- una carta estándar, rellenando aspectos básicos del tratamiento, con información que no fue brindada, de manera que eso reveló que el algoritmo puede escribir con una cierta coherencia interna aunque el contenido no sea necesariamente real. 

A este respecto, la Dra. Narges Ahmidi, directora de la división «Reasoned AI Decisions» del Instituto Fraunhofer para sistemas cognitivos afirma: Pronto uno se percata del potencial del sistema de hablar incoherencias. La pregunta importante sería qué tan sutiles son los errores y qué tan amplia es la necesidad del control humano.  

Con todo eso, se resalta la capacidad de clarificar ideas al público no especializado. 

Sobre el diagnóstico y tratamiento, se sabe que ChatGPT no puede valorar el grado de evidencia, relevancia o pertinencia de los resultados de estudios clínicos y tampoco, como se ha dicho, mencionar las fuentes que usa para sugerir respuestas. Esta es una limitación importante. 

«Cuando el usuario acríticamente trata con esto puede ocultarse dicho peligro, porque cuadros raros pueden ser ignorados o un sesgo del pasado puede ser ahora visto como una recomendación’’ menciona el Prof. Kai Wehkamp, director médico de la Clínica de medicina interna I de la clínica universitaria Schleswig- Holstein (UKSH) y director del proyecto MAIA, a través del cual se implementa un sistema basado en IA para el diagnóstico temprano de complicaciones y enfermedades. 

Un «sesgo» humano reportado en el uso de esta tecnología es la tendencia a «antropomorfizar» la respuesta adquirida, de manera que se concede atributos humanos como la conciencia a algo artificial. 

¿A quién pertenecen los datos?

Otra cuestión a tener en cuenta es la privacidad de los datos. Este tema monumental que dispara críticas álgidas a todo lo vinculado con el aprendizaje de máquinas tiene una de sus aristas más delicadas en la cuestión de salud, sobre todo cuando datos personales pueden utilizarse para tomar decisiones a futuro en tópicos como -justamente- los seguros médicos o el de pensiones. 

Existe un historial no tan extenso como intenso de varias organizaciones que se han preocupado por realizar avances legales que regulen tanto el acceso como el uso de los datos, así como metadatos. Pero es bien sabido que las instituciones siempre quedan rezagadas por la vertiginosa velocidad en que se desarrolla esta rama de la informática. 

Esto recién empieza y no se puede prever qué consecuencias tendrá el uso de este «nuevo buscador» en la salud de las personas. Por lo pronto, sus aplicaciones son prácticas aunque bastante limitadas. 

Ejemplos generados por ChatGPT.

Carta de alta: 

Orden: Escribe una carta sobre una paciente NN, quien estuvo internada en el Hospital X desde el 20.02.2023 hasta el 22.02.2023. Ella padece de cáncer de mama y fue sometida a una ablación mamaria el 21.02.2023. 

ChatGPT - Wikipedia

Respuesta: Muy querido/a colega, por este medio quiero dar un breve informe sobre la paciente NN, quien desde el 20.02.2023 hasta el 22.03.2023 fue tratada en nuestro hospital debido a un cáncer mamario. El 20.02.2023 se realizó una mamografía, que mostraba un tumor maligno en el seno derecho. Debido a dicho diagnóstico se realizó una operación, en la cual se extirpó dicho tumor. La operación se desarrolló con éxito y la paciente toleró bien la anestesia. El 22.02.2023 la paciente fue dada de alta y se encuentra en cuidados posteriores. Hemos recomendado a la paciente volver regularmente a estudios de reevaluación y cuidados generales. Espero que la paciente NN se encuentre en vías de mejoría y le deseo todo lo mejor para su continua recuperación. 

Observación: Ni los resultados de la mamografía ni la respuesta de la paciente a la anestesia fueron dados como información. 

Fuente: Deutsches Ärzteblatt (06/2023)

 

¿Qué te pareció este artículo?

1 estrella2 estrellas3 estrellas4 estrellas5 estrellas (5 votos, promedio: 4,20 de 5)

Osvaldo Meza es médico especializado en Medicina Interna por la Universidad Católica de Asunción (UCA) y editor de Ciencias Médicas en Ciencia del Sur. Forma parte de la Asociación Paraguaya Racionalista, y entre sus aficiones se encuentran la física, astronomía, la divulgación científica y el pensamiento crítico.

Compartir artículo:

Dejar un comentario

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí