La inteligencia artificial en salud: limitaciones.

En el dinámico panorama de la salud, la inteligencia artificial está cobrando protagonismo, y su integración en el cuidado médico plantea tanto oportunidades como desafíos. En un relato reciente, el Dr. Sina Bari, un cirujano activo y líder en el ámbito de la atención médica basada en datos, compartió experiencias sobre la interacción entre pacientes y herramientas de IA, particularmente ChatGPT. Este sistema de IA ha demostrado ser una fuente ambigua de información, donde un paciente llegó con un consejo derivado de un algoritmo que citaba erróneamente un riesgo de embolia pulmonar asociado a un medicamento. Sin embargo, la fuente original de esta estadística era un estudio sobre un grupo específico de pacientes con tuberculosis, no aplicándose a su caso.

A pesar de esta preocupación, la reciente presentación de ChatGPT Health ha generado entusiasmo en algunos profesionales. Esta nueva versión del chatbot prometerá interacciones más privadas, asegurando que la información compartida no se utilizará para entrenamiento adicional de la IA. Dr. Bari expresó su optimismo, argumentando que formalizar estas interacciones podría ofrecer una protección adicional para la información del paciente y potenciar el uso de la IA en el manejo de su salud. La capacidad de cargar registros médicos y sincronizar apps de salud, como Apple Health, podría proporcionar un asesoramiento más personalizado, aunque esto también genera inquietudes sobre la privacidad de los datos médicos y el manejo de la información sensible.

La preocupación se convierte en un dilema moral: el flujo de datos médicos de organizaciones que cumplen con la Ley de Portabilidad y Responsabilidad de Seguros de Salud (HIPAA) hacia vendedores que no están obligados a seguir esas regulaciones es alarmante. Con más de 230 millones de personas que ya utilizan ChatGPT semanalmente para cuestiones de salud, es evidente que las personas están buscando alternativas a la búsqueda tradicional de información médica.

La capacidad de los chatbots de IA para generar respuestas incorrectas, o “alucinaciones”, es un tema sensible en atención médica, dado que errores en este ámbito pueden tener consecuencias graves. Si bien algunos modelos de IA, como GPT-5 de OpenAI, han demostrado ser más propensos a estos errores, muchos ven la posibilidad de optimizar la atención médica al mejorar la eficiencia de las interacciones.

Desde la perspectiva del Dr. Nigam Shah, profesor de medicina en Stanford, la crónica falta de acceso a atención médica es un problema más urgente que la posibilidad de recibir consejos erróneos de una IA. Con tiempos de espera que pueden llegar a los seis meses para ver a un médico de atención primaria, muchos pacientes podrían preferir interactuar con un sistema de IA que tal vez no sea un médico, pero que puede ofrecer alguna forma de asistencia. Dr. Shah sugiere que la forma más efectiva de integrar la IA en el sistema de salud sería en el lado de los proveedores, aliviando la carga administrativa que consume gran parte del tiempo de los médicos, lo que podría liberar más capacidades para atender a los pacientes.

Su equipo en Stanford está desarrollando ChatEHR, una herramienta que buscará integrar la tecnología en los registros de salud electrónicos (EHR) para ayudar a los médicos a acceder a la información necesaria de manera más eficiente. Reconociendo la cantidad de tiempo que los médicos pasan en tareas administrativas, la agilización de estos procedimientos podría hacer que la asistencia profesional sea más accesible.

Otras empresas, como Anthropic, también están formulando productos de IA enfocados en apoyar a los clínicos y aseguradores en lugar de centrarse únicamente en el usuario final. Un nuevo modelo propuesto, Claude para la atención médica, se enfoca en automatizar procesos como las solicitudes de autorización previa a aseguradoras, lo que podría significar un ahorro significativo en tiempo para los profesionales de la salud.

La relación entre la IA y la medicina plantea un dilema inherente: el objetivo primordial de los médicos es el bienestar de sus pacientes, mientras que las empresas tecnológicas operan bajo presiones de rentabilidad. Esta tensión es crucial a medida que avanzamos hacia un futuro donde la salud y la tecnología se entrelazan cada vez más, creando un espacio donde cada decisión puede tener un impacto significativo en la vida de los pacientes.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.