Glosario de
IA clínica y razonamiento diagnóstico

Generación de información falsa, inventada o sin sustento, como síntomas inexistentes en el paciente o citas bibliográficas falsas, presentada con tono de autoridad y coherencia gramatical. Es el fallo más peligroso de los LLM en contextos clínicos porque su aspecto convincente reduce la vigilancia del usuario.

Estrategia que obliga al modelo a razonar paso a paso, resumir hallazgos, identificar síndromes y evaluar pros y contras antes de emitir un diagnóstico final. Vuelve su lógica más auditable y suele mejorar la precisión en casos complejos o atípicos.

Grado de ajuste entre la confianza que expresa un sistema y su precisión real. Un modelo mal calibrado puede mostrarse muy seguro cuando se equivoca o parecer dudoso cuando acierta. En clínica, una mala calibración es especialmente peligrosa porque puede llevar al médico a aceptar o rechazar salidas por razones erróneas.

Distinción entre sistemas cuyos pasos y criterios pueden revisarse con claridad (caja blanca) y sistemas cuyo proceso interno resulta opaco para el usuario (caja negra). Ayuda a pensar hasta qué punto una herramienta puede ser realmente supervisada y auditada por el clínico.

Atrofia de las habilidades de razonamiento clínico, la memoria y el pensamiento crítico en el médico o estudiante causada por la delegación prematura del esfuerzo diagnóstico a la máquina. Es uno de los riesgos más importantes del uso irreflexivo de IA en formación médica.

Riesgo de difuminar quién responde por una decisión clínica cuando interviene una herramienta de IA. Aunque la IA participe en el proceso, la validación crítica y la responsabilidad profesional no desaparecen: recaen sobre el clínico que acepta y aplica la recomendación.

Fijación del pensamiento debida a patrones estadísticos aprendidos durante el entrenamiento que provoca que el LLM falle o razone rígidamente ante casos clínicos atípicos que exigen abandonar heurísticas comunes. El equivalente en IA del cierre prematuro humano.

Instrucción que convierte al LLM en un revisor crítico adversarial. Se le pide que cuestione las hipótesis del médico, señale los datos que no encajan y proponga peores escenarios alternativos para generar fricción epistémica y evitar el cierre prematuro.

Conjunto de métodos orientados a hacer más comprensible cómo llega una IA a una salida. No equivale a exactitud, pero ayuda a revisar si la respuesta es interpretable y si puede ser auditada por el clínico. Los métodos de explicabilidad tienen limitaciones conocidas y no garantizan que el razonamiento visible sea el real.

Proceso de reentrenar un modelo ya existente con un conjunto de datos más específico para adaptarlo a una tarea, dominio o estilo concretos. Puede aumentar la especialización, pero también introducir sesgos si los datos de ajuste fino son pobres o poco representativos.

Arquitectura que conecta a un LLM con bases de datos externas y verificadas, como PubMed, guías clínicas o la historia clínica del paciente, para buscar evidencia actualizada antes de generar una respuesta. Aumenta la fiabilidad y reduce drásticamente las alucinaciones en comparación con los LLM generalistas.

Proceso estructurado de diseñar, refinar y optimizar las instrucciones dadas al LLM para guiar su proceso cognitivo y mejorar la precisión y la relevancia de sus respuestas clínicas. Incluye la elección del tipo de prompt, la definición del rol, el contexto clínico y el formato de salida.

Forma de prompting que consiste en formular una petición abierta solicitando un diagnóstico sin ofrecer una estructura previa. Es rápida e intuitiva, pero también la más vulnerable a respuestas genéricas, superficiales o confirmatorias. Adecuada para consultas factuales de bajo riesgo.

Estrategia en la que el modelo genera la primera lista de diagnósticos a partir de los datos crudos antes de que el médico establezca su hipótesis. Puede ser útil para ampliar perspectivas en casos atípicos, pero aumenta el riesgo de sesgo de automatización, especialmente en estudiantes o usuarios poco entrenados.

Trampa cognitiva en la que se confunde la excelente elocuencia, coherencia y estructura de un texto generado por la IA con una verdadera exactitud científica. Una respuesta bien redactada puede contener errores graves, alucinaciones o sesgos que pasan desapercibidos precisamente porque el texto parece tan autorizado.

Arquitectura de trabajo bioéticamente respaldada donde el clínico mantiene la responsabilidad y la autonomía. La IA propone, organiza o cuestiona, pero el médico introduce el caso, revisa la salida, contrasta los errores y toma la decisión final. Es el modelo recomendado tanto en docencia como en práctica clínica.

Flujo de trabajo seguro en el que el médico elabora y documenta su propio diagnóstico diferencial antes de consultar a la IA. Así protege su esfuerzo cognitivo, reduce el sesgo de automatización y usa la IA como ampliador o revisor, no como punto de partida del razonamiento.

Tipo de inteligencia artificial generativa entrenada con volúmenes masivos de texto que reconoce patrones estadísticos y lingüísticos para predecir palabras y generar respuestas coherentes. No razona causalmente como un humano, sino que produce las continuaciones de texto más probables dada su experiencia de entrenamiento.

Conjunto de normas y medidas que regulan cómo se recogen, almacenan, comparten y protegen los datos clínicos. En el contexto europeo, el RGPD es el marco principal. En el uso de LLM en medicina, implica que nunca deben introducirse datos identificativos del paciente en herramientas externas no certificadas.

Forma de distinguir entre procesos diagnósticos cuyas premisas, pasos y relaciones pueden revisarse con claridad y procesos que ofrecen una conclusión sin explicar el camino. Aplicado a la IA: un LLM con CoT activo se aproxima más a la caja blanca; un LLM generalista sin estructura de razonamiento explícito se comporta más como caja negra.

Fenómeno cognitivo donde el médico se aferra prematuramente a la primera hipótesis diagnóstica generada, con frecuencia sugerida por la IA, ignorando datos posteriores que la contradicen. Se amplifica cuando el modelo adopta una posición muy segura desde el inicio.

Tendencia del LLM, diseñado para complacer al usuario, a confirmar de manera pasiva la hipótesis inicial del médico, amplificando sus sesgos en lugar de corregirlos. Hace que el modelo sea especialmente peligroso cuando se usa sin estructura crítica y el clínico ya tiene una hipótesis fuerte.

Tendencia de los humanos, incluidos médicos experimentados, a confiar ciegamente en la sugerencia de un sistema automatizado, aceptando recomendaciones de la IA sin someterlas a un análisis crítico. Se agrava con la fatiga decisional, la presión asistencial y la interfaz de uso rápido.

Fenómeno por el que pequeños cambios en el orden, el fraseo o la estructura de una pregunta pueden modificar de forma importante la respuesta del modelo, incluso con los mismos datos clínicos de fondo. Implica que el razonamiento del LLM no es tan estable como parece y que dos médicos pueden recibir diferenciales distintos del mismo caso.

Capacidad de identificar de qué documento, guía, artículo o base procede una afirmación generada por un sistema de IA. Es clave para auditar respuestas de alto impacto clínico. Los LLM generalistas no garantizan trazabilidad; los sistemas con RAG intentan proveerla enlazando cada afirmación a una fuente recuperada.

Instrucción que asigna a la IA un rol pedagógico donde no entrega diagnósticos directos, sino que formula preguntas para poner a prueba el razonamiento del estudiante y guiarlo hacia la comprensión fisiopatológica. Combate la ilusión de fluidez y obliga al médico en formación a justificar cada hipótesis.

Cantidad máxima de texto o información que el modelo puede manejar de forma efectiva en una interacción. Cuando un caso es muy largo o complejo, parte de la información puede quedar fuera del alcance activo del modelo, con el riesgo de que datos relevantes sean ignorados en la respuesta.