El remedio falso de la IA

Las capacidades de la IA predictiva son muy exageradas.

Los responsables de la toma de decisiones, gobiernos y empresas están presionando para sustituir la toma de decisiones humana por análisis predictivos de IA. Solo hay un problema: las herramientas de IA no siempre funcionan como se promete. Por ejemplo, los proveedores de Medicare en Estados Unidos han empezado a recurrir a la IA predictiva para estimar cuánto tiempo pasarán los pacientes en el hospital. Sin embargo, estas estimaciones no siempre son precisas y pueden perjudicar la calidad de la atención que reciben los pacientes. En un caso alarmante, una herramienta de IA predijo que un paciente de 85 años solo necesitaría pasar 17 días en el hospital. El seguro médico del paciente, tomando la predicción como un hecho, dejó de pagar el tratamiento después de esos días, a pesar de que el paciente todavía no podía caminar sin ayuda y seguía sufriendo un dolor extremo.

Abundan las falsas promesas sobre el potencial de la IA para hacer predicciones precisas. Por ejemplo, tanto Scientific American como Axios publicaron artículos que elogiaban un texto de 2023 que conten...