Los modelos de aprendizaje automático no siempre pueden manejar la realidad (mientras que la mayoría de los humanos sí)

Cada vez más directivos de empresa observan la inteligencia artificial (IA) y el aprendizaje automático (ML) como tecnologías de transformación que pueden mejorar la toma de decisiones, aumentar su eficiencia, evitar errores humanos y reducir costes. Sin embargo, para muchos trabajadores, el rendimiento constante e implacable que prometen las máquinas inteligentes aparece como seria amenaza para sus empleos. Después de todo, ¿qué humano puede igualar la productividad y efectividad de un sistema de ML, que no se cansa, no come y no pierde el tiempo en Instagram?

Pero, cuando lo teórico choca con la realidad, la realidad suele ganar. Y eso es porque la realidad es desordenada e imperfecta, llena de fallos imprevistos y giros en la trama. Traducido a los reinos de la IA y el ML, esto significa que los modelos de aprendizaje automático se alimentan de una gran cantidad de datos incompletos, confusos e inexactos, lo que corrompe el proceso de aprendizaje, distorsiona su percepción y conduce a predicciones incorrectas de patrones y resultados.

“En el momento en que se pone en producción un modelo [de aprendizaje de ML], se empieza a degradar”, escribe David Talby, colaborador de Forbes. “La precisión de su modelo estará en su mejor momento, hasta que empiece a usarse. Luego, se deteriora, y deja de predecir los cambios correctamente”.

Aunque Talby es un experto en esto, mi opinión es ligeramente diferente: el problema no es que los modelos de ML mundiales estén capacitados para predecir cambios. Más bien, el problema es que el modelo ML no fue entrenado para operar en un mundo así. Talby relata sus experiencias en un proyecto hospitalario en el que se puso en marcha un sistema de ML para predecir los reingresos en el plazo de un mes. En tres meses, el proyecto se había convertido en un desastre, y las capacidades predictivas empeoraron progresivamente.

“El cambio de ciertos campos en los registros de salud electrónicos facilitó la documentación, pero dejó otros campos en blanco”, asegura. “El envío de algunas pruebas de un laboratorio a otro supuso utilizar códigos diferentes. Comenzar a aceptar un nuevo tipo de seguro cambió el perfil de personas que llegaron a Urgencias. Cada uno de estos cambios rompió las características de las que dependía el modelo o cambió el contexto en el que se entrenó, lo que resultó en una menor precisión de sus predicciones”. Si esto fuera una escena de película, comenzaría a salir humo de una máquina confundida.

Talby ofrece algunos consejos prácticos, el mejor de los cuales es mantener a los humanos informados, cuando se inicia el proyecto. No se deje engañar, pensando que todos sus modelos de ML están maduros y listos para tomar decisiones racionales. Los científicos e ingenieros de datos deben vigilar de cerca los cambios en los datos de entrada, para minimizar las posibilidades de que estén sesgados y conduzcan a predicciones inexactas.

La lección más importante es que los seres humanos aún pueden aportar información, conocimientos y experiencia valiosos a las iniciativas de AI y ML empresariales. Las máquinas pueden recopilar y analizar más datos, y mucho más rápido que las personas, pero aún así las máquinas pueden ser engañadas con mala información, falta de información o contexto y una programación inadecuada.

Sí, los seres humanos también pueden ser engañados, pero aún tenemos esa extraña combinación de intuición, experiencia (directa e indirecta), escepticismo y una historia de pensamiento colectivo mucho más larga que la de las máquinas inteligentes. Estamos mejor preparados para anticiparnos y ajustarnos al caos, al ruido y a la confusa realidad. Y eso no es poco.

 

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: