El mayor error a la hora de automatizar

alejandramaal
5 nov
3 Min. de lectura

Cada día oímos más noticias sobre automatizaciones masivas que reemplazan equipos enteros. Recientemente oímos que Amazon planea eliminar 14,000 posiciones de trabajo (1). Sin embargo, en medio de esta transformación, hay una cosa que no merece ser olvidada: gran parte de las automatizaciones están diseñadas para maximizar las métricas equivocadas, lo que las hace menos efectivas de lo que se cree.

La ilusión de eficiencia

El mayor problema de las automatizaciones modernas no suele ser técnico. Es posible construir una automatización con la mejor tecnología y un diseño impecable, pero completamente inútil. El verdadero desafío al implementarlas está en qué tarea se automatiza y, sobre todo, qué métricas se usan para evaluarlas. A la hora de escoger estas métricas, es importante recordar la ley de Goodhart:

“Cuando una medida se convierte en un objetivo, deja de ser una buena medida.”— Charles Goodhart

En el fondo, todas las automatizaciones buscan lo mismo: generar valor y hacer a la empresa más productiva. Sin embargo, como no podemos medir “valor”, necesitamos medidas que lo aproximen. Hasta acá suena obvio, sin embargo, escoger buenas métricas es mucho más difícil de lo que parece.

IA para contratación

Un ejemplo concreto para darle forma a este concepto es el de las LLM para contratación. Con el alto volumen de currículums que reciben las empresas, leerlos todos se vuelve complicado, y evidentemente el proceso se puede volver más eficiente con ayuda de LLMs.

La tarea en principio es fácil: se hace una lista de las características deseadas y se pide que, por cada hoja de vida, se haga un estimado de qué tanto el candidato cumple cada uno de los requisitos. Aunque esto ha generado problemas de prompt injection (2), a los que merece la pena ponerles atención, el asunto no acaba ahí.

El problema más preocupante es que, dentro de muchas de las ventajas que se citan, se destaca que se acorta el ciclo de contratación. Esto implica menos recursos invertidos y la capacidad de hacer un onboarding a los empleados más rápidamente. Sin embargo, a una persona observadora no se le habrá pasado el problema con esto: evaluar el proceso de contratación con base en la velocidad es incorrecto.

Métricas mejores serían:

Duración promedio de las personas contratadas.
Reportes de rendimiento de los empleados.
Integración cultural.

Si se optimiza solo por rapidez y costo, se genera rotación más alta y talento peor alineado. En otras palabras, se ahorra tiempo, pero el valor para la empresa es negativo. En casos como este, implementar una automatización para acelerar el proceso solo hará repetir ese error a escala.

IA para atención al cliente

Otro ejemplo son los chatbots automatizados de atención al cliente. Muchas empresas miden su éxito en términos de costo por interacción o tiempo promedio de respuesta. Ambas métricas suenan razonables, hasta recordar que el objetivo del soporte no es responder rápido, sino aumentar la satisfacción del cliente.

Reducir costos en atención al cliente es fácil. Lo difícil es mantener la confianza que hace que ese cliente vuelva. Cuando se automatiza sin rediseñar el propósito, puedes terminar sacrificando el vínculo humano que sostenía la relación comercial. No significa que automatizar el servicio de atención no sea satisfactorio; hay muchos casos donde la atención al cliente mejora, pero requiere habilidad y monitoreo constante.

La razón

La razón de fondo de esto es que muchas empresas implementan automatización como símbolo de progreso, no como herramienta de mejora estructural. Con todas estas noticias, es imposible no sentir la presión del mercado y tener miedo a parecer obsoletos. No hay una empresa que no esté pensando en cómo empezar a implementar la IA, si no lo ha hecho ya. El problema es que implementarla mal puede ser peor que no implementarla. Automatizar sin redefinir qué significa éxito es hacer la mejor cirugía cardiovascular a un paciente con hepatitis. La tecnología ayuda, pero no sustituye el proceso diagnóstico.

Conclusión

A la hora de implementar una automatización, lo más central no está en la tecnología, sino en entender bien los procesos y la razón de automatizar. Quien automatiza sin entender un proceso, solo por el fin de automatizar, automatizará errores en vez de generar valor. Quien automatiza de manera cuidadosa y con buena planeación tendrá una gran ventaja sobre quien no lo haga. En el futuro, no se tratará de quienes implementen IA vs. quienes no, porque todos lo harán, sino que la diferencia estará en quienes implementen IA de manera productiva y quienes no.