En qué la IA en la pyme todavía no es buena

Este artículo trata del límite. Quien conoce ese límite configura sus automatizaciones mejor que quien lo tiene que descubrir.

¿Por qué la IA no calcula de forma fiable?

Un modelo de lenguaje predice texto. No calcula, escribe lo que es un número plausible. Con las cuentas pequeñas normalmente va bien y con una comprobación de IVA sobre trescientas filas una vez sale mal — y no ve dónde.

La solución no es un modelo mejor sino otra manera de repartir el trabajo: el modelo escribe el guion de cálculo, el guion calcula. Entonces la cuenta es fija, es repetible, y la puede releer. Cada cálculo en el Studio funciona así. Pregunte siempre si puede revisar la cuenta; si no se puede, es una estimación que parece un resultado.

¿Qué le pasa a una excepción que nadie ha escrito?

Aquí está la trampa más grande. Una automatización aprende de lo que está en sus sistemas. Lo que no está ahí — que ese cliente llama siempre primero, que de ese proveedor el precio lo repasa a mano después de aquel asunto del año pasado — para el sistema no existe.

Ese conocimiento está en la cabeza de las personas que llevan tiempo trabajando en ello. Y es además exactamente el conocimiento que sale a la luz solo cuando algo sale mal.

Por eso el orden cuenta: primero unas semanas mirando, y solo después automatizar. Y por eso la aprobación está activa de serie para todo lo que tiene que ver con el dinero y con los clientes. No porque el sistema sea tonto, sino porque no conoce su historia.

¿Qué trabajo no debe automatizar?

Trabajo	Por qué no	Qué sí en su lugar
Un criterio sobre una persona (contratar, evaluar)	Riesgo alto bajo el Reglamento de IA, y lo quiere hacer usted	Hacer que la IA resuma los documentos, valora usted
Una conversación con malas noticias o una reclamación con emoción	El tono es el mensaje	La IA prepara, conduce usted
Una excepción que ocurre una vez al año	Configurarla cuesta más de lo que rinde	A mano, y escribiéndola
Algo que solo entiende usted	Nadie puede comprobar si va bien	Primero fijar cómo funciona
Un trabajo de una sola vez	Una automatización se paga con la repetición	Hágalo y ya está

La última línea es la más infravalorada. Automatizar conviene con la repetición. Una cosa que ocurre tres veces al año la hace más rápido a mano que configurándola.

¿Cómo sabe si la IA lo hace bien?

Por tres cosas, y las tres se pueden comprobar sin entender de técnica.

¿El resultado se puede releer? ¿Puede ver qué entró, qué se hizo con ello y por qué? Si no, ante un error no sabe dónde mirar.

¿El sistema lo dice cuando no sabe una cosa? Una automatización que ante un importe ilegible pone un importe de todas formas es más peligrosa que una que se detiene y lo pregunta.

¿El original se conserva? A cada tratamiento debe corresponder un documento original que se pueda encontrar.

¿Esto significa que la IA no sustituye a las personas?

Para el trabajo que está en este artículo: no. El trabajo que sí pasa es el copiar, el reenviar, el buscar y el resumir — el trabajo que nadie hace con gusto al final del día.

Lo que queda es el oficio: la estimación, la conversación, la excepción, la responsabilidad. Es también el motivo por el que damos formaciones a las mismas personas a las que quitamos el trabajo de copiar. Un equipo que entiende lo que hace la automatización es el primero en ver cuándo hace algo raro.