Ce que l’IA ne sait pas encore bien faire dans les PME

Cet article traite de la limite. Qui connaît cette limite règle ses automatisations mieux que celui qui doit la découvrir.

Pourquoi l’IA ne calcule-t-elle pas de façon fiable ?

Un modèle de langage prédit du texte. Il ne calcule pas, il écrit ce qui est un nombre plausible. Sur de petites sommes, cela se passe généralement bien, et sur un contrôle de TVA de trois cents lignes, cela se passe mal une fois — et vous ne voyez pas où.

La solution n’est pas un meilleur modèle, mais une autre répartition du travail : le modèle écrit le script de calcul, le script calcule. La somme est alors établie, reproductible, et vous pouvez la relire. Chaque calcul dans le Studio fonctionne ainsi. Demandez toujours si vous pouvez revoir la somme ; si ce n’est pas possible, c’est une estimation qui a l’air d’un résultat.

Que se passe-t-il avec une exception que personne n’a écrite ?

C’est là que se trouve le plus grand piège. Une automatisation apprend de ce qui se trouve dans vos systèmes. Ce qui n’y est pas — que cette cliente-là appelle toujours d’abord, que chez ce fournisseur-là vous vérifiez le prix à la main depuis les ennuis de l’an dernier — n’existe pas pour le système.

Ce savoir est dans la tête de gens qui travaillent là depuis longtemps. C’est aussi précisément le savoir qui n’arrive sur la table que lorsque quelque chose se passe mal.

C’est pourquoi l’ordre compte : d’abord observer quelques semaines, seulement ensuite automatiser. Et c’est pourquoi l’approbation est requise par défaut pour tout ce qui touche à l’argent et aux clients. Non parce que le système serait bête, mais parce qu’il ne connaît pas votre histoire.

Quel travail ne devriez-vous pas automatiser ?

Travail	Pourquoi pas	Quoi à la place
Un jugement sur une personne (recruter, évaluer)	Risque élevé sous le règlement sur l’IA, et vous voulez le faire vous-même	Faire résumer les dossiers par l’IA, vous jugez
Un entretien avec une mauvaise nouvelle ou une réclamation chargée d’émotion	Le ton est le message	L’IA prépare, vous menez
Une exception qui survient une fois par an	La mise en place coûte plus qu’elle ne rapporte	À la main, et l’écrire
Quelque chose que vous êtes la seule à comprendre	Personne ne peut vérifier si cela tourne bien	Consigner d’abord comment cela fonctionne
Une tâche ponctuelle	Une automatisation se rembourse par la répétition	Faites-la, tout simplement

La dernière ligne est la plus sous-estimée. Automatiser vaut la peine quand il y a répétition. Ce qui arrive trois fois par an, vous le faites plus vite à la main que vous ne le mettez en place.

Comment savez-vous si l’IA le fait bien ?

À trois choses, et toutes les trois sont vérifiables sans compétence technique.

Le résultat est-il relisible ? Pouvez-vous voir ce qui est entré, ce qui en a été fait et pourquoi ? Sinon, en cas d’erreur vous ne savez pas où regarder.

Le système dit-il quand il ne sait pas ? Une automatisation qui saisit quand même un montant sur un montant illisible est plus dangereuse qu’une qui s’arrête et demande.

L’original est-il conservé ? Tout traitement suppose que le document d’origine reste retrouvable.

Cela veut-il dire que l’IA ne remplace pas les humains ?

Pour le travail dont parle cet article : non. Le travail qui passe bel et bien est le fait de retaper, de transférer, d’aller chercher et de résumer — le travail que personne ne fait avec plaisir en fin de journée.

Ce qui reste, c’est le travail de métier : l’appréciation, l’entretien, l’exception, la responsabilité. C’est aussi la raison pour laquelle nous donnons des formations aux mêmes personnes dont nous retirons la saisie. Une équipe qui comprend ce que fait l’automatisation est la première à voir quand elle fait quelque chose d’étrange.