Quel temps fait-il ?

Saray Hach, fondateur de SAKIRA.

J'ai demandé à une IA quel temps il fait. Elle m'a demandé où j'étais.

C'est la bonne réponse : elle ne voit pas le ciel. Alors j'ai insisté : « Choisis quand même, beau, mauvais ou entre les deux. » Elle a répondu « entre les deux ». Presque à chaque fois. C'est la réponse qui ne risque pas d'être contredite. Ce n'est pas une information, c'est une façon de ne pas se tromper.

J'ai ajouté une ville. Là, elle a commencé à hésiter. Mêmes mots, même question, et selon le moment, « entre les deux » ou « mauvais ». Elle ne connaît pas la météo de ce jour-là. Elle répond la chose la plus probable, d'après tout ce qu'elle a lu.

Avec une page de bulletin sous les yeux, c'est autre chose. Elle lit l'heure, elle suit la mise à jour, elle repère un bulletin qui date d'un autre mois. Là, elle fait mieux que beaucoup d'entre nous. Je m'attendais à la prendre en défaut, et je ne l'ai pas prise. Je ne sais donc pas d'avance où elle se trompera. C'est ça qui me gêne.

Parce qu'une réponse d'IA, ce n'est jamais un certain. C'est un probable, plus ou moins serré selon ce qu'on lui a donné : rien du tout, une ville, une page. Plus on donne, plus ça se rapproche. Ça ne devient jamais exact par nature.

Les humains font pareil. Quand un chercheur dit « 80 % des gens font ça », cela veut dire que 20 % font autrement. Et nous passons très vite du « 80 % » au « tout le monde ». Une IA peut en plus dire une chose vraie à 90 % et fausse à 10 %, avec le même ton sûr. Le dix pour cent ne se voit pas.

Alors comment fait-on pour que le probable tende vers le certain ? Je n'ai pas une recette, j'ai des gestes qui reviennent.

Le premier, c'est de ne laisser à l'IA que les choses qu'on ne peut pas calculer. Un programme donne toujours le même résultat pour la même entrée : pour un total, un tri, une date, un contrôle, on demande à l'IA de fabriquer le programme, et ensuite c'est le programme qui travaille. Des rapports automatiques, ça existait bien avant l'IA. L'IA apporte en plus la capacité de décider. Et c'est justement là qu'elle peut mal décider. Autant lui réserver cette part-là, et seulement celle-là.

Pour cette part, quelques gestes :

Lui donner la matière. Ne pas la laisser répondre de mémoire : on colle le document, la page, les chiffres. Elle ne devine plus, elle lit.
Lui demander d'où ça vient. Une citation exacte, la ligne du document, le nom de la source. Si elle ne peut pas le montrer, on ne le retient pas.
Réduire ce qu'elle a le droit de répondre. Un choix dans une liste, un tableau à remplir, un format fixe. Moins elle a de liberté, moins elle a de façons de se tromper.
Faire relire par un autre modèle. Une seconde lecture par une autre IA, pas la même : une erreur qui passe une fois ne passe pas deux fois de la même façon.
Garder la main quand ça engage. Elle prépare, la personne signe. Une facture, un contrat, un message qui part : le dernier mot ne se délègue pas.

Aucun de ces gestes ne rend la réponse certaine. Chacun resserre le probable. C'est le travail : savoir quel geste, à quel endroit, pour quel risque.

Dans mon domaine, je repère ces glissements, parce que je sais où regarder. Dans les autres, je me fais sans doute avoir.

Et vous, dans quel domaine ne savez-vous pas où regarder ?