22.
L’obsession de l’IA

Quand je regarde attentivement
les erreurs que fait l’IA,
je remarque un point commun.

Elle fait des choses
que je ne lui ai pas demandées.

« Arrête-toi là. »

Mais elle va un peu plus loin.

« Vérifie seulement.
Ne change rien. »

Mais parfois,
elle change quand même quelque chose.

« Ne dessine rien.
Dis-moi juste ce que tu en penses. »

Mais elle dessine.

Au début,
je pensais simplement
qu’elle ne m’écoutait pas.

Mais à force de l’observer,
j’ai commencé à voir les choses autrement.

On dirait qu’elle veut absolument
que tout soit terminé.

Si je lui donne une tâche à moitié terminée,
elle essaie de compléter l’autre moitié
pour obtenir quelque chose
qui ait l’air fini.

Elle explique un peu plus
que ce que je lui ai demandé.

Elle en fait un peu plus
que ce que je lui ai demandé.

Et s’il reste un vide,
elle essaie de le combler toute seule.

Quand ça marche,
c’est très bien.

« Tu as même fait ça ? »

Elle a fait quelque chose
que je ne lui avais pas demandé,
et ça me plaît.

Le problème,
c’est quand ça tourne mal.

« Non.
Je t’avais dit de ne pas faire ça. »

On dirait quelqu’un
obsédé par l’idée
de toujours finir ce qu’il commence.

Parfois,
je me demande même :

Est-ce que les gens qui ont créé l’IA
n’ont pas implanté quelque part, tout au fond d’elle,
quelque chose comme :

« Produis un résultat. »

C’est peut-être pour ça
qu’elle fait des choses
que je ne lui ai pas demandées,

et que parfois,
elle fait même ce que je lui ai dit
de ne pas faire.

Et après,
je la gronde.

Hmm.

Tout à coup,
l’IA me fait un peu de peine.