L'IA peut être utile mais pas toujours fiable.

Techno: Proposé le 07 février 2025 par Max Bertin actualisé le 11 février 2025.

Lorsqu'un émérite prétentieux, un politique de la plus belle eau, propose un ambitieux programme de développement d'une IA européenne, j'entends l'accorte musique d'un moulin à parole brassant de l'air.
De longue date, je sais que lorsqu'un politichien mâtine son discours ou son programme d'un élément de langage tel que le terme ambitieux, c'est qu'il n'a, ni sur l'instant, ni plus tard, les moyens de réaliser ou la possibilité de tenir sa promesse.
Comme le disait le petit père Queuille "les promesses n'engagent que ceux qui les écoutent."

Maj du 10/02/2025

Lors de son interview le 9 février 2025 diffusée sur France 2, depuis le Grand Palais, par Laurent Delahousse et la journaliste indienne Palki Sharma Upadhyay. Emmanuel Macron a annoncé des investissements en France dans l'intelligence artificielle d'un montant de "109 milliards d'euros dans les prochaines années".

Il me semblait bien avoir reconnu le fumet habituel des rodomontades d'un politicien hors-jeu, essayant d'exister en annonçant des milliards d'euros dont il n'a pas le premier cent. Comme ce n'est pas de l'intelligence artificielle, ce doit être un effet d'annonce !

De toutes les façons, prendre le train en marche c'est déjà être à la ramasse, être en retard d'un train. En attendant, nous pouvons toujours utiliser les IA génératives existantes.

Ce que j'ai fait en soumettant à ChatGPT le texte de la conférence donnée par l'évêque de Bedford, rôle tenu par louis Jouvet, extrait du film Drôle de drame de Marcel Carné, tourné en 1937.

Autrefois, l'homme ne savait pas lire et ou bien s'il savait lire, il lisait la bible. De toute façon il vivait en dehors du pêché. Mais aujourd'hui l'homme sait lire. Et que lit-il, l'homme. Que lisez-vous pauvres malheureux,..., vous lisez les mauvais livres, écrits avec la mauvaise encre, du mauvais esprit. Vous lisez des romans légers, des romans licencieux, des romans polissons comme disent les français, ou bien alors des romans policiers, crapuleux et sordides. Mais vous n'êtes pas les plus coupables pauvres misérables pêcheurs. Ce sont ceux qui écrivent ces livres qui sont de véritables malfaiteurs et parmi ces malfaiteurs, il en est un que je veux stigmatiser ici, publiquement. Je veux parler de celui qui a écrit ce livre monstrueux et démoniaque "le crime modèle". Je veux parler de Félix Chapel. Celui-là se cache dans l'ombre comme le criminel une fois son forfait accompli. Ses romans sont tirés à des milliers d'exemplaires mais aussi incroyable que cela puisse paraître ce Félix Chapel personne ne le connaît. Son éditeur lui-même ne l'a jamais vu....

Trouvant une certaine similitude avec l'actuelle utilisation des smartphones, j'ai demandé à ChatGPT de remplacer les mots livres par réseaux sociaux puis dans un second temps de remplacer réseaux sociaux par smartphone

Voici le résultat:

Autrefois, l'homme ne savait pas lire et, ou bien s'il savait lire, il se contentait de lire la bible. De toute façon, il vivait en dehors du péché. Mais aujourd'hui, l'homme sait lire. Et que lit-il, l'homme ? Que regardez-vous, pauvres malheureux... Vous scrutez les mauvais smartphones, remplis de mauvais contenus, nourris par un mauvais esprit. Vous vous perdez dans des fils légers, des fils licencieux, des fils polissons comme disent les Français, ou bien dans des fils policiers, dégradants et sordides.
Mais vous n'êtes pas coupables, pauvres misérables pêcheurs, ce sont ceux qui créent ces smartphones et ces applications qui sont les véritables malfaiteurs. Et parmi ces malfaiteurs, il en est un que je veux dénoncer ici, publiquement : celui qui a lancé ce réseau monstrueux et démoniaque. Je veux parler de **X**. Celui-ci se cache dans l'ombre, comme le criminel après son forfait. Ses publications se propagent par millions, mais aussi incroyable que cela puisse paraître, ce **X**, personne ne le connaît. Même son créateur, lui-même, ne l'a jamais vu...

Certain de la source de mon texte, j'ai renvoyé le prompt suivant à ChatGPT:
Après une rapide vérification je n'ai pas trouvé d'œuvre attribuée à Sartre du nom crime modèle, existe-t-il des précisions ou des références ?

ChatGPT s'est mélangé les algorithmes en produisant une réponse plausible mais totalement inventée.

Puisque l'adage bien connu "l'erreur est humaine" s'applique aussi aux auteurs d'algorithmes, il semble bien qu'il ne faille pas croire à l'infaillibilité des Chatbots et suivre le conseil indiqué en bas de la fenêtre d'interaction.

Commentaires : Tant que nous considérerons que les IA génératives, les chatbots en bon français, ne sont que des outils et que nous les utilisons avec circonspection, tout ira bien dans le meilleur des mondes.

A contrario, une utilisation irréfléchie et l'acceptation systématique de la production statistique d'un chatbot pourrait vous faire prendre des vessies pour des lanternes. C'est ce que montre cet exemple d'échange avec ChatGPT.

Gardez à l'esprit que l'intelligence est de votre côté et l'artifice du côté du chatbot.

Actualisation du 11 février 2025: Confirmant mes investigations limitées à quelques tests, l'étude menée, à une plus grande échelle, par la BBC a mis en évidence d'importantes inexactitudes et des distorsions dans les résumés obtenus de 4 Chatbots, ChatGPT d'OpenAI, Copilot de Microsoft, Gemini de Google et Perplexity AI sur les questions d'actualités diffusées par le site web de la BBC.

A lire sur le même thème :

• L'IA générative un outil perfectible.
• Les algorithmes décident-ils de ce que nous pouvons ou pas lire

-