IA générative: le dilemme

le pour et le contre

Gestion: Proposé le 4 mars 2025 par Max Bertin actualisé le 4 mars 2025.

De toutes parts, il nous est expliqué que l'IA générative est l'avenir de l'entreprise, à défaut d'être celui des employés qu'elle contribuera à faire disparaître en s'y substituant, en tout ou partie.
L'IA serait gage de gains de productivité considérables, principalement par la bien connue variable d'ajustement de la masse salariale.

Un exempe d'amélioration de la performance.

Meta va licencier ses employés les moins performants.

NY post annonce
Cliquez sur l'image pour accéder à l'article sur le New York Post.

Les moins performants: Ceux dont les tâches pourront être effectuées par une IA.

L'automatisation a souvent permis des améliorations de la productivité lorsqu'il s'agit de la répétition d'une même action ou série d'actions.

Appliquée à la pensée, cette automatisation me paraît quelque peu inquiétante et peu importe la sophistication du chatbot ou du LLM sur laquelle elle s'appuie.

Jusqu'à preuve du contraire, notre mode de pensée n'est pas binaire et les rares exemples où s'est appliqué ce système du pour ou du contre, cela fut ou l'est encore dans des pays à régime totalitaire

Voilà l'avenir plaisant promis par les promoteurs des IA génératives qui tentent par tous les moyens possibles de dominer, ce que l'on peut encore appelé, pour l'instant, le marché et plus largement de contrôler les populations devenues dépendantes, de manière addictive, de ces modèles de pensées structurées pour diriger le moindre de vos actes de la vie quotidienne

Quoi de plus simple, pas pour moi ni pour vous, bien sûr, que de biaiser volontairement les algorithmes afin de vous donner la réponse qui convient à la compagnie propriétaire du chatbot. La chose n'est pas nouvelle, on en voit déjà les prémices avec les zéros sociaux propagateurs de fausses nouvelles ou de vérités alternatives et générateurs de bulles informationnelles.

Mais qu'en sera-t-il quand les utilisateurs, à force d'usage et de délégation à l'IA, n'auront plus la capacité de raisonner et auront perdu l'habitude de penser par eux-mêmes ?

En attendant que se réalise cet avenir orwellien, les utilisateurs d'IA génératives seront rapidement confronter à un dilemme: vérifier ou non la production du Chatbot.

Or prendre le temps de vérifier le contenu sera contre-productif, si, in fine, vous adoptez sans restriction ou à l'aveugle la proposition du chatbot.
Certes, la production d'un chatbot n'est pas sans qualité et ne manque ni d'à-propos ni de pertinence, pour autant, il ne faut pas prendre au pied de la lettre tout ce qui s'affiche.
D'ailleurs Open AI vous avertit que "ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes."

Ne prenez pas pour argent comptant toute cette propagande promettant un monde meilleur grâce à l'intelligence artificielle. Il existe déjà des contre-exemples tel que ce témoignage rapporté par Franceinfo "Intelligence artificielle : "J'ai perdu 60% de mon chiffre d'affaires en quelques mois".

commentaire : Comme j'aime à le dire, ce n'est pas l'outil qui est mauvais mais l'usage que l'on en fait !

Lectures complémentaires : Print Friendly and PDF   fleche retour au debut
.