Aller au contenu
L'édition

Le Pharandol n°26 « Hacker vaillant, rien d’impossible ! »

Page 40–41 sur 44

Page 40 sur 44
Page 41 sur 44

Le texte de la page

Pages 40–41

Tel qu'il est imprimé, pour le lire sans loupe, le copier ou l'écouter avec un lecteur d'écran.

Page 40

PHiLO PHARE

L’EXPÉRiENCE DE L'iA DOiT ÊTRE MAîTRiSÉE AVANT QU'ELLE NOUS MAîTRiSE

L'intelligence arti cielle me paraît a priori être unefiarme à deux tranchants. Il va de soi que l'IA va envahir le territoire de la santé, de l'éducation, de la finance et de l'économie en général…

Cela veut dire qu'elle est donc a priori tributaire de tous ceux qui auront alimenté ces bases de données. Il est évident que les auteurs qui auront conçu ces bases de données ne seront pas exempts de subjectivité, de parti pris, de conditionnements multiples, d'idées préconçues ou culturellement marquées …

L'IA n'est qu'un outil et pas du tout la dépositaire de la vérité qu'on ne pourrait pas discuter.

Elle peut donc se tromper et être amplement manipulée par les concepteurs des données dans le but de servir des intérêts particuliers, des groupes d'influence, des multinationales, des trusts financiers …

Comme tout progrès technologique celui-ci a sans doute son bon côté pour un certain nombre de personnes. Mais chaque bonne chose a aussi son mauvais côté. Si l'IA tombe entre les mains de personnes malveillantes ou des pouvoirs qui sont pervers par dé nition, l'IA peut se transformer en instrument de contrôle, de manipulation et de domination.

Ce n'est pas en soi cet outil nouveau, pouvant rendre service aux humains, qui fait problème, ce sont les personnes qui vont l'utiliser et leurs intentions !

L'IA, semble fonctionner par "modélisation probabiliste" ; elle passe par une analyse des données auxquelles elle accède. Elle opère par synthèse et en fait une restitution rapide et précise à partir de toutes les informations existantes dans les bases de données.

38

Si le WEF oufil'OMS se servent de l'IA, on peut déjà prévoir qu'elle sera un instrument de manipulation systémique des masses. Or, lequel d'entre nous aujourd'hui peut encore faire la moindre conflance à toute structure de pouvoir ?

Pour l'utilisation efficace de l'IA il est indispensable de poser des questions précises. Il est nécessaire de confronter les réponses de l'IA avec des informations provenant de sources fiables. Si je pose une question particulière à l'IA, jefidois être un connaisseur entraîné du domaine exploré afin de pouvoir évaluer la pertinence des réponses qui auront été données par l’IA.

Page 41

PHiLO PHARE

Il est plus que jamais nécessaire de développer son esprit critique, sa conscience des choses que l'on examine et une sorte d'expertise si l'on ne veut pas êtrefiabusé par des contenus trompeurs.

Les informations ainsi distribuées peuvent induire un biais cognitif en faveur d'un système, d'un pouvoir, d'une politique, d'une idéologie quelconque tout en étouffant la critique dissidente !

Si nous prenons l'habitude de nous reposer sur l'IA, nous allons perdre nos capacités personnelles à réfléchir, analyser, critiquer, décider par nous-mêmes. L'IA ne peut pas se substituer à notre intelligence qui implique la conscience.

Il est important de comprendre les principes de base du fonctionnement de l'IA pour évaluer ses limites.

C’est pour cette raison qu’il faut impérativement que les programmes éducatifs intègrent l'utilisation de l'IA dans la formation des jeunes, faute de quoi les jeunes adopteront une manière super cielle d'utiliser cet outil en oubliant de développer parallèlement leur esprit critique et les compétences requises pour en retirer une vraie valeur ajoutée.

L'IA doit être une simple collaboratrice, une aide pour la mémoire, mais pas une décisionnaire. La technologie doit être au service de l'humain et non pas l'humain au service de la technologie.

319 personnes en provenance de plusieurs secteurs professionnels ont participé à une étude "The Impact of Generative AI on Critical Thinking" dirigée par Carnegie Mellon University.

Ces personnes ont partagé 936 exemples d'utilisation de l'outil IA générative dans leur travail.

Dans quel cas les travailleurs utilisent leur pensée critique et comment l'utilisation de cet outil peut-il affecter le travail cognitif de la personne humaine ?

Résultat : plus je me confie à l'IA, moins je fais référence à ma pensée critique.

L'automatisation des tâches entraîne une baisse de la pratique du raisonnement critique et atténue le degré de préparation à la gestion des situations exceptionnelles.

iA QWEN

Si la collecte de données sur les individus est facilitée par l'utilisation de l'IA, il y a aussi le danger de voir se développer un dressage à la pensée unique. La censure par les algorithmes canalise les esprits vers une pensée convenue, autorisée, uniformisée.

Avant l'arrivée de l'IA, les travailleurs du savoir étaient exécutants et créateurs de contenus. Avec l'IA, les travailleurs du savoir font de la supervision et de l'intégration des résultats de l'IA.

39