L’intelligence en question

1. Journal du Yoga

  247 –   mars 2023

Rubrique « société » extrait de l'article de Isabelle Lu

Vous avez sans doute entendu parler de ces «robots conversationnels» gouvernés par l'intelligence artificielle. Ils s'appellent Chat GPT pour Open Al ou Bard pour Google. Entre fascination et peur, que peut-on en dire ?

Ils ont donc avalé et analysé des milliards de pages (ou d'œuvres) et sont capables de répondre à presque n’importe quelle question avec de courts textes ou des images bluffant, imitant la prose humaine !

On se souvient qu'en 2016, Microsoft avait perdu le contrôle de sa créature qui commençait à produire des contenus nazis. Des journalistes du « Monde » ont poussé ChatGPT dans ses retranchements pour comprendre que l'IA intégrée ne dirait jamais du mal d'un pays, ne prononcerait pas de discours de haine (ou négatifs), ne donnerait pas de conseils médicaux....

Bien sûr, ce que l'on entend, c'est que ces robots sont toujours le fruit d'une programmation, aussi intelligente soit-elle, avec les biais de différents intérêts qui vont avec. Il reste cependant fascinant et confondant de dialoguer avec ces machines, où l'on se demande à quel moment elles seront prises en défaut d’ignorance, de folie ou d'inconsistance, mais pire aussi, de manipulation.

Quels risques ?

L'Union européenne entend réguler l'intelligence artificielle estimant à la fois le projet prometteur et porteur de dangers. Baptisé « Al Art », l'idée est pour l'Europe, d'encadrer son usage, dont ceux qui devraient être interdits :

Les systèmes de « notation sociale » à la chinoise,

Les « techniques subliminales » visant à manipuler les citoyens,

Les logiciels « qui exploitent les vulnérabilités » âge, handicap... et aussi

La vidéosurveillance permettant « l’identification biométrique des personnes en temps réel dans l'espace public....

Une autre catégorie est appelée « à hauts risques » : par exemple,

Conduite autonome de véhicules, Notation d'examens, Tri de CV, Chirurgie assistée par robot,

Évaluation de preuves dans la justice. ….

Le texte imposerait alors de prévenir les utilisateurs qu'ils interagissent avec une machine ! De vérifier la « qualité » des données utilisées pour entraîner les logiciels.... On voit bien la difficulté de surveiller ces aspects par trop flous face aux lobbies puissants (Google, Meta, Amazon, OPEN IA qui les mettent en œuvre.

La responsabilité

La question est aussi celle de la responsabilité. Est-ce le créateur de l'outil (les programmeurs) ou celui qui l’utilise et le nourrit de données (Microsoft) qui est le responsable ?

Ou encore, qu'en est-il du droit d'auteur des données, images, textes, produits et créés et qui nourrissent ces monstres d'intelligence capables de dégurgiter des œuvres poétiques façon Houellebecq, des épopées du style de la Bhagavad Gîta  et des tableaux à la Cézanne, des sculptures à la Brancusi ?

Les journalistes sont eux aussi inquiets à double titre : celui de leur travail d'auteur, alors que les robots sont infiniment capables de résumer, synthétiser..., mais aussi du nivellement de l'information en général, capable de prendre le pouvoir de nos sociétés, trop pressées d'en savoir trop peu sur beaucoup de sujets.

Alors c'est quoi l'intelligence ? La main qui fait

Proposé par Catherine Cuney et Annie Bianchi