Après le « spam », l'intelligence artificielle nous présente sa propre version de déchets numériques : le « slop ». Un contenu sans âme, produit en masse à des fins de monétisation, qui menace d'inonder Internet.
Qu'est-ce qu'une bouillie ?
Le terme « contenu de mauvaise qualité » désigne les textes, images, vidéos et autres contenus générés automatiquement par des outils d'intelligence artificielle générative, sans intervention humaine ni contrôle de qualité. Contrairement aux contenus générés par IA intentionnellement ou avec l'aide d'humains, ce contenu n'a pas pour but d'informer ou de divertir. Son seul objectif est de se faire passer pour du contenu créé par des humains afin d'attirer du trafic, de gonfler les statistiques ou de générer des revenus publicitaires.
Ce système n'est pas interactif et ne répond à aucun besoin réel. Il s'agit d'une automatisation pure et simple, conçue pour exploiter les faiblesses des algorithmes et générer des revenus passifs avec un investissement minimal.
Pourquoi cela pose-t-il problème ?
Tout comme les spams ont jadis envahi nos boîtes mail, les contenus de mauvaise qualité polluent désormais nos recherches, nos réseaux sociaux et nos plateformes de contenu. Leur prolifération est alimentée par la rapidité et le faible coût de leur génération grâce à l'intelligence artificielle.
Le problème, c'est que, même si personne ne souhaite consommer ce type de contenu, le modèle économique d'Internet l'encourage. L'intelligence artificielle générative a facilité la création de textes, d'images et de vidéos à l'échelle industrielle, sans égard à leur qualité ni à leur utilité.
Exemples de situations problématiques dans le monde réel :
-
Un article de voyage recommandait de visiter une banque alimentaire comme s'il s'agissait d'une attraction touristique à Ottawa.
-
Des livres sur les champignons publiés sur Amazon, écrits par une IA, avec des conseils qui pourraient être mortels.
Certains de ces exemples peuvent paraître absurdes, mais beaucoup d'autres sont tout simplement frustrants ou une perte de temps. Pire encore, ils nous obligent à trier un nombre croissant de contenus de piètre qualité avant d'accéder à des informations réellement utiles. À terme, cela érode la confiance des utilisateurs envers tous les types de contenus, même les plus légitimes.
La réponse (insuffisante) des géants de la tech
Le secteur technologique a réagi lentement face à la menace du slop. Certaines mesures ont commencé à être mises en œuvre :
-
Les métadonnées (Facebook, Instagram) exigent l'étiquetage du contenu généré par l'IA.
-
TikTok automatise le balisage de ce contenu.
-
Google teste actuellement des résumés automatisés dans ses résultats de recherche, ce qui, paradoxalement, pourrait aggraver le problème en brouillant davantage la frontière entre les processus humains et automatisés.
Simon Willison , développeur et l'un des premiers à utiliser le terme « slop », affirme que définir et nommer ce phénomène est essentiel pour sensibiliser le public à ses dangers. De même que le terme « spam » a permis de lutter contre les courriers indésirables, parler ouvertement de « slop » pourrait être un premier pas vers sa compréhension et sa réglementation. Il prévient toutefois qu'éradiquer le « slop » sera bien plus difficile qu'éliminer le spam.
Internet zombie ?
La prolifération de contenus de mauvaise qualité s'ajoute à un phénomène encore plus inquiétant : ce que certains appellent l' internet zombie . Jason Koebler , journaliste chez 404 Media, le définit comme un environnement numérique « dysfonctionnel et dénué de sens » où les véritables liens sociaux n'existent plus.
Ce nouvel écosystème est composé de bots, de comptes inactifs, d'utilisateurs réels et de contenus générés par l'IA, le tout se mêlant dans un chaos où il devient difficile de distinguer le vrai du faux. L' Internet vide , une théorie qui circule depuis des années, prend tout son sens : nous naviguons dans un océan d'apparences, où l'authenticité se fait de plus en plus rare.
Suivant?
Le phénomène de « saleté » est là pour durer, du moins pour l'instant. L'intelligence artificielle n'est pas le problème en soi, mais plutôt son utilisation aveugle et automatisée à des fins purement lucratives. Le défi réside dans la manière dont nous réagissons en tant que société numérique : des utilisateurs aux développeurs, en passant par les plateformes et les organismes de réglementation.
Nommer le problème, comme ce fut le cas pour le spam, est la première étape pour le résoudre. Et aujourd'hui, ce problème s'appelle la pollution.
Article original de Javier Lacort | 16 juin 2024, publié dans Xataka.
