Après le « spam », l'intelligence artificielle nous présente sa propre version de déchets numériques : le « slop ». Un contenu sans âme, produit en masse à des fins de monétisation, qui menace d'inonder Internet.
Qu'est-ce qu'une bouillie ?
Le terme slopLe terme « slop », littéralement « contenu de mauvaise qualité », désigne les textes, images, vidéos et autres contenus générés automatiquement par des outils d'intelligence artificielle générative, sans intervention humaine ni contrôle qualité. Contrairement aux contenus générés par l'IA ou aux contenus intentionnels, le slop n'a pas pour but d'informer ou de divertir. Son seul objectif est de se faire passer pour du contenu créé par des humains afin d'attirer du trafic, de gonfler les statistiques ou de générer des revenus publicitaires.
Ce système n'est pas interactif et ne répond à aucun besoin réel. Il s'agit d'une automatisation pure et simple, conçue pour exploiter les faiblesses des algorithmes et générer des revenus passifs avec un investissement minimal.
Pourquoi cela pose-t-il problème ?
Tout comme les spams ont jadis envahi nos boîtes mail, les contenus de mauvaise qualité polluent désormais nos recherches, nos réseaux sociaux et nos plateformes de contenu. Leur prolifération est alimentée par la rapidité et le faible coût de leur génération grâce à l'intelligence artificielle.
Le problème, c'est que, même si personne ne souhaite consommer ce type de contenu, le modèle économique d'Internet l'encourage. L'intelligence artificielle générative a facilité la création de textes, d'images et de vidéos à l'échelle industrielle, sans égard à leur qualité ni à leur utilité.
Exemples de situations problématiques dans le monde réel :
-
Un article de voyage recommandait de visiter une banque alimentaire comme s'il s'agissait d'une attraction touristique à Ottawa.
-
Des livres sur les champignons publiés sur Amazon, écrits par une IA, avec des conseils qui pourraient être mortels.
Certains de ces exemples peuvent paraître absurdes, mais beaucoup d'autres sont tout simplement frustrants ou une perte de temps. Pire encore, ils nous obligent à trier un nombre croissant de contenus de piètre qualité avant d'accéder à des informations réellement utiles. À terme, cela érode la confiance des utilisateurs envers tous les types de contenus, même les plus légitimes.
La réponse (insuffisante) des géants de la tech
Le secteur technologique a réagi lentement face à la menace du slop. Certaines mesures ont commencé à être mises en œuvre :
-
Méta (Facebook, Instagram) nécessite l'étiquetage du contenu généré par l'IA.
-
TikTok automatise l'étiquetage de ce contenu.
-
Google Elle teste actuellement des résumés automatisés dans ses résultats de recherche, ce qui, paradoxalement, pourrait aggraver le problème en brouillant davantage la frontière entre l'humain et l'automatisé.
Simon Willison, développeur et l'un des premiers à utiliser le terme slopIl soutient que définir et nommer ce phénomène est essentiel pour sensibiliser le public à ses dangers. De même que le terme « spam » a permis de lutter contre les courriers indésirables, parler ouvertement de ce phénomène pourrait être un premier pas vers sa compréhension et sa réglementation. Il prévient toutefois qu'éradiquer ce phénomène sera bien plus difficile qu'éliminer le spam.
Internet zombie ?
La prolifération de ces déchets contribue à un phénomène encore plus inquiétant : ce que certains appellent le Internet zombie. Jason Koebler, journaliste chez 404 Media, le définit comme un environnement numérique « dysfonctionnel et dénué de sens », « où il n’y a plus de véritable lien social ».
Ce nouvel écosystème est composé de bots, de comptes inactifs, de vrais humains et de contenus générés par l'IA, le tout se mélangeant dans un paysage chaotique où il n'est plus facile de distinguer le vrai du faux. Internet videUne théorie qui circule depuis des années prend tout son sens : nous naviguons sur une mer d'apparences, où l'authenticité devient de plus en plus difficile à trouver.
Suivant?
Le phénomène de « saleté » est là pour durer, du moins pour l'instant. L'intelligence artificielle n'est pas le problème en soi, mais plutôt son utilisation aveugle et automatisée à des fins purement lucratives. Le défi réside dans la manière dont nous réagissons en tant que société numérique : des utilisateurs aux développeurs, en passant par les plateformes et les organismes de réglementation.
Nommer le problème, comme ce fut le cas pour le spam, est la première étape pour le résoudre. Et aujourd'hui, ce nom est… slop.
Article original de Javier Lacort | Publié le 16 juin 2024 dans Engadget.
