L’intelligence artificielle et les fake news
L’IA et la production de contenu
L’essor de l’intelligence artificielle (IA) a engendré une production de contenus massive, comme des articles, des images et des vidéos. Si cette avancée technologique apporte efficacité et accessibilité, elle soulève aussi un problème majeur : l’omniprésence des contenus générés par IA ainsi que ses potentielles dérives.
Les IA actuelles les plus avancées sont déjà en mesure de produire du contenu difficilement discernable de celui créé par l’humain. Les articles de presse, les images photoréalistes, les vidéos ou les deepfakes sont tellement précis que l’on peine à différencier le vrai du faux. Pour le moment, l’homme n’est pas totalement dépassé mais combien de temps encore pourrons-nous tenir ?
L’affaire de la forteresse fictive d’Amberlisihar sur Wikipédia illustre parfaitement ce danger. Pendant près d’un an, une page détaillée racontait l’histoire de cette forteresse ottomane vieille de 600 ans, ses batailles historiques et ses rénovations, le tout appuyé par des références totalement fictives.
« Le véritable problème avec ChatGPT réside dans son rapport aux sources. L’intelligence artificielle invente régulièrement des références qui n’existent pas, rendant la vérification particulièrement complexe. »
— Ilyas Lebleu, cofondateur du projet WikiProject AI Cleanup
Les réseaux sociaux et l’intelligence artificielle
Le cas présenté ci-dessus nous montre la capacité des IA à créer du contenu erroné mais crédible. Avec la puissance des réseaux sociaux, ces contenus atteignent une portée presque irréversible, ce qui engendre une viralité massive de ces fake news.
Le modèle économique des différentes plateformes encourage ce phénomène, car il repose principalement sur la notoriété du post ou du compte. Certains se laissent donc tenter par la facilité en créant, à l’aide des intelligences artificielles, du contenu erroné mais percutant, pour faire un maximum de vues ou de partager dans le but de se mettre en avant. Certains propagent des fake news pour tromper les utilisateurs, mais la plupart le font pour des raisons financières, car le retour sur investissement est rapide !
Même si les intelligences artificielles se démocratisent de plus en plus, certaines personnes peinent toujours à faire la différence entre informations réelles et fictives. Pour diminuer l’impact de ces fake news, différentes structures ont mis en place des systèmes de traçabilité des contenus IA, comme Meta avec Facebook et Instagram. Mais toutes les plateformes n’ont pas suivi le mouvement. La provenance des sources TikTok, laisse le libre choix à ses utilisateurs d’indiquer ou non. Cette manière de faire crédibilise encore plus les contenus créés par intelligence artificielle, car un utilisateur peu informé sur le sujet peut facilement tomber dans le piège de la désinformation si la mention « créé par IA » ne figure pas. Cela est d’autant plus dangereux que si un étudiant peu averti ou ne maitrisant pas l’outil, le résultat est parfois risible mais dangereux.
Conclusion
Aujourd’hui, pour qu’un réseau social puisse perdurer dans le temps, il doit attirer l’attention des utilisateurs afin d’avoir un taux de rétention élevé et d’augmenter les tarifs publicitaires. Même à une moindre échelle, le constat reste le même : un créateur de contenu doit également capter l’attention du public pour augmenter le taux d’engagement sur son compte et devenir intéressant aux yeux des « publicitaires ».
Cela amène naturellement à proposer du contenu pas toujours véridique, mais suffisamment surprenant et convaincant pour inciter au clic et à la réaction. Dans tout cela, l’IA vient accélérer le processus grâce à sa capacité à produire rapidement du contenu en grande quantité.
Tous ces éléments conduisent à la désinformation et aux fake news, car l’objectif recherché n’est plus de susciter l’intérêt en proposant du contenu de qualité, mais uniquement du contenu susceptible d’engendrer des réactions, même si erronées.
Sources :
Article de la RTS sur la menace de l’IA pour Wikipédia:
Créators :
https://creators.instagram.com/earn-cash-making-what-you-love?locale=fr_FR
Meta :
Tiktok et contenu IA :
https://support.tiktok.com/fr/using-tiktok/creating-videos/ai-generated-content