Perplexity utilise souvent le contenu généré par l'IA comme source, selon une étude

TL;DR

• Une étude a révélé que Perplexity cite régulièrement du contenu généré par l’IA comme sources de ses réponses.
• Perplexity est un moteur de recherche IA qui génère des réponses après avoir recherché des informations en ligne, similaire à la recherche Google.
• Une autre enquête a récemment allégué que Perplexity contournait les restrictions sur le web scraping afin d'améliorer son chatbot.

Le moteur de recherche basé sur l'IA Perplexity fait l'objet d'un examen minutieux et de critiques après la publication d'une étude alléguant que l'outil cite régulièrement les articles de blog générés par l'IA comme sources de ses réponses. Le rapportcompilé par le service de détection d'IA GPTZero, affirme que les utilisateurs rencontrent des « hallucinations de seconde main » ou des informations étayées par des sources générées par l'IA après seulement trois invites en moyenne.

L'étude a révélé que même si Perplexity cite des sources, elle ne prend souvent pas en compte l'authenticité du contenu. Cela signifie que le chatbot régurgitera les articles écrits par ChatGPT et les hallucinations de l'IA comme des faits. Pire encore, il présentait le contenu des sites de médias sociaux comme un fait – dans un exemple, une invitation à « festivals culturels à Kyoto, au Japon » a renvoyé une réponse plausible. Cependant, Perplexity a cité un seul article de LinkedIn généré par l'IA comme seule source pour cette invite.

GPTZero affirme pouvoir identifier le contenu généré par l'IA avec un taux de précision de 97 %. Forbes a également exécuté le contenu incriminé via un algorithme de détection d'IA différent et arrivé à la même conclusion. Dans une déclaration présentée à la publication, Dmitri Shevelenko, directeur commercial de Perplexity, a admis que l'outil de recherche attribue des scores de confiance à différents domaines. Ceci est similaire à la façon dont le PageRank de Google est censé fonctionner : les algorithmes déclassent et excluent les sites Web de mauvaise qualité.

Shevelenko a également confirmé que Perplexity utilise des algorithmes de détection d'IA internes pour signaler le contenu offensant. Cependant, il n'a fourni aucune explication sur la raison pour laquelle l'outil s'appuyait autant sur le contenu généré par l'IA, affirmant plutôt que l'étude ne représentait pas une « évaluation complète » des sources de Perplexity.

Perplexity a été fondée par Aravind Srinivas, qui a travaillé comme chercheur en IA chez OpenAI, et est actuellement évaluée à plus de 2 milliards de dollars. La société a attiré des investissements importants de la part de Nvidia et du fondateur d'Amazon, Jeff Bezos.

L’étude susmentionnée n’est pas la première controverse qui frappe la startup de l’IA ces dernières semaines. La semaine dernière, Filaire a affirmé que Perplexity avait supprimé le site Web de la publication malgré les tentatives des ingénieurs du site pour bloquer ces tentatives. Et après avoir testé le chatbot sur plusieurs invites, Filaire a également constaté que le chatbot faisait parfois des suppositions éclairées sur la base des URL des articles au lieu de les résumer directement. Le fondateur et PDG de Perplexity a déclaré à la publication que leurs conclusions reflétaient « une incompréhension profonde et fondamentale du fonctionnement de Perplexity et d'Internet ».