Photo de Chris Ried sur Unsplash

LLM en ligne avec Perplexity: lancement des LLMs interactifs avec information en temps réel

Kamleu Noumi Emeric 30 novembre 2023 Intelligence Artificielle, Technologies 1 commentaire 1,885 Vues

Perplexity, une start-up basée à San Francisco, a dévoilé deux nouveaux modèles de grands langages (LLM) en ligne : PPLX-7b et 70b.

Ces LLM en ligne cherchent à corriger certains des principaux inconvénients de nombreux LLM existants, notamment leur incapacité à fournir des informations précises et leur propension à halluciner de fausses informations.

Le LLM de Perplexity

Les LLM en ligne de Perplexity sont particulièrement capables de répondre à des questions basées sur des événements ou des données récents, car ils peuvent utiliser les informations les plus récentes sur Internet pour générer des réponses. Les modèles, par exemple, peuvent rendre compte des cours boursiers les plus récents, des résultats sportifs ou de l’actualité de Google.

Cet ancrage en temps réel contraste avec les LLM hors ligne tels que le GPT-3.5, qui dépendent uniquement de leurs données d’entraînement et se détériorent avec le temps. De plus, Perplexity utilise diverses stratégies pour améliorer l’exactitude des faits et réduire la production de fausses informations.

Les modèles PPLX ont été spécifiquement affinés par Perplexity sur des ensembles de données divers et de haute qualité afin d’optimiser leur utilité et leur caractère factuel. Ils sont construits sur les modèles open source Mistral-7b et Llama2-70b.

Comment les modèles PPLX se comportent-ils face à GPT 3.5?

Selon les tests préliminaires fournis par la société, les LLM en ligne de Perplexity sont égaux ou supérieurs aux capacités des principaux LLM privés tels que le GPT-3.5 en termes de robustesse, d’utilité et de connaissances dans les matières académiques. Les modèles PPLX peuvent fournir des faits et des données précis en réponse à des questions grâce à leur capacité d’accéder aux dernières données en ligne.

Comment les LLM en ligne surmontent-ils les obstacles de précision?

Les principales failles des LLM traditionnels ont été soulignées dans un article intitulé “FRESHLLMS : Refreshing Large Language Models with Search Engine Augmentation“. Il a notamment souligné l’incapacité des LLM à suivre la constante évolution des connaissances et leur propension à produire des réponses factuellement fausses ou des hallucinations.

L’article a présenté FRESHPROMPT, une technique qui améliore les performances des LLM en utilisant régulièrement des informations mises à jour à partir des moteurs de recherche, et a suggéré l’utilisation du système dynamique de réponses aux questions connu sous le nom de “benchmark FRESHQA”, qui vise à évaluer la nature factuelle des LLM.

Malgré ces développements, l’article a souligné un défi persistant pour les LLM : maintenir des réponses précises et à jour, en particulier dans les domaines de connaissances en constante évolution. Les nouveaux LLM en ligne de Perplexity sont spécialement conçus pour accéder en temps réel aux informations provenant d’Internet et les utiliser, répondant ainsi au problème crucial de précision et de fraîcheur auquel la plupart des LLM traditionnels sont confrontés. En abordant les problèmes soulevés dans l’article de FRESHLLMS, les modèles PPLX montrent une amélioration significative en termes de gestion de la fraîcheur et de la véracité des réponses.

Comment accéder aux nouveaux LLM en ligne sur Perplexity

Les développeurs peuvent intégrer ces modèles dans leurs propres applications et sites web, car ils sont disponibles gratuitement via l’API Perplexity et l’interface web de Labs. Selon Aravind Srinivas, PDG de Perplexity, l’introduction de ces LLM en ligne à la fois performants et abordables marque un tournant dans la démocratisation de l’IA.

En conclusion, les modèles de Perplexity contribuent à égaliser les règles du jeu entre les grandes entreprises technologiques et les petites entreprises qui cherchent à tirer profit de l’IA en donnant aux utilisateurs un accès aux dernières données et informations du web. Perplexity ouvre la voie à un nouveau paradigme de recherche et de découverte d’informations axé sur les interfaces de conversation alors que les performances continuent de s’améliorer. Ses LLM en ligne nous rapprochent du moment où nous pourrons poser des questions à une IA de la même manière que nous le ferions à des experts humains et obtenir des réponses rapides, précises et nuancées.