Obtenir un raisonnement structuré avec LLMs dans des contextes chaotiques avec des suggestions de fil de pensée et une récupération parallèle de graphes de connaissances

Acquérir une pensée structurée grâce aux LLMs dans des contextes chaotiques avec des suggestions de fil de pensée et une récupération parallèle de graphes de connaissances

Les grands modèles de langage (LLM) ont démontré des capacités impressionnantes d’apprentissage en quelques exemples seulement, s’adaptant rapidement à de nouvelles tâches avec seulement quelques exemples.

Pourquoi RAG (Retrieval Augmented Generation) deviendra un pilier de la conception de système utilisant LLM…

Les avancées récentes dans les grands modèles de langage (LLM) comme GPT-3 [1] ont démontré de puissantes capacités d’apprentissage en quelques exemples…

ai.plainenglish.io

Cependant, malgré leurs avancées, les LLMs sont toujours confrontés à des limites dans le raisonnement complexe impliquant des contextes chaotiques surchargés de faits disparates. Pour relever ce défi, les chercheurs ont exploré des techniques telles que le guidage de la chaîne de pensée qui guide les modèles dans l’analyse progressive des informations. Cependant, ces méthodes ont du mal à capturer tous les détails critiques dans des contextes vastes.

Cet article propose une technique combinant le guidage de la chaîne de pensée (ToT) avec un cadre de génération augmentée par recherche (RAG) accédant à plusieurs graphiques de connaissances en parallèle. Tandis que ToT agit comme “épine dorsale” du raisonnement qui structure la réflexion, le système RAG élargit les connaissances disponibles pour combler les lacunes. L’interrogation parallèle de sources d’informations diverses améliore l’efficacité et la couverture par rapport à la récupération séquentielle. Ensemble, ce cadre vise à améliorer la compréhension et les capacités de résolution de problèmes des LLMs dans des contextes chaotiques, se rapprochant de la cognition humaine.

Nous commençons par expliquer le besoin d’un raisonnement structuré dans des environnements chaotiques où les faits pertinents et non pertinents s’entremêlent. Ensuite, nous présentons la conception du système RAG et comment il élargit les connaissances accessibles d’un LLM. Nous expliquons ensuite comment intégrer le guidage ToT pour guider de manière méthodique le LLM dans l’analyse étape par étape. Enfin, nous discutons des stratégies d’optimisation telles que la récupération parallèle pour interroger efficacement plusieurs sources de connaissances simultanément.

À travers les explications conceptuelles et les exemples de code Python, cet article met en lumière une nouvelle technique pour orchestrer les forces d’un LLM avec des connaissances externes complémentaires. Des intégrations créatives comme celle-ci soulignent des directions prometteuses pour surmonter les limitations inhérentes des modèles et améliorer les capacités de raisonnement de l’IA. L’approche proposée vise à fournir un cadre généralisable pouvant être amélioré davantage à mesure que les LLMs et les bases de connaissances évoluent.

Le Besoin de…

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

AI

Accélérer les charges de travail d'entraînement PyTorch avec FP8

Les dernières années ont vu des avancées révolutionnaires dans le domaine de l'IA, peut-être mieux illustrées par la ...

AI

« Cet article sur l'IA présente RMT une fusion de RetNet et de Transformer, pionnier d'une nouvelle ère d'efficacité et de précision de la vision par ordinateur. »

Après son apparition en NLP, le Transformer a été transféré dans le domaine de la vision par ordinateur, où il s̵...

AI

Découvrez TEXTure un nouveau cadre d'intelligence artificielle (IA) pour la texturation guidée par texte des maillages 3D.

La génération de texte vers image est un domaine de recherche novateur et fascinant dans le domaine de l’intell...

AI

Évaluer les grands modèles de langage pour la qualité et la responsabilité

Les risques associés à l'IA générative ont été largement médiatisés. La toxicité, les biais, la fuite d'informations ...

AI

Construction de structures optiques robustes faites de ténèbres

Une équipe de chercheurs de l'Université de Harvard a utilisé des métasurfaces pour générer et manipuler des régions ...