IA générative avec Amazon Neptune

Analytique de graphe et base de données sans serveur hautes performances pour une capacité de mise à l’échelle et une disponibilité supérieures

Présentation

À mesure que les organisations développent et déploient des applications d’intelligence artificielle (IA) générative, leurs attentes en matière de précision, d’exhaustivité et d’explicabilité augmentent. Fournir un contexte spécifique à l’entreprise et au domaine grâce à des techniques telles que la génération à enrichissement contextuel (RAG) peut être utile dans une certaine mesure. La RAG est rentable, car elle fournit des informations actuelles et pertinentes pour l’IA générative tout en préservant la gouvernance et le contrôle des données.

La génération à enrichissement contextuel graphique (GraphRAG) fait passer la RAG à un niveau supérieur en exploitant la puissance de l’analyse graphique et de la recherche vectorielle pour améliorer la précision, l’exhaustivité et l’explicabilité des réponses de l’IA. GraphRAG y parvient en exploitant les relations entre les entités ou les éléments structurels des données, tels que les sections ou les titres contenant des morceaux de documents, afin de fournir les données les plus pertinentes en entrée aux applications RAG. Grâce à l’utilisation de graphes de connaissances, les applications RAG peuvent récupérer des connexions à sauts multiples entre des entités ou des sujets connexes et utiliser ces informations pour augmenter une réponse générative.

IA générative avec Amazon Neptune

Amazon fournit des chemins entièrement gérés et autogérés pour créer et exécuter des applications GraphRAG.

  • Entièrement géré  : Amazon Bedrock Knowledge Bases propose le premier service GraphRAG entièrement géré au monde avec Amazon Neptune. Il gère automatiquement la création et la maintenance de graphes et d’intégrations, permettant aux clients de fournir des réponses plus pertinentes aux utilisateurs finaux. En tant que service entièrement géré, vous évitez les difficultés liées à la configuration et à l’intégration avec d’autres LLM ou bases de données vectorielles. 
  • Autogestion : pour les utilisateurs qui souhaitent utiliser l’auto-hébergement ou avoir de la flexibilité pour se connecter à des sources de données personnalisées, intégrer des produits tiers (modèles de fondation, magasins vectoriels, magasins de données) et héberger eux-mêmes leur pile d’applications d’IA générative, vous avez deux options.
    • Boîte à outils GraphRAG AWS Python : AWS vient de publier une boîte à outils GraphRAG open source, qui prend en charge des modèles de fondation et de graphe à jour. Elle fournit un cadre pour automatiser la construction d’un graphe à partir de données non structurées et interroger ce graphe lorsque vous répondez aux questions des utilisateurs.
    • Frameworks open source : AWS soutient et contribue à des projets open source populaires, notamment LangChain et LlamaIndex pour la création de pipelines RAG de production.

Les utilisateurs qui ne connaissent pas les langages de requête pour les bases de données orientées graphe peuvent tirer parti de l’intégration de Neptune à LangChain. Cela vous permet d’interroger votre base de données orientée graphe Neptune en langage naturel. Par exemple, vous pouvez utiliser la chaîne NeptuneOpenCypherQAChain de Neptune pour traduire des questions posées en anglais en requêtes openCypher et renvoyer une réponse lisible par l’homme. Cette chaîne peut être utilisée pour répondre à des questions telles que « Quel aéroport américain propose les itinéraires sortants les plus longs et les plus courts ? »

LangChain est un framework Python open source conçu pour simplifier la création d’applications à l’aide de grands modèles de langage (LLM). L’intégration de Neptune à LangChain permet aux développeurs d’utiliser le framework open source de LangChain pour simplifier la création d’applications sensibles au contexte.

Grâce à Neptune et LangChain, vous pouvez renvoyer une réponse basée sur le contexte fourni et interroger une base de données orientée graphe Neptune à l'aide du langage de requête openCypher. Par exemple, vous pouvez utiliser la chaîne QA openCypher de Neptune pour traduire des questions posées en anglais en requêtes openCypher et renvoyer une réponse lisible par l'homme. Cette chaîne peut être utilisée pour répondre à des questions telles que « Combien d'itinéraires de départ l'aéroport d'Austin compte-t-il ? »

Pour en savoir plus sur la chaîne QA openCypher de Neptune, consultez la documentation LangChain open source.

LLamaIndex est un framework de données open source permettant de connecter des sources de données personnalisées à de grands modèles de langage (LLM) et de prendre en charge l'utilisation de graphes de connaissances avec les LLM.

Avec LlamaIndex, vous pouvez utiliser Neptune comme magasin de graphes ou magasin de vecteurs pour créer des applications d’IA générative à l’aide de techniques telles que GraphRAG.

Cas d'utilisation

GraphRAG peut être utilisé pour améliorer le centre de services informatiques et le centre d’appels. Par exemple, GraphRAG peut permettre aux équipes du centre d’opérations de sécurité (SOC) d’interpréter les alertes avec plus de précision afin de sécuriser les systèmes critiques. Un chatbot d’assistance aux membres du secteur de la santé peut trouver rapidement des informations pertinentes dans de grands volumes de littérature médicale afin de répondre à des questions complexes concernant les symptômes, les traitements et les résultats des patients.

Les applications GraphRAG peuvent fournir des informations approfondies aux équipes chargées des fonctions de l’entreprise, comme la planification financière et la comptabilité (FP&A), le marketing, le service juridique, les ressources humaines, etc. Par exemple, les équipes juridiques des entreprises peuvent trouver plus efficacement des informations sur les lois fiscales, les réglementations et les précédents afin d’élaborer des stratégies de gestion des affaires. Les équipes marketing peuvent créer des vues à 360 degrés des clients en fonction des liens sociaux et de l’historique des achats d’un prospect.

Les entreprises de tous les secteurs bénéficient de GraphRAG. Par exemple, dans l’industrie pharmaceutique, les équipes de R&D peuvent utiliser GraphRAG pour accélérer la recherche et les essais de médicaments. Dans le secteur de la banque d’investissement, la capacité de GraphRAG à cartographier des relations complexes et à fournir une vue globale des dossiers des entreprises aide les équipes de due diligence à découvrir des informations avec RAG, comme les droits réglementaires et la dynamique concurrentielle, qui ne seraient pas facilement apparentes autrement.

Les recommandations traditionnelles utilisent les services d’analytique manuellement pour générer des recommandations de produits. Neptune ML est capable d’identifier de nouvelles relations directement sur les données de graphe et de recommander à un joueur des jeux, des produits ou d’autres joueurs qui pourraient l’intéresser.

Tarification

Aucun investissement initial n’est nécessaire. Vous ne payez que pour les ressources AWS utilisées, telles qu’Amazon SageMaker, Neptune et Amazon Simple Storage Service (Amazon S3).

Mise en route

Il existe de nombreuses façons de commencer, notamment :