Generative KI mit Amazon Neptune

Leistungsstarke Diagrammanalyse und Serverless Datenbank für hervorragende Skalierbarkeit und Verfügbarkeit

Übersicht

Während Unternehmen Anwendungen für generative künstliche Intelligenz (KI) entwickeln und bereitstellen, steigen ihre Erwartungen an Genauigkeit, Vollständigkeit und Erklärbarkeit. Die Bereitstellung von unternehmens- und domänenspezifischem Kontext durch Techniken wie Retrieval Augmented Generation (RAG) kann in gewissem Maße helfen – RAG ist kosteneffizient, wenn es darum geht, aktuelle und relevante Informationen für generative KI bereitzustellen und gleichzeitig die Datenverwaltung und -kontrolle beizubehalten.

Graph Retrieval Augmented Generation (GraphRag) hebt RAG auf die nächste Stufe, indem es die Leistungsfähigkeit von Graphanalysen und Vektorsuche nutzt, um die Genauigkeit, Vollständigkeit und Erklärbarkeit von KI-Antworten zu verbessern. GraphRag erreicht dies, indem es Beziehungen zwischen Entitäten oder Strukturelementen in Daten, wie Abschnitte oder Titel mit Dokumentenblöcken, nutzt, um die relevantesten Daten als Eingabe für RAG-Anwendungen bereitzustellen. Mithilfe von Wissensgraphen können RAG-Anwendungen Multi-Hop-Verbindungen zwischen verwandten Entitäten oder Themen abrufen und diese Fakten verwenden, um eine generative Reaktion zu verstärken.

Generative KI mit Amazon Neptune

Amazon bietet vollständig verwaltete und selbstverwaltete Pfade für die Erstellung und Ausführung von GraphRAG-Anwendungen.

  • Vollständig verwaltet: Amazon Bedrock Knowledge Bases bietet mit Amazon Neptune den weltweit ersten vollständig verwalteten GraphRAG-Service. Es verwaltet automatisch die Erstellung und Pflege von Graphen und Einbettungen, sodass Kunden den Endbenutzern relevantere Antworten geben können. Als vollständig verwalteter Dienst vermeiden Sie die Herausforderungen, die mit der Einrichtung der Konfigurationen und der Integration in andere LLMs oder Vektordatenbanken verbunden sind. 
  • Selbstverwaltet: Für Benutzer, die nach Selbst-Hosting oder Flexibilität bei der Verbindung zu benutzerdefinierten Datenquellen, Integrationen mit Produkten von Drittanbietern (Basismodelle, Vektorspeicher, Datenspeicher) suchen und ihren Generative-KI-Anwendungs-Stacks selbst hosten möchten, gibt es zwei Optionen.
    • Python-Toolkit von AWS GraphRAG: AWS hat jetzt das Open-Source-GraphRAG-Toolkit veröffentlicht, das aktuelle Grundlagen- und Diagrammmodelle unterstützt. Es bietet ein Framework für die Automatisierung der Erstellung eines Diagramms aus unstrukturierten Daten und für die Abfrage dieses Diagramms bei der Beantwortung von Benutzerfragen.
    • Open-Source-Frameworks: AWS unterstützt beliebte Open-Source-Projekte wie LangChain und LlamaIndex für die Entwicklung von RAG-Pipelines für die Produktion und unterstützt sie.

Benutzer, die mit Abfragesprachen für Diagrammdatenbanken nicht vertraut sind, können die Integration von Neptune in LangChain nutzen. Auf diese Weise können Sie Ihre Neptune-Diagrammdatenbank in natürlicher Sprache hinterfragen. Sie können beispielsweise die NeptuneOpenCypherQAChain verwenden, um englische Fragen in openCypher-Abfragen zu übersetzen und eine menschenlesbare Antwort auszugeben. Diese Kette kann verwendet werden, um Fragen wie „Welcher US-Flughafen hat die längsten und kürzesten Abflugstrecken?“ zu beantworten.

LangChain ist ein Open-Source-Python-Framework, das konzipiert ist, um die Erstellung von Anwendungen mithilfe großer Sprachmodelle (LLMs) zu vereinfachen. Die Neptune-Integration in LangChain ermöglicht es Entwicklern, das Open-Source-Framework von LangChain zu verwenden, um die Erstellung kontextsensitiver Anwendungen zu vereinfachen.

Mit Neptune und LangChain können Sie eine Antwort basierend auf dem bereitgestellten Kontext ausgeben und eine Neptune-Graphdatenbank mithilfe der Abfragesprache openCypher abfragen. Sie können beispielsweise die Neptune openCypher QA Chain verwenden, um englische Fragen in openCypher-Abfragen zu übersetzen und eine menschenlesbare Antwort auszugeben. Diese Chain kann verwendet werden, um Fragen wie „Wie viele Ausgangsrouten hat der Flughafen Austin?“ zu beantworten.

Weitere Einzelheiten zur Neptune openCypher QA Chain finden Sie in der Open-Source-Dokumentation zu LangChain.

LlamaIndex ist ein Open-Source-Datenframework zum Verbinden benutzerdefinierter Datenquellen mit großen Sprachmodellen (LLM) und unterstützt die Verwendung von Wissensdiagrammen mit LLMs.

Mit LlamaIndex können Sie Neptune als Diagrammpeicher oder Vektorspeicher verwenden, um generative KI-Anwendungen mit Techniken wie GraphRAG zu erstellen.

Anwendungsfälle

GraphRAG kann verwendet werden, um den IT-Servicedesk und das Contact Center zu verbessern. GraphRAG kann es beispielsweise den Teams des Security Operations Center (SOC) ermöglichen, Warnmeldungen genauer zu interpretieren, um kritische Systeme zu schützen. Ein Support-Chatbot für Mitglieder des Gesundheitswesens kann schnell relevante Informationen aus großen Mengen medizinischer Literatur finden, um komplexe Fragen zu Patientensymptomen, Behandlungen und Behandlungsergebnissen zu beantworten.

GraphRAG-Anwendungen können Teams in Unternehmensfunktionen wie Finanzplanung und Buchhaltung (FP&A), Marketing, Recht, Personalwesen usw. tiefe Einblicke bieten. Zum Beispiel können Rechtsabeilungen von Unternehmen effektiver Informationen über Steuergesetze, Vorschriften und Präzedenzfälle finden, um Ideen für Fallstrategien zu entwickeln. Marketingteams können 360-Grad-Ansichten von Kunden auf der Grundlage der sozialen Verbindungen und der Kaufhistorie eines Interessenten erstellen.

Unternehmen aller Branchen profitieren von GraphRAG. In der Pharmaindustrie können Forschungs- und Entwicklungsteams GraphRAG beispielsweise verwenden, um Arzneimittelforschung und -studien zu beschleunigen. Im Investmentbanking-Bereich ist GraphRAG in der Lage, komplexe Zusammenhänge abzubilden und einen ganzheitlichen Überblick über Unternehmensanmeldungen zu bieten, was Due-Diligence-Teams dabei hilft, Erkenntnisse – wie regulatorische Rechte und Wettbewerbsdynamiken – mit RAG zu gewinnen, die sonst nicht ohne weiteres ersichtlich sind.

Herkömmliche Empfehlungen verwenden Analytik-Services manuell, um Produktempfehlungen abzugeben. Neptune ML ist in der Lage, neue Beziehungen direkt anhand von Diagrammdaten zu erkennen und auf einfache Weise eine Liste von Spielen zu empfehlen, die ein Spieler gerne kaufen würde, anderen Spielern zu folgen oder Produkte zu kaufen.

Preise

Es sind keine Vorabinvestitionen erforderlich. Sie zahlen nur für die genutzten AWS-Ressourcen wie Amazon SageMaker, Neptune und Amazon Simple Storage Service (Amazon S3).

Erste Schritte

Es gibt viele Möglichkeiten, um loszulegen, darunter: