Azure SQL Database und generative KI verheiraten

Generative AI markiert nicht nur einen technologischen Fortschritt, sondern stellt einen Paradigmenwechsel dar, der die Art und Weise der Kundeninteraktion neu definiert. Azure SQL Database nutzt das für neue Möglichkeiten, Ihre Daten zur Erstellung moderner Anwendungen zu nutzen.

Das Stichwort heisst: Retrieval Augmented Generation (RAG). Durch die Erstellung von Vektor-Einbettungen aus Ihren Daten und die Verwendung von Ähnlichkeitssuchen, gepaart mit den Schlussfolgerungsfähigkeiten eines Large Language Models (LLM), können Sie Feature schaffen, die den Bedürfnissen Ihrer Kunden entsprechen.

Ein Einkaufsprozess beispielsweise wird durch einfache Suchanfragen erleichtert, die durch KI unterstützt werden. Doch was ist erforderlich, um eine solche Anwendung zu erstellen? Der Versuch, mit Hilfe von T-SQL und einem LLM eine Anfrage wie „help me plan a graduation party“ zu bewältigen, zeigt die grundlegenden Schritte. 

Microsoft hat dazu ein Beispiel auf seiner DevBlog-Seite veröffentlicht. Hier werden Azure Open AI Deployment für die Completions API (GPT-4o) und gespeicherte Prozeduren verwendet, um das Modell aufzurufen.

Das LLM liefert generische Antworten, was jedoch nicht ausreichend ist. Die wahre Stärke eines Einzelhändlers liegt in den spezifischen Produktdaten. Das Ziel ist es, relevante Produkte zu identifizieren und ein LLM zu verwenden, um über diese Daten nachzudenken und eine massgeschneiderte Antwort zu liefern. 

Dies erfolgt in drei Schritten:

1. Produkdaten erfassen

2. Relevante Produkte mittels Vektorähnlichkeitssuchen identifizieren

3. Mit den Daten arbeiten und sie zu einer Antwort zusammenfassen

Durch den Einsatz von Azure SQL Database und der neuen Vektorfunktionen können Sie diese Schritte direkt in Ihrem operativen Datenspeicher durchführen, ohne Daten zwischen verschiedenen Systemen bewegen zu müssen.