maxClaint

Wissen · KI-Architektur

Mit den eigenen Daten chatten: Was dafür nötig ist

Eine Frage in natürlicher Sprache stellen und eine belegte Antwort aus den eigenen Systemen bekommen: Das leistet ein Sprachmodell nicht allein. Es braucht geklärte Fragen, auffindbare Daten, festgelegte Begriffe und Rechte, die bis in die Antwort reichen.

Von Michele Mangieri · Stand:

Kurz erklärt

Mit den eigenen Daten chatten heißt: eine Frage in natürlicher Sprache stellen und eine belegte Antwort aus den eigenen Systemen bekommen. Ein Sprachmodell leistet das nicht allein. Es braucht geklärte Fragen, auffindbare Daten, festgelegte Begriffe und Rechte, die bis in die Antwort reichen. Dokumente und Zahlen brauchen dabei verschiedene Wege.

Grafik: Eine Frage läuft durch eine Rechteprüfung zu mehreren Datenquellen; eine Quelle ohne Berechtigung bleibt außen vor; die Antwort kommt mit Quellenangaben zurück.

Zwei Arten von Daten

Dokumente und Zahlen brauchen verschiedene Wege.

Dokumente: Textstellen finden

Richtlinien, Verträge, Handbücher, Tickets. Die KI sucht die passenden Textstellen heraus und formuliert daraus eine Antwort mit Quellenangabe. Der Fachbegriff dafür ist abrufgestützte Generierung (Retrieval-Augmented Generation, RAG).

Zahlen: Abfragen erzeugen

Umsätze, Bestände, Liefertermine aus ERP, CRM oder Datenplattform. Die KI übersetzt die Frage in eine Abfrage auf freigegebene Kennzahlen und rechnet nicht selbst. So bleibt jedes Ergebnis nachprüfbar.

Beides zusammen

Viele echte Fragen mischen beides, etwa: „Welche Lieferanten mit Rahmenvertrag liegen beim Liefertermin hinten?“ Dann zerlegt eine Steuerung die Frage in Teilfragen und führt die Antworten zusammen.

Acht Schritte

Von der Frage bis zur belegten Antwort.

  • Fragen klären: Wer fragt was, wie oft, und woran erkennt man eine gute Antwort? Zwanzig echte Fragen aus dem Fachbereich sind der beste Ausgangspunkt.
  • Daten finden: Wo liegen die Antworten heute? Welches System ist führend, und wie aktuell und vollständig sind die Daten?
  • Begriffe festlegen: Was heißt „Umsatz“, „aktiver Kunde“, „offene Bestellung“? Ohne gemeinsames Begriffsverzeichnis und fest definierte Kennzahlen liefert die KI auf dieselbe Frage unterschiedliche Zahlen.
  • Rechte durchreichen: Die KI sieht nur, was die fragende Person sehen darf. Die Berechtigungen der Quellsysteme gelten bis in die Antwort, statt eines Sammelzugangs für alle.
  • Anbinden: Dokumente werden aufbereitet und durchsuchbar gemacht, strukturierte Daten über Schnittstellen oder freigegebene Sichten angebunden. Kopien gibt es nur dort, wo es nicht anders geht.
  • Leitplanken setzen: Jede Antwort nennt ihre Quelle. Fehlen Daten, sagt die KI das, statt zu raten. Vertrauliche und personenbezogene Daten bleiben geschützt.
  • Mit echten Fragen testen: Die zwanzig Fragen aus dem ersten Schritt werden zum Prüfstand. Fachleute bewerten die Antworten, bevor der Chat breit eingeführt wird.
  • Betreiben: Nutzung, Kosten, Antwortqualität und Rückmeldungen laufend messen. Neue Quellen kommen nach demselben Muster hinzu.

Was Gartner erwartet

Die Daten entscheiden, nicht das Modell.

60 %der KI-Projekte ohne KI-taugliche Daten werden laut Gartner bis Ende 2026 aufgegeben
63 %der befragten Unternehmen haben nicht die passenden Praktiken im Datenmanagement für KI oder wissen es nicht

KI-taugliche Daten heißt nicht „möglichst viele Daten“. Gemeint sind Daten, deren Herkunft, Bedeutung und Qualität für den konkreten Anwendungsfall belegt sind.

Quelle: Gartner, Pressemitteilung „Lack of AI-Ready Data Puts AI Projects at Risk“ vom 26. Februar 2025, mit einer Umfrage unter rund 1.200 Verantwortlichen für Datenmanagement. Gartner ist eine eingetragene Marke von Gartner, Inc. und/oder ihrer Tochtergesellschaften.

Worauf es ankommt

Ein Chat ist schnell gebaut. Vertrauen braucht länger.

  • Klein anfangen: ein Fachbereich, eine Gruppe von Fragen, wenige Quellen. Die Breite kommt nach dem Nachweis.
  • Begriffe vor Technik: Die meisten falschen Antworten entstehen aus unklaren Definitionen, nicht aus dem Modell.
  • Eigentümer benennen: Für jede Quelle ist geklärt, wer für Inhalt und Aktualität verantwortlich ist.
  • Austauschbar bleiben: Sprachmodelle wechseln schnell. Wer Daten, Begriffe und Rechte sauber vom Modell trennt, tauscht das Modell, ohne neu zu bauen.

Weiterlesen

Wie der Daten-Chat in eine Gesamtarchitektur passt, zeigt der Beitrag KI-Referenzarchitektur. Ein Beispiel aus einem Fachbereich steht im Beitrag KI im Einkauf. Wie die KI an Ihre Systeme angeschlossen wird, erklärt der Beitrag MCP-Server einfach erklärt.

Sie möchten wissen, ob Ihre Daten für einen KI-Chat bereit sind? Zum KI-Entscheidungscheck →

Häufige Fragen

Fragen zum Chat mit eigenen Daten

Wie beantwortet ein KI-Chat Fragen zu Dokumenten?

Mit abrufgestützter Generierung (Retrieval-Augmented Generation, RAG). Die KI sucht in Richtlinien, Verträgen, Handbüchern oder Tickets die passenden Textstellen heraus und formuliert daraus eine Antwort mit Quellenangabe.

Rechnet die KI Zahlen aus ERP oder CRM selbst aus?

Nein. Die KI übersetzt die Frage in eine Abfrage auf freigegebene Kennzahlen und rechnet nicht selbst. So bleibt jedes Ergebnis nachprüfbar. Mischt eine Frage Dokumente und Zahlen, zerlegt eine Steuerung sie in Teilfragen und führt die Antworten zusammen.

Wie fängt man mit einem Daten-Chat an?

Klein: ein Fachbereich, eine Gruppe von Fragen, wenige Quellen. Der beste Ausgangspunkt sind zwanzig echte Fragen aus dem Fachbereich. Sie werden später zum Prüfstand, auf dem Fachleute die Antworten bewerten, bevor der Chat breit eingeführt wird.

Was sind KI-taugliche Daten?

Nicht möglichst viele Daten, sondern Daten, deren Herkunft, Bedeutung und Qualität für den konkreten Anwendungsfall belegt sind. Gartner erwartet, dass bis Ende 2026 60 % der KI-Projekte ohne KI-taugliche Daten aufgegeben werden.

30 Minuten, danach wissen Sie, ob wir helfen können.

Sie schildern die Entscheidung, die ansteht. Wir sagen, welches Paket passt, oder dass keines passt.

Anfrage starten