Inside AI Search #4: Question Answering

In der Reihe „Inside AI Search“ zeigt Quasiris, was hinter den einzelnen Funktionen moderner KI gestützter Suche steckt. In diesem Beitrag geht es  um Question Answering. Die Idee ist einfach: Nutzer sollen nicht erst das richtige Dokument finden und anschließend selbst nach der Information suchen müssen. Sie stellen eine Frage und erhalten eine konkrete Antwort.

Technisch steckt dahinter jedoch deutlich mehr als ein Chatfenster.

Eine zuverlässige Question Answering Lösung muss verstehen, was gefragt wurde, wo die passende Information liegt und ob die vorhandenen Quellen überhaupt eine belastbare Antwort ermöglichen.

Was ist Question Answering?

Question Answering bezeichnet Systeme, die Fragen in natürlicher Sprache direkt beantworten.

Ein Nutzer fragt beispielsweise:

„Wie lange beträgt die Kündigungsfrist für Vertragstyp A?“

Eine klassische Suche liefert mehrere Verträge, Richtlinien oder FAQ Einträge.

Ein Question Answering System versucht stattdessen, zunächst die relevanten Informationen zu finden und daraus eine direkte Antwort bereitzustellen.

Dabei sollte die zugrunde liegende Quelle weiterhin verfügbar sein.

Das unterscheidet professionelles Question Answering von einem allgemeinen Chatbot, der ausschließlich auf seinem Modellwissen antwortet.

Die eigentliche Arbeit passiert vor der Antwort

Ein Large Language Model kann eine Antwort sehr überzeugend formulieren. Ob sie korrekt ist, hängt jedoch stark davon ab, welche Informationen ihm zur Verfügung stehen.

Deshalb besteht ein Question Answering Prozess meist aus mehreren Komponenten:

1. Frage verstehen

Was möchte der Nutzer tatsächlich wissen?

2. Relevante Informationen suchen

Welche Dokumente, Datenbanken oder Wissensquellen enthalten die Antwort?

3. Ergebnisse bewerten

Welche gefundenen Inhalte sind für die Frage besonders relevant?

4. Kontext zusammenstellen

Welche Passagen benötigt das Modell?

5. Antwort erzeugen

Die Information wird verständlich formuliert.

6. Quelle bereitstellen

Der Nutzer kann die zugrunde liegende Information nachvollziehen.

Die Qualität des Retrievals ist damit ein wesentlicher Bestandteil der Antwortqualität.

Eine Antwort kann mehrere Suchschritte benötigen

Einfache Fragen lassen sich häufig mit einem einzigen Dokument beantworten.

Unternehmensfragen sind jedoch oft komplexer.

Beispielsweise:

„Welche Serverkonfiguration verwendet Projekt X und läuft darauf die aktuelle Version unserer Software?“

Ein Dokument über Projekt X könnte lediglich eine Server ID enthalten.

Erst eine zweite Quelle enthält die technischen Eigenschaften des Servers. Eine dritte enthält möglicherweise die Systemanforderungen der aktuellen Softwareversion.

Moderne Question Answering Systeme müssen solche Informationsketten erkennen.

Google Research beschreibt 2026 genau diese Herausforderung bei Enterprise RAG. Klassische einstufige Retrievalsysteme stoßen bei Fragen an Grenzen, deren Antwort Informationen aus mehreren Quellen oder mehreren aufeinanderfolgenden Suchschritten benötigt. Agentische Retrievalverfahren zerlegen solche Fragen und suchen iterativ nach zusätzlichem Kontext.¹

Unternehmensdokumente sind komplexer als reiner Text

Wissen befindet sich nicht nur in Fließtext.

Berichte enthalten Tabellen. Präsentationen enthalten Diagramme. Handbücher verbinden Bilder, Überschriften und technische Werte. PDFs besitzen Layoutstrukturen, die für die Interpretation relevant sind.

Das macht Enterprise Question Answering anspruchsvoll.

Eine auf der ACL 2026 vorgestellte Enterprise RAG Methode berücksichtigt deshalb explizit die Struktur unterschiedlicher Dokumenttypen. Auf einem heterogenen Unternehmensdatensatz und zwei öffentlichen Benchmarks erzielte das Verfahren gegenüber visuellen Vergleichssystemen Verbesserungen von bis zu 32 Prozentpunkten, besonders bei berichtsähnlichen Dokumentstrukturen.²

Die praktische Konsequenz lautet:

Dokumente müssen nicht nur gespeichert werden. Ihre Struktur muss für die Suche nutzbar gemacht werden.

Direkte Antworten brauchen Grenzen

Ein gutes Question Answering System muss nicht nur wissen, wann es antworten kann.

Es sollte auch erkennen, wann die verfügbaren Informationen nicht ausreichen.

Nehmen wir die Frage:

„Wann wird Produkt X wieder verfügbar sein?“

Wenn keine Quelle einen Liefertermin enthält, sind verschiedene Reaktionen möglich.

Schlecht wäre:

„Produkt X wird voraussichtlich nächste Woche verfügbar sein.“

Besser wäre:

„In den verfügbaren Daten ist derzeit kein bestätigter Liefertermin hinterlegt.“

Diese Fähigkeit zur Zurückhaltung ist ein zentraler Bestandteil vertrauenswürdiger Question Answering Systeme.

Aktuelle Analysen von Search Augmented LLMs zeigen sogar, dass mehr Retrieval nicht automatisch zu besseren Antworten führt. Irrelevante oder verrauschte Suchergebnisse können die Qualität verschlechtern und zusätzliche Halluzinationen begünstigen.³

Mehr Daten sind also nicht automatisch besser.

Entscheidend sind die richtigen Daten.

Was Agentic Retrieval verändert

Klassisches RAG folgt häufig dem Schema:

Frage, Suche, Kontext, Antwort.

Bei komplexeren Aufgaben kann das zu starr sein.

Microsoft Research stellte 2026 mit AgenticRAG einen Ansatz vor, bei dem das Modell bestehende Enterprise Search Infrastruktur mit Werkzeugen zum Suchen, Öffnen, Navigieren und Zusammenfassen kombiniert. In den untersuchten Benchmarks erreichte der Ansatz unter anderem 92 Prozent Antwortkorrektheit auf FinanceBench und lag damit nur zwei Prozentpunkte hinter einem Szenario mit direktem Zugriff auf die korrekten Belege.

Das zeigt, wohin sich Question Answering entwickelt.

Die Suche liefert nicht mehr nur einmalig Kontext. Ein System kann aktiv feststellen:

Mir fehlt noch eine Information. Ich muss erneut suchen.

Wo Question Answering besonders sinnvoll ist

Direkte Antworten eignen sich vor allem für informationsintensive Prozesse.

Interne Wissenssuche

• Fragen zu Richtlinien, Prozessen und internen Dokumentationen können direkt beantwortet werden.

Technischer Support

• Mitarbeitende können Handbücher und Fehlerdokumentationen über natürliche Fragen durchsuchen.

Kundenservice

• Service Agents erhalten relevante Informationen aus mehreren Wissensquellen in einer Oberfläche.

Produktberatung

• Eigenschaften und Unterschiede zwischen Produkten können gezielt erklärt werden.

Self Service

• Kunden können Informationen abrufen, ohne die Struktur eines Portals kennen zu müssen.

Question Answering ersetzt die Dokumentensuche nicht

Direkte Antworten sind bequem. Es gibt jedoch Situationen, in denen Nutzer weiterhin das vollständige Dokument benötigen.

Bei Verträgen, technischen Vorschriften oder rechtlich relevanten Inhalten kann beispielsweise der genaue Wortlaut entscheidend sein.

Eine gute Search Experience sollte deshalb beides verbinden:

Direkte Antwort, wenn eine konkrete Information gefragt ist.

Originalquelle, wenn Details oder Kontext geprüft werden müssen.

Weitere Treffer, wenn mehrere Perspektiven oder Dokumente relevant sind.

Question Answering erweitert die Suche somit, statt sie vollständig zu ersetzen.

Wie lässt sich die Qualität prüfen?

Eine Antwort, die gut klingt, ist noch keine gute Antwort.

Für eine Bewertung sollten mehrere Ebenen betrachtet werden:

• Ist die Antwort fachlich richtig?
• Enthalten die Quellen tatsächlich die Aussage?
• Wurden die relevantesten Quellen verwendet?
• Wurden wichtige Einschränkungen übernommen?
• Kann das System unbeantwortbare Fragen erkennen?
• Funktionieren Berechtigungen korrekt?
• Wie aktuell sind die verwendeten Informationen?

Besonders im Unternehmensumfeld sollte die Evaluation mit realen Fragen aus dem jeweiligen Fachbereich erfolgen.

Eine allgemeine Benchmarkzahl kann diese Prüfung nicht ersetzen.

Fazit: Die beste Antwort beginnt mit der richtigen Suche

Question Answering macht Unternehmenswissen leichter zugänglich. Statt Dokumente manuell zu durchsuchen, können Nutzer ihre eigentliche Frage stellen und direkt mit der relevanten Information arbeiten.

Die Qualität entsteht jedoch nicht erst bei der Formulierung durch ein Sprachmodell. Sie beginnt beim Retrieval, bei den Datenquellen und bei der Entscheidung, welche Inhalte für eine Antwort verwendet werden dürfen.

Question Answering mit Quasiris umsetzen

Die Quasiris Search Cloud unterstützt Question Answering und verbindet natürliche Fragen mit Search und Retrieval über angebundene Wissensquellen.

Sie möchten direkte Antworten aus Ihren Dokumentationen, Wikis oder Produktdaten bereitstellen? Sprechen Sie mit unseren Search Experten über Ihren Use Case.

Welche AI Features ebenso einen Mehrwert bei Ihnen schaffen können, zeigen wir in unserem Überblick zu den AI Features der Quasiris Search Cloud.