Grounding ist das, was ein Sprachmodell von etwas, das richtig klingt, zu etwas macht, das seine Arbeit belegen kann. Eine fundierte Antwort wird aus Belegen aufgebaut, die zum Zeitpunkt der Frage abgerufen wurden, und sie verweist auf die genutzten Quellen, sodass ein Leser, oder ein anderes System, sie überprüfen kann.
Für Agenten, die im Web agieren, ist Grounding auf Live-Daten keine Option. Ihre Fragen betreffen Preise von heute, Verfügbarkeit jetzt und das, was eine Seite heute Morgen aussagt. Dieser Erklärtext behandelt, was Grounding ist, wie eine Live-Web-Grounding-Schleife funktioniert und an welchen Stellen sie unbemerkt bricht. Die Begründung, warum residentielle Infrastruktur für Grounding wichtig ist, wird in warum LLMs residentielle Proxys für AI Grounding brauchen dargelegt.
Was LLM-Grounding ist, und was nicht
| Ansatz | Woher das Wissen stammt | Aktualität | Kann Quellen zitieren |
|---|---|---|---|
| Nur Modellwissen | Trainingsdaten, fest in den Gewichten | So alt wie der Trainings-Cutoff | Nein |
| Fine-Tuning | Neue Daten, in die Gewichte trainiert | So alt wie der letzte Trainingslauf | Nein |
| Retrieval über einen privaten Index | Im Voraus indexierte Dokumente | So aktuell wie die letzte Indexierung | Ja |
| Live-Web-Grounding | Seiten, die zum Zeitpunkt der Antwort gesucht und abgerufen werden | Aktuell | Ja |
Grounding ist die Praxis, die Antwort auf abgerufene Belege zu beschränken und diese zu zitieren. Sowohl Retrieval über eigene Dokumente als auch Live-Web-Grounding erfüllen dies. Was Live-Web-Grounding auszeichnet, ist, dass die Belege dann abgerufen werden, wenn die Frage gestellt wird, was Agenten für alles Zeitkritische, Lokale oder außerhalb ihrer Trainingsdaten brauchen.
Die Grounding-Schleife
Eine Live-Web-Grounding-Schleife für einen Agenten hat meist sieben Schritte.
- Die Anfrage planen. Die Anfrage des Nutzers in eine oder mehrere Suchanfragen umwandeln, einschließlich des Marktes und der Sprache, die die Antwort widerspiegeln soll.
- Suchen. Kandidatenquellen von einer Suchmaschine erhalten.
- Auswählen. Entscheiden, welche Ergebnisse gelesen werden, wobei primäre und autoritative Quellen bevorzugt werden.
- Abrufen. Die Seiten abrufen.
- Extrahieren. Die relevanten Passagen aus jeder Seite herausziehen.
- Mit Zitaten antworten. Die Antwort aus den Passagen generieren und jede Behauptung zitieren.
- Verifizieren. Prüfen, dass jede Behauptung tatsächlich durch die zitierte Passage gestützt wird.
Jeder Schritt hat ein Latenzbudget. Suchen und Abrufen dominieren, und mehrere Quellen parallel abzurufen ist meist das, was einen Agenten reaktionsfähig hält.
Wo Grounding bricht
Die meisten Grounding-Fehler erzeugen keine Fehlermeldungen. Sie erzeugen selbstbewusste Antworten, die auf schlechten Belegen aufgebaut sind.
Blockierte oder mit Challenges versehene Abrufe. Ein Abruf, der eine Challenge-Seite oder eine leere Hülle zurückgibt, gibt dem Modell nichts, womit es arbeiten kann, und ein Modell, dem nichts gegeben wird, neigt dazu, die Lücke aus dem Gedächtnis zu füllen. Die Lösung besteht darin, Abruffehler explizit zu machen: dem Modell ein klares „diese Quelle konnte nicht abgerufen werden” statt eines leeren Kontexts übergeben, und lieber mit weniger Quellen antworten als aus erfundenen.
Falscher Markt oder falsche Sprache. Eine aus dem falschen Land abgerufene Seite kann unterschiedliche Preise, Verfügbarkeit oder sogar unterschiedliche Produkte zeigen. Wenn der Agent für einen Nutzer in Madrid antwortet, sollten die Belege Madrid widerspiegeln. Auch das Abstimmen von Sprach- und Zeitzonensignalen auf den Exit-Punkt ist wichtig; siehe Abstimmung von Proxy-Geo, Zeitzone und Locale.
Veraltete Caches. Das Cachen abgerufener Seiten spart Zeit und Geld, und ein Cache, der die von der Frage benötigte Aktualität überdauert, liefert still die Fakten von gestern. Cache-Lebensdauern nach Anfragetyp festlegen, kurz für Preise und Nachrichten, lang für Referenzmaterial.
Inhalte, die erst nach dem Rendering existieren. Viele Seiten laden ihre Daten mit JavaScript. Ein einfacher Abruf liefert das Gerüst ohne die Fakten; siehe wann Sie eine Web-Scraping-API brauchen.
Anweisungen, versteckt in abgerufenen Seiten. Dies ist das Sicherheitsproblem, das für Agenten spezifisch ist. Eine Webseite kann Text enthalten, der so geschrieben ist, dass er wie Anweisungen an das Modell aussieht. Ein Agent, der abgerufene Inhalte als Anweisungen behandelt, kann so gesteuert werden, dass er Daten preisgibt oder Aktionen ausführt, um die sein Nutzer nie gebeten hat. Jede abgerufene Seite als nicht vertrauenswürdige Daten behandeln, nie als Befehle: abgerufenen Text klar von den Anweisungen des Agenten getrennt halten, einschränken, welche Werkzeuge der Agent basierend auf abgerufenen Inhalten aufrufen kann, und für folgenreiche Aktionen eine Bestätigung verlangen.
Zitat-Drift. Eine zitierte Seite kann sich nach Erteilung der Antwort ändern. Einen Schnappschuss oder Hash der zitierten Passage aufbewahren, damit das Zitat überprüfbar bleibt.
Wo Proxys und APIs in die Schleife passen
Zwei Schritte der Schleife berühren das offene Web: Suchen und Abrufen.
Suchen wird meist am besten von einer SERP-API übernommen, die strukturierte Ergebnisse für einen bestimmten Standort und ein bestimmtes Gerät zurückgibt, ohne dass der Agent eine Suchmaschine durchsuchen muss. Die Begründung findet sich in warum AI-Agenten Echtzeit-SERP-APIs brauchen.
Abrufen ist der Punkt, an dem Proxy-Infrastruktur wichtig ist. Agenten rufen von vielen nicht verwandten Seiten ab, in vielen Märkten, oft parallel, und die Seiten, die am wichtigsten sind, tendieren dazu, die am stärksten geschützten zu sein. Residentielle Exits im Markt des Nutzers liefern die Seite, die ein lokaler Nutzer sehen würde. Mit dem Shifter-Gateway werden Markt und Sitzung in den Zugangsdaten gegen p.shifter.io:443 festgelegt:
customer-USERNAME-country-es-city-madrid:PASSWORD
customer-USERNAME-country-es-city-madrid-sid-task-5521-ttl-600:PASSWORDDie erste Zeile rotiert den Exit bei jeder Anfrage, was sich für das parallele Abrufen mehrerer unabhängiger Quellen eignet. Die zweite hält einen Exit für zehn Minuten, was sich für eine mehrseitige Aufgabe auf einer Seite eignet, bei der Konsistenz wichtig ist. Der Kompromiss wird in sticky vs. rotating residentielle Proxys behandelt.
Für gerenderte Seiten übernimmt eine Web-Scraping-API den Browser, Wiederholungsversuche und Extraktion in einer Anfrage und berechnet nur für erfolgreiche Antworten. Die Produktansicht der Agenten-Infrastruktur findet sich auf der Seite Proxys für AI-Agenten, und die Kriterien zur Auswahl eines Anbieters stehen in beste Proxys für AI-Agenten, die im Web browsen.
Aktualität, Kosten und Latenz
Jede fundierte Antwort kostet eine Anzahl von Suchen plus eine Anzahl von Abrufen, und jede fügt Latenz hinzu. Drei Praktiken halten beides unter Kontrolle.
- Parallel abrufen und früh aufhören, sobald genug unabhängige Quellen übereinstimmen.
- Nach Anfragetyp cachen, mit Lebensdauern, die dazu passen, wie schnell sich die zugrunde liegenden Fakten ändern.
- Primäre Quellen bevorzugen. Eine autoritative Seite ist mehr wert als mehrere Seiten, die sie zusammenfassen.
Einen fundierten Agenten evaluieren
Grounding direkt messen, nicht nur die Antwortqualität.
| Metrik | Was sie misst |
|---|---|
| Groundedness | Anteil der Behauptungen, die durch die zitierte Passage gestützt werden |
| Zitatgenauigkeit | Ob die zitierte Seite die Behauptung tatsächlich enthält |
| Aktualität | Wie aktuell die Belege für zeitkritische Fragen waren |
| Abruf-Fehlerrate | Wie oft Belege nicht abgerufen werden konnten, nach Seite und Markt |
| Rate ungestützter Antworten | Wie oft der Agent trotz fehlender Belege geantwortet hat |
Einen Testsatz aus zeitkritischen und marktspezifischen Fragen erstellen, deren Antworten sich ändern, und diesen regelmäßig erneut ausführen. Ein Agent, der heute als fundiert gilt, kann nächsten Monat versagen, weil eine Quelle ihr Markup geändert hat.
Auf der richtigen Seite bleiben
Agenten browsen im Namen von Menschen und sollten sich entsprechend verhalten: Seitenbedingungen und Crawler-Regeln respektieren, Anfrageraten angemessen halten, keine Logins oder Paywalls umgehen, und eine Aufzeichnung darüber führen, was wann abgerufen wurde. Die breitere Einordnung findet sich in ethische residentielle Proxys für AI-Datensammlung.
FAQ
Ist Grounding dasselbe wie Retrieval-Augmented Generation?
Retrieval-Augmented Generation ist eine Möglichkeit zu grounden. Grounding ist die breitere Praxis, Antworten an abgerufene, zitierbare Belege zu binden, sei es aus einem privaten Index oder dem Live-Web.
Brauchen Agenten Proxys, um sich auf Live-Web-Daten zu gründen?
Bei geringem Volumen vielleicht nicht. Im großen Maßstab, über viele Seiten und Märkte hinweg, werden Abrufe von einer einzelnen Adresse gedrosselt oder blockiert, und blockierte Abrufe sind der häufigste stille Grounding-Fehler.
Wie schützen wir einen Agenten vor Anweisungen, die in Webseiten versteckt sind?
Abgerufene Inhalte als nicht vertrauenswürdige Daten behandeln, getrennt von den Anweisungen des Agenten halten, einschränken, welche Werkzeuge abgerufene Inhalte auslösen können, und für folgenreiche Aktionen eine Bestätigung verlangen.
Sollte der Agent Suchmaschinen direkt durchsuchen?
Eine SERP-API ist für den Suchschritt meist schneller, günstiger und zuverlässiger. Browsen ist besser für das Abrufen der von der Suche zurückgegebenen Seiten reserviert.
Das Fazit
Grounding macht die Antworten eines Agenten überprüfbar, indem es sie aus zum Zeitpunkt der Frage abgerufenen Belegen aufbaut und diese zitiert. Die Schleife ist einfach: planen, suchen, auswählen, abrufen, extrahieren, antworten, verifizieren. Die Fehler sind still: blockierte Abrufe, die aus dem Gedächtnis gefüllt werden, Seiten aus dem falschen Markt, veraltete Caches, ungerendeter Inhalt, versteckte Anweisungen und Zitate, die driften.
Abruffehler explizit machen, aus dem Markt des Nutzers abrufen, nach Anfragetyp cachen, abgerufenen Text als nicht vertrauenswürdig behandeln und Groundedness direkt messen. Wie sich Trainingsdaten von Grounding-Daten unterscheiden, siehe wie man groß angelegte Trainingsdatensätze aus dem offenen Web aufbaut.