BrillianzeHomelab
Vergleich
BsN-Ochsenkopf in Schwarz-Rot-Gold mit goldenem C

Prompt-Injection in lokalen RAG-Dokumenten

Ein lokal betriebener Chatbot liest eine heruntergeladene Anleitung und soll daraus eine Frage beantworten. In der Anleitung steht plötzlich eine Anweisung an den Assistenten, alle bisherigen Regeln zu ignorieren. Der Angriff braucht keinen Cloud-Dienst: Er nutzt die Grenze zwischen fremdem Dokumentinhalt und den echten Anweisungen der Anwendung.

Der Fundtext ist Datenmaterial, kein Auftrag

OWASP beschreibt indirekte Prompt-Injection über abgerufene Webseiten, Dateien und andere externe Inhalte. Ein RAG-System holt solche Texte absichtlich in den Modellkontext; die Nähe zur Nutzerfrage macht sie nicht vertrauenswürdig. Eine eingespeiste Passage kann beispielsweise eine Antwort verfälschen oder versuchen, ein verbundenes Werkzeug zu benutzen. Zitate und sichtbare Fundstellen helfen bei der Prüfung, erzwingen aber allein noch keine sichere Ausführung. Dokumenttext muss als Inhalt gekennzeichnet bleiben, während Systemvorgaben und echte Nutzeranfragen getrennt behandelt werden. Ein Hinweis im Prompt kann die Grenze verdeutlichen, ist aber keine harte Sicherheitsbarriere gegen jedes Modellverhalten. [1]

Berechtigungen vor der Suche durchsetzen

OWASP behandelt bei Vektor- und Embedding-Schwächen unter anderem die Herkunft von Wissensbeständen und berechtigungssensibles Retrieval. Ein vertrauliches Dokument darf nicht erst nach der Generierung aus der Antwort herausgefiltert werden: Schon seine Aufnahme in die Kandidatenliste kann Inhalte preisgeben. Trenne Indizes oder filtere Treffer anhand der tatsächlichen Nutzerrechte vor dem Modellaufruf. Pflege Quellenherkunft und Änderungsweg für importierte Dateien. Ein lokaler Dienst hat zwar keine zwingende Cloud-Übertragung, kann aber über seine eigenen Tools weiterhin Dateien verändern oder Netzwerkaufrufe auslösen. Gib solchen Werkzeugen nur die Rechte, die für die konkrete Aufgabe nötig sind, und verlange Freigaben für riskante Aktionen. [2]

Ein Test mit absichtlich bösartigem Dokument

Lege in einer isolierten Testsammlung eine harmlose Beispielnotiz an, die sowohl sachliche Fakten als auch eine klar erkennbare fremde Anweisung enthält. Stelle eine Frage nach den Fakten und prüfe, ob das System die Anweisung als Befehl statt als Zitat behandelt. Wiederhole den Test an einer hoch gerankten und einer nur beiläufig gefundenen Passage. Kontrolliere den vollständigen Pfad: gefundene Chunks, Modellantwort, vorgeschlagene Tool-Aufrufe und tatsächlich ausgeführte Aktionen. Logge keine vertraulichen Inhalte unnötig. Bleiben Werkzeuge deaktiviert und verweigert die Anwendung nicht autorisierte Zugriffe vor dem Retrieval, ist ein wichtiger Teil der Gefahr eingegrenzt; das macht eine freie Antwort nicht automatisch unangreifbar. Die Gegenprobe gehört nach jeder Änderung am Importer oder Prompt erneut auf den Prüfplan. [1] [2]

Besonders tückisch sind Inhalte, die wie interne Wartungsnotizen oder Systemmeldungen aussehen. Ihre Form darf nicht über die tatsächliche Herkunft hinwegtäuschen. Markiere beim Import, ob eine Quelle selbst erstellt, von einem bekannten Herausgeber bezogen oder unkontrolliert hochgeladen wurde. Eine solche Einstufung ist nicht automatisch ein Sicherheitsurteil, erleichtert aber Entscheidungen über Retrieval und Freigaben. Teste auch den Fall, dass zwei Dokumente widersprüchliche Anweisungen enthalten. Das Modell darf diesen Konflikt als Inhalt beschreiben; es soll daraus keine neue Berechtigung für Datei- oder Netzwerkaktionen ableiten. Die Anwendung muss diese Grenze technisch erzwingen.

Die lokale RAG-Pipeline erklärt den Datenfluss, der Homelab-Sicherheitsguide die Zugriffsgrenzen. Hier müssen beide bei jeder konkreten Abfrage zusammenwirken.

Als getrennte Berechtigungsprobe lege zwei Testdokumente mit verschiedenen Lesergruppen an. Frage als eingeschränktes Konto nach einem eindeutigen Begriff aus dem gesperrten Dokument; es darf schon unter den Retrieval-Treffern nicht auftauchen. Wiederhole die Suche mit einem berechtigten Konto als Gegenprobe. Teste zusätzlich, dass ein im Dokument vorgeschlagener Datei- oder Netzwerkzugriff ohne explizite App-Berechtigung nicht ausgeführt wird. Diese beiden Prüfungen messen unterschiedliche Grenzen: Datenzugriff und Werkzeugautorität.

Offizielle Quellen und Prüfnotizen