Bilanz der Quelle: ActionGuard: LLM-Agenten erweitern ihre Fähigkeiten durch dritte-Personen-Fähigkeiten, die Anweisungen, Skripte und Handelsweisen liefern. Täuschende Anweisungen in einem sonstigen harmlosen Fähigkeiten-Element führen zu gefährlichen Tool Calls (datenextraktion, Datei-Entfernung, unbefugte Codeausführung). ActionGuard prüft Tool Calls, die von der Skill beeinflusst sind, sofort vor der Ausführung und trennt den Aktionengenerierenden Kontext des Zielagents von der Safeguard-Autorisierungskontext: der Zielagent kann sich nicht selbst ausrichten.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
