Bilanz der Quelle: Sicherheitsausgerichtete Sprachmodelle werden zunehmend als Mehrturn-Assistenten genutzt, um unsichere Befehle über mehrere Gesprächsrunden zu verteilen. Gradientbasierte Erkennungsmethoden wie GradSafe, die für einzelne Eingaben entwickelt wurden, stoßen in solchen dynamischen Dialogen an ihre Grenzen. Die Studie untersucht, wie anfällig diese Detektionsmechanismen gegenüber der Fragmentierung von Jailbreaks in Multi-Turn-Szenarien sind.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
