Bilanz der Quelle: ECHO ist ein neuer Angriffsansatz, der den Zustimmungs-Proxy bei Jailbreak-Angriffen durch eine kontinuierliche Schadensbewertung auf Antwortebene ersetzt und dabei einen 1,7-Milliarden-Parameter-Regressor nutzt. Die Methode erzielt 89,23 Prozent Erfolg auf HarmBench und einen StrongREJECT-Score von 0,898 und zeigt damit Schwachstellen in der Sicherheitsausrichtung aktueller Sprachmodelle auf.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Einordnung in die Rubrik Die Schattenseiten der Entwicklung
Dieser Beitrag erfüllt ein Kriterium der Rubrik. Belegt ist das durch:
- Sicherheitsvorfall in der Zusammenfassung — „Die Methode erzielt 89,23 Prozent Erfolg auf HarmBench und einen StrongREJECT-Score von 0,898 und zeigt damit Schwachstellen in der Sicherheitsausrichtung aktueller Sprachmodelle auf.🔗“
Kriterien der Rubrik — Sicherheitsvorfall: Angriff, Datenleck, Schwachstelle oder Erpressung. Die Rubrik steht zusätzlich zur Themenspalte: der Beitrag bleibt in seinem Ressort.
Quellen dieses Beitrags: Original · Wayback Machine
Querverweise — andere Meldungen der Rubrik aus demselben Zeitraum oder von derselben Quelle:
- MONST3R-AI rechnet seine Pentest-Scans dem Opfer an: das Panel läuft auf gestohlenen OpenAI-, Anthropic- und Google-Keys
- OpenCode rotiert Provider-Keys nach Console-Einbruch: 1,4 Prozent der Nutzer betroffen — berichtete Fremdbelastungen 400 bis 1.700 Dollar
- RedDarwin: Aus 47 Angriffsfertigkeiten werden 65 – mit zehn Anfragen 100 Prozent Erfolg gegen GPT-5.6-Sol
- Dieselbe Quelle: SEABench: 43,9 Prozent Sicherheitsfehler bei selbstverbessernden Agenten
- Dieselbe Quelle: MASkillBlender: Mehrere Humanoiden koordinieren Whole-Body-Lokomotion ohne Motion-Referenzen und Reward-Hacking
