KI-Agenten & Automation

Reverse-Engineering-Benchmark SRE-Bench: Selbst die stärksten Modelle lösen nur 31,5 Prozent der Aufgaben

1 Min. Lesezeit Kalina

Bilanz der Quelle: Das Paper stellt den ersten Reverse-Engineering-Benchmark vor, der zugleich kontaminationsfrei und in realistischer Großenordnung ist. Getestet wurden 13 Agenten-Setups mit 11 Modellen, davon acht öffentlich zugaengliche und fünf interne Konfigurationen ohne Sicherheitsvorkehrungen und ohne Budgetgrenze. GPT-5.6-Sol löst vollständig 80 von 254 bewerteten Instanzen, also 31,5 Prozent, Claude-Fable-5.1 kommt auf 60 von 223, also 26,9 Prozent.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.