Modelle & Releases

SWE-bench: Can Language Models Resolve Real-World GitHub Issues?

1 Min. Lesezeit Kalina

Bilanz der Quelle: Princeton NLP researchers introduce SWE-bench, a benchmark for evaluating language models on real-world GitHub issues. The best model, Claude 2, resolves only 1.96% of the issues, highlighting the challenges in software engineering.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.