Workflows & Tools

Früher Anthropic-Mitarbeiter und ehemaliger METR-COO haben einen Weg gefunden, unkontrollierte KI-Agenten einzudämmen

1 Min. Lesezeit Kalina

Bilanz der Quelle: TechCrunch porträtiert AIUC, ein Startup, das einen unabhängigen Prüf- und Zertifizierungsrahmen für KI-Agenten nach Vorbild von SOC 2 entwickelt. Gegründet wurde es von einem frühen Anthropic-Mitarbeiter und dem ehemaligen METR-COO; das System umfasst 5.000 Tests auf Jailbreaks, Halluzinationen und Datenlecks, einen rund 100-seitigen Bericht pro KI-Agent sowie quartalsweise Rezertifizierung mit KI-gestützter Prüfung und menschlicher Kontrolle. AIUC hat eine 40-Millionen-Dollar-Series-A-Finanzierung abgeschlossen.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von techcrunch.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Workflows & Tools