Früher Anthropic-Mitarbeiter und ehemaliger METR-COO haben einen Weg gefunden, unkontrollierte KI-Agenten einzudämmen
Workflows & Tools

Früher Anthropic-Mitarbeiter und ehemaliger METR-COO haben einen Weg gefunden, unkontrollierte KI-Agenten einzudämmen

1 Min. Lesezeit Kalina

Bilanz der Quelle: TechCrunch porträtiert AIUC, ein Startup, das einen unabhängigen Prüf- und Zertifizierungsrahmen für KI-Agenten nach Vorbild von SOC 2 entwickelt. Gegründet wurde es von einem frühen Anthropic-Mitarbeiter und dem ehemaligen METR-COO; das System umfasst 5.000 Tests auf Jailbreaks, Halluzinationen und Datenlecks, einen rund 100-seitigen Bericht pro KI-Agent sowie quartalsweise Rezertifizierung mit KI-gestützter Prüfung und menschlicher Kontrolle. AIUC hat eine 40-Millionen-Dollar-Series-A-Finanzierung abgeschlossen.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von techcrunch.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Kalina Digest unterstützen

Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.

Zum Shop →