Cohere hat eine öffentliche Beta für Confidential Computing auf Model Vault angekündigt, seinem verwalteten KI-Dienst, der NVIDIA H100-GPUs auf Microsoft Azure nutzt. Das System soll Daten während ihrer Verarbeitung schützen. Kunden können per Remote Attestation prüfen, ob Hardware, Firmware und Software der Umgebung einer genehmigten Richtlinie entsprechen, bevor sie sensible Anfragen senden. Laut Cohere werden Anfragen Ende-zu-Ende bis zu dieser Umgebung verschlüsselt. Dabei können Kunden weiterhin die gewohnten Cohere-APIs nutzen. Das Unternehmen weist darauf hin, dass dieser Schutz weder Anwendungssicherheit, Compliance und vertragliche Kontrollen noch Anforderungen an den Datenstandort ersetzt.
Warum es wichtig ist
Für Rechts-, Finanz- und Entwicklungsteams, die mit sensiblen Unterlagen oder Quellcode arbeiten, bietet die Beta eine Möglichkeit, die Verarbeitungsumgebung vor der Datenübermittlung zu prüfen. Andere Sicherheits- und Compliance-Anforderungen werden dadurch jedoch nicht erfüllt.
