Cohere har lanserat en offentlig betaversion av Confidential Computing på Model Vault, företagets hanterade AI-tjänst, med NVIDIA H100-GPU:er på Microsoft Azure. Systemet är utformat för att skydda data under behandling. Med fjärrattestering kan kunder kontrollera att miljöns maskinvara, fasta programvara och programvara följer en godkänd policy innan de skickar känsliga förfrågningar. Cohere uppger att förfrågningarna krypteras från början till slut till den miljön, och att kunderna kan fortsätta använda de Cohere-API:er de är vana vid. Företaget betonar att skyddet inte ersätter säkerheten i applikationer, efterlevnad av regler, avtalsmässiga skyddsåtgärder eller krav på var data lagras.
Varför det spelar roll
För jurister, finans- och ingenjörsteam som hanterar känsliga dokument eller källkod ger betaversionen möjlighet att kontrollera behandlingsmiljön innan data skickas. Den löser dock inte andra krav på säkerhet eller regelefterlevnad.
