Cohere heeft een openbare bèta aangekondigd van Confidential Computing op Model Vault, zijn beheerde AI-dienst, die gebruikmaakt van NVIDIA H100-GPU’s op Microsoft Azure. Het systeem is bedoeld om gegevens te beschermen terwijl ze worden verwerkt. Klanten kunnen met remote attestation vóór verzending van gevoelige verzoeken controleren of de hardware-, firmware- en softwareomgeving voldoet aan een goedgekeurd beleid. Volgens Cohere worden verzoeken end-to-end versleuteld naar die omgeving verstuurd en kunnen klanten de vertrouwde Cohere-API’s blijven gebruiken. Het bedrijf waarschuwt dat deze bescherming geen vervanging is voor applicatiebeveiliging, compliance, contractuele waarborgen of vereisten rond gegevenslokalisatie.
Waarom het ertoe doet
Voor juridische, financiële en technische teams met gevoelige documenten of broncode biedt de bèta een manier om de verwerkingsomgeving te controleren voordat ze gegevens versturen. Aan andere beveiligings- en compliancevereisten voldoet de bèta daarmee niet automatisch.