Cohereは、Microsoft Azure上のNVIDIA H100 GPUを使ったマネージドAIサービス「Model Vault」で、機密コンピューティングのパブリックベータを開始した。このシステムは、データの処理中も保護するよう設計されている。顧客はリモートアテステーションを利用し、機密性の高いリクエストを送る前に、実行環境のハードウェア、ファームウェア、ソフトウェアが承認済みのポリシーに適合しているか確認できる。Cohereによると、リクエストはその環境までエンドツーエンドで暗号化され、顧客は従来どおりのCohere APIを利用できる。同社は、この保護機能がアプリケーションのセキュリティ、コンプライアンス、契約上の管理、データ所在地に関する要件に取って代わるものではないと注意を促している。
なぜ重要か
機密記録やソースコードを扱う法務、財務、エンジニアリングのチームにとって、このベータ版はデータを送る前に処理環境を確認する手段となる。ただし、ほかのセキュリティ要件やコンプライアンス要件が解決されるわけではない。
