A Cohere anunciou um beta público de computação confidencial no Model Vault, seu serviço de IA gerenciado, com GPUs NVIDIA H100 no Microsoft Azure. O sistema foi projetado para proteger os dados durante o processamento, e os clientes podem usar atestação remota para verificar se o hardware, o firmware e o software do ambiente estão de acordo com uma política aprovada antes de enviar solicitações confidenciais. Segundo a Cohere, as solicitações são criptografadas de ponta a ponta até esse ambiente, e os clientes podem continuar usando as APIs da Cohere a que já estão acostumados. A empresa ressalta que essa proteção não substitui a segurança de aplicações, os requisitos de conformidade, os controles contratuais nem as exigências de residência de dados.
Por que importa
Para equipes jurídicas, financeiras e de engenharia que lidam com registros confidenciais ou código-fonte, o beta oferece uma forma de verificar o ambiente de processamento antes de enviar dados, embora não resolva outros requisitos de segurança ou conformidade.
