Moonshot AI, l’entreprise chinoise à l’origine des modèles Kimi, a discuté de la location d’un accès aux puces Blackwell avancées de Nvidia dans des centres de données européens, rapporte CNBC, citant quatre personnes au fait des discussions. Celles-ci ont eu lieu cette année, mais ne permettent pas d’établir que Moonshot a obtenu ces capacités de calcul.
Trois personnes ont indiqué à CNBC que Moonshot s’intéressait aux systèmes Blackwell, dont les contrôles américains à l’exportation empêchent de facto l’importation en Chine. Deux sources ont précisé que l’entreprise envisageait des clusters en Europe pour l’inférence, c’est-à-dire les calculs nécessaires pour fournir les réponses d’un modèle aux utilisateurs. Une source avait également connaissance d’un intérêt pour des capacités d’entraînement. Une personne au fait des discussions a indiqué que des arrangements portant sur des clusters équipés d’au moins 8,000 GPU Blackwell avaient été évoqués.
Pourquoi chercher hors de Chine ?
Les règles américaines limitent les livraisons des puces les plus avancées de Nvidia à la Chine. Mais les entreprises peuvent accéder à distance à des capacités de calcul via des centres de données situés dans d’autres pays, et la législation actuelle ne confère pas aux autorités américaines de larges pouvoirs pour réglementer l’accès au cloud à l’étranger, rapporte CNBC. En juillet, la Maison-Blanche a déclaré que Moonshot avait accédé à des puces Blackwell par l’intermédiaire d’un site en Thaïlande.
La recherche de capacités de calcul supplémentaires par Moonshot intervient après une période de forte croissance de ses modèles. L’entreprise a déclaré que son modèle Kimi K3, lancé en juillet, avait réduit l’écart avec les principaux systèmes américains. Elle a également indiqué que la demande avait dépassé ses capacités et qu’elle avait temporairement suspendu les nouveaux abonnements afin de donner la priorité à ses membres actuels. Selon CNBC, une proposition de capacités en Europe prévoyait que Moonshot paie d’avance 30% à 50% de plus qu’un client non chinois.
Le débat sur la réglementation se poursuit
Ces arrangements potentiels sont évoqués alors que Washington réfléchit à la réglementation de l’accès à distance, en plus des livraisons de puces. Le Remote Access Security Act, qui étendrait les contrôles à l’exportation à l’accès, via le cloud, à des équipements et logiciels essentiels, a été adopté par la Chambre des représentants en janvier, mais pas par le Sénat. Le Financial Times a rapporté cette semaine que Nvidia avait demandé aux fournisseurs de services cloud de réaliser au moins 51% de leurs ventes auprès de clients non chinois ; dans sa déclaration publique, Nvidia a surtout insisté sur l’importance pour les infrastructures américaines de soutenir la concurrence à l’échelle mondiale.
Moonshot, Nvidia et les administrations américaine et chinoise n’ont pas répondu aux demandes de commentaires de CNBC. L’article fait état de discussions et de propositions, et non d’un contrat confirmé ni d’un changement dans l’accès des utilisateurs de Kimi.
Pourquoi c'est important
Pour les utilisateurs des modèles Kimi de Moonshot, des capacités de calcul supplémentaires pourraient aider l’entreprise à répondre aux utilisateurs ou à entraîner ses modèles. Mais les discussions ne confirment ni la conclusion d’un accord ni un changement du service. Les arrangements évoqués mettent aussi en lumière une faille dans les règles américaines : les livraisons de puces à la Chine sont limitées, tandis que l’accès à distance via des centres de données à l’étranger est plus difficile à contrôler.