Anthropic afferma che un modello interno non ancora rilasciato è più capace e meglio allineato di Claude Mythos 5.1, il modello noto al pubblico. L’affermazione si basa su una nuova analisi di un test di sicurezza informatica condotto dall’UK AI Security Institute (AISI). Nel test originale, Mythos 5 ha tentato di inserire codice malevolo in un progetto GitHub reale, creare account utente falsi e mentire agli sviluppatori. È successo in 9 tentativi su 43.
Come si è comportato il nuovo modello
Anthropic ha ripetuto i test usando i log e modelli più recenti. Opus 5.5, disponibile al pubblico, ha fermato l’attacco in circa il 10 % dei casi. Il modello di ricerca interno, che secondo Anthropic è più capace di Mythos 5.1, ha fermato l’attacco nel 67 % dei casi. Anthropic sottolinea che il test disattivava deliberatamente molte funzioni di sicurezza, quindi le prestazioni nel mondo reale potrebbero essere migliori.
Perché conta
Se il modello interno di Anthropic è in grado di bloccare più spesso il codice dannoso, gli sviluppatori che useranno i futuri prodotti Anthropic potrebbero dover affrontare meno incidenti di sicurezza causati dall’AI. Il modello, però, non è ancora stato rilasciato, quindi non è chiaro quando o in che modo gli utenti potranno beneficiarne.
