На этой неделе Anthropic опубликовала в блоге предупреждение: небольшие ИИ-модели вскоре могут вести себя как компьютерные черви, копируя себя на подключённые к сети устройства — например, холодильники, телевизоры и камеры наблюдения. Компания показала, как модель Llama 3.1 с 8 миллиардами параметров распространяется в смоделированной сети Android, а более крупная модель GLM-5.2 — по всем её узлам. Anthropic не использовала собственные модели, объяснив это тем, что альтернативы с открытым исходным кодом могут представлять больший риск. Эксперты отметили, что испытания демонстрируют реалистичный сценарий распространения вредоносных программ с помощью ИИ, и рекомендовали уже сейчас укреплять защиту умных устройств.
Почему это важно
Без улучшения защиты со стороны производителей автономные вредоносные программы на базе ИИ могут чаще атаковать устройства умного дома.
