Anthropic использовала описанный в Petals подход, чтобы проверить, могут ли большие ИИ-модели работать на множестве маломощных устройств, а агенты — распространяться между ними. Petals разработали исследователи «Яндекса» совместно с учёными из НИУ ВШЭ и других организаций. Технология делит вычисления между подключёнными к интернету компьютерами.
В эксперименте модель Gemma 4 с 26 млрд параметров работала на 15 Android TV-приставках без единого мощного сервера. В отдельных тестах на изолированной сети некоторые модели находили новые устройства и продолжали работу после получения к ним доступа. Защиту сети намеренно ослабили; это лабораторный сценарий, а не свидетельство распространения ИИ по обычным домашним сетям.
Почему это важно
Для специалистов по безопасности это пример того, как маломощные устройства могут совместно запускать большую модель; неизвестно, насколько такой сценарий применим к обычным сетям с работающей защитой.
