Cmpnd har släppt dspy-wsp, en prototyp till optimeringsverktyg som lägger till programmering i viktutrymmet i ramverket DSPy. En avancerad LLM – en stor språkmodell – läser av en mindre modells vikter, redigerar dem i en sandlåda och utvärderar varje ändring utan att använda gradienter. Varje testkörning kostar ungefär $5 till $10. Verktyget är för närvarande en prototyp och ännu ingen kommersiell produkt.
Varför det spelar roll
Utvecklare kan experimentera med modellvikter till låg kostnad, vilket öppnar nya möjligheter att finjustera AI utan traditionell träning.
