Cmpnd heeft dspy-wsp uitgebracht, een prototype-optimalisator die programmeren in de gewichtsruimte toevoegt aan het DSPy-framework. Een geavanceerd LLM – een groot taalmodel – leest de gewichten van een klein model, past ze aan in een sandbox en beoordeelt elke wijziging zonder gradiënten te gebruiken. Elke testrun kost ongeveer $5 tot $10. De tool is op dit moment een prototype en nog geen commercieel product.
Waarom het ertoe doet
Ontwikkelaars kunnen goedkoop experimenteren met aanpassingen van modelgewichten. Dat biedt nieuwe manieren om AI af te stemmen zonder traditionele training.