Een team van taalkundigen en technici heeft een reeks open-weight taalmodellen uitgebracht die Wolof begrijpen en genereren. Wolof wordt door ongeveer 23 miljoen mensen gesproken, vooral in Senegal. De modellen variëren van 0,6 tot 14 miljard parameters en zijn vrijgegeven onder een open licentie, zodat iedereen ze kan downloaden en lokaal kan gebruiken. Volgens het artikel presteren de versies met 8 en 14 miljard parameters bij taken in het Wolof vergelijkbaar met veel grotere commerciële systemen, terwijl ze ook andere talen goed aankunnen.
Wat het artikel meldt
De auteurs beschrijven een werkwijze waarbij basismodellen eerst verder worden getraind op Wolof-teksten. Daarna volgen instructietraining (het model leren opdrachten te volgen) en afstemming op voorkeuren (uitvoer optimaliseren op basis van menselijke beoordelingen). Ook voegen ze modellen samen om de prestaties te verbeteren. De experimenten omvatten 63 openbare en interne taken, waaronder vertalen, vragen beantwoorden en tekst genereren. De resultaten laten zien dat de modellen met 8 en 14 miljard parameters bijzonder goed meekomen.
Beschikbaarheid
De modellen worden al getest in interne pilots voor klantenservice. De code en modelgewichten staan op een openbare URL die in het artikel wordt vermeld. Er worden geen downloadkosten genoemd. Omdat de gewichten open beschikbaar zijn, kunnen gebruikers de modellen op hun eigen hardware draaien zonder API-kosten te betalen.
Waarom het ertoe doet
Voor Wolofsprekers en bedrijven in Senegal bieden de modellen een gratis alternatief voor dure API-diensten dat lokaal kan worden gehost. Dat kan de kosten verlagen en zorgen over gegevensprivacy wegnemen bij het bouwen van chatbots of vertaaltools. Onafhankelijke bevestiging van de claims buiten de experimenten van de auteurs is nog niet beschikbaar.
