Baseten hat Project Beacon angekündigt, eine Partnerschaft mit Goodfire AI, die proaktive Sicherheitsprüfungen bei der Ausführung von KI-Modellen ermöglicht. Das System liest die internen Aktivierungen eines Modells während der Textgenerierung aus und kann unsichere Inhalte wie Prompt-Injection-Angriffe, Richtlinienverstöße, Datenlecks oder den Missbrauch zu Cyberzwecken blockieren oder kennzeichnen. Laut Baseten laufen die Überwachungssysteme parallel zur Generierung, sodass keine spürbare Verzögerung entsteht. Das Unternehmen will die Funktion in den kommenden Monaten zunächst einigen frühen Partnern zur Verfügung stellen und anschließend auf weitere Modelle und Unternehmenskontrollen ausweiten.
Warum es wichtig ist
Unternehmen können für beliebige Modelle einheitliche Sicherheitsvorkehrungen durchsetzen. So sind mit zunehmender KI-Nutzung weniger separate Filter und manuelle Prüfungen nötig.
