# CERTA prüft, wann kleinere klinische KI-Modelle eingesetzt werden können

> Forschende untersuchten ein Verfahren, mit dem quantisierte Modelle klinische Verifikationsentscheidungen übernehmen können, wenn sie einer BF16-Referenz hinreichend nahekommen. Die übrigen Fälle werden weitergeleitet.

Oossa · 2026-10-22 · https://oossa.com/de/certa-tests-when-smaller-clinical-ai-models-can-be-used

Forschende haben CERTA vorgestellt, ein Verfahren, das bestimmt, wann ein komprimiertes klinisches Sprachmodell eine Verifikationsentscheidung statt eines größeren BF16-Modells übernehmen kann. Entscheidungen, die CERTAs statistische Prüfung nicht bestehen, werden an das Referenzmodell weitergeleitet.

In Tests mit 11 Modellen und 2,500 Entscheidungen bearbeiteten 8-Bit-Versionen in der operativen Analyse der Studie 99.8% bis 100% der zurückgehaltenen Entscheidungen. Bei zwei Modellen mit 72 Milliarden Parametern lagen die geschätzten Einsatzkosten ausgewählter 4-Bit-Konfigurationen bei rund 26% bis 27% der BF16-Referenz; der Spitzenbedarf an Arbeitsspeicher lag unter 48 GB. Die Forschenden testeten keinen Einsatz auf genau dieser Hardware. Die Ergebnisse beziehen sich auf eine klinische Verifikationsaufgabe, nicht auf die klinische Versorgung im Allgemeinen.

## Die Fakten

- Die Auswertung umfasste 2,500 Entscheidungen aus Kontexten mit 2,484 Patienten. Für Kalibrierung und Tests wurden unterschiedliche Patienten verwendet.
- Ausgewählte 4-Bit-Konfigurationen von Qwen2.5-72B und HuatuoGPT-o1-72B benötigten jeweils 43.0 GB und 42.7 GB Spitzenarbeitsspeicher. Ein Einsatz auf einem 48-GB-Beschleuniger wurde nicht direkt getestet.

## Warum es wichtig ist

Für Teams, die lokale Systeme zur klinischen Verifikation erproben, zeigt CERTA einen möglichen Weg, einen Teil der Entscheidungen an kostengünstigere, komprimierte Modelle weiterzuleiten. Die Studie belegt jedoch weder Sicherheit und Leistungsfähigkeit für andere klinische Anwendungsbereiche noch einen erfolgreichen Einsatz in der Praxis.

## Quellen und Referenzen

1. [Do We Need the Largest LLMs for Every Clinical Decision?](https://arxiv.org/abs/2610.26937) – arXiv, 2026-10-21

Zuletzt aktualisiert: 2026-10-22