Deepgram مدل تبدیل گفتار به متن Nova‑3 را به تراشه‌های AWS Trainium2 منتقل کرد. این نسخه روی یک نمونه trn2.3xlarge، هشت کپی از مدل را اجرا می‌کند. Deepgram در پردازش‌های دسته‌ای آفلاین، مانند تحلیل تماس‌های مراکز پشتیبانی، اندازه‌گیری کرد که در مقایسه با گزینه‌های محاسباتی قبلی، به‌ازای هر دلار ۱۱ تا ۷۰٪ صدای بیشتری پردازش می‌شود. این کار شامل استفاده از TorchNeuron برای PyTorch، جایگزینی لایه‌ها با کرنل‌های سفارشی و ساخت یک محیط اجرایی با Rust برای حذف سربار Python بود.
چرا مهم است
مشتریانی که از API شرکت Deepgram استفاده می‌کنند، می‌توانند در پردازش‌های دسته‌ای گسترده انتظار هزینه کمتر برای پیاده‌سازی گفتار به متن را داشته باشند.
