From OpenAI's Whisper Model to Your Own In-House ASR Service: ROI (Return-on-Investment) (Part 2)

Tutorials

从OpenAI的Whisper模型到自研ASR服务:ROI(投资回报率)(第2部分)

对于ASR,'自建还是购买'的问题通常被框架化为准确性与便利性的权衡,但真正的决定因素是产品生命周期内的ROI。

对于ASR,'自建还是购买'的问题通常被框架化为准确性与便利性的权衡,但真正的决定因素是产品生命周期内的ROI。本系列的第2部分明确阐述了这个数学问题:在您的领域微调Whisper、托管它和维护它的实际成本是多少——成本曲线在何处与按分钟支付云API费用相交?

该分析涵盖了三个经常被忽视的方面。在数据方面,弱标记的领域音频可以比等额预算用于工作室质量录音更有效地提高准确性。在研发方面,PEFT方法(如LoRA)加上现成的自动微调服务大大减少了工程工作量。在DevOps方面,您认为需要的GPU集群通常小于白板估计,特别是使用量化和批处理时。如果您在内部推行自研ASR项目并需要数字为其辩护——或者您正在被推销一个并想对假设进行理智检查——这段内容值得您花时间。