ROI の高い音声研究開発のためのワイルド データの活用 — ICASSP 2024 のスポットライト
当社の創設者兼 CEO の Wei Chu は、ICASSP 2024 でスポットライト トークを行い、従来の音声サービス ビルドの ROI が低い理由と、大規模なオープンソース音声モデルを使用した未使用データのフィルタリングとプライベート データの自動ラベル付けによって方程式がどのように逆転するかについて説明します。
で IEEE ICASSP 2024 ソウルにて、当社の創設者兼CEO 魏忠 企業の音声研究開発を劇的に安価にする変化について、スポットライトを当てた講演を行いました。人間によるラベル付けや既製のデータセットへの支払いをやめ、ワイルド データやオープンソース基盤モデルの利用を開始します。
従来の音声サービス ビルドの ROI が低い理由
音声 AI を構築しているすべての企業は、同じ 3 つの魅力的な近道に直面しています。それぞれに隠された ROI 上限があります。
クラウド API を呼び出す プロトタイプまでの時間が短く、研究開発コストはわずかです。しかし、製品に合わせてカスタマイズできず、特定のデータに対するパフォーマンスが満足のいくものではなく、大規模化すると高価になり、すべてのリクエストがデータ侵害の可能性があります。
ベンダーから購入する 紙でDIYするよりも安価です。実際には、データとシステムのベンダーからの高額な請求、社内通信のオーバーヘッドによる標準以下のパフォーマンス、そして依然としてデータ侵害のリスクがあります。
テクノロジーの巨人のようにDIY (アレクサ、Siri、Google音声検索) 社内スタック、完全なデータ安全性、そして出荷前の研究開発チーム、データキュレーション、インフラストラクチャへの 5 年間の数千万投資。
他の「安価な」代替品も同様です。海外の契約チーム、既製のシミュレートされたデータセット、または苦戦中のスタートアップの買収はすべて、現金を節約するために ROI を犠牲にします。
ROI の高い代替手段 — 大規模な音声モデルの肩に乗る
Olewave のアプローチは 2 つのシフトによって支えられています。
スケーリングの法則に乗ってください。 2022 年以来、ハイテク大手は CC-BY の大規模音声モデル (Whisper、SeamlessM4T など) をオープンソース化しています。もう車輪を再発明する必要はありません。 微調整 ゼロからトレーニングするのではなく、あなたのニッチな分野に合わせた基礎モデルを提供します。これにより、研究開発チーム、データキュレーション、トレーニングインフラストラクチャへの支出の大部分が削減されます。
ワイルド データをフィルタリングし、プライベート データに自動ラベルを付けます。 フィルタリングされたワイルド データ (AI 駆動のラベル付けシステムによって生成された検証済みの転写、タイムスタンプ、トピック タグ) を使用して、 ドメイン モデル。そのドメイン モデルは、次のラベルを付けます。 独自の 信頼スコアを含むデータ。人間のラベル付け担当者はいません。インフラストラクチャからデータが流出することはありません。侵害のリスクはありません。また、事前にシミュレートされたデータセットに対する料金はかかりません。
4 つのステップから成るオーダーメイドのラベル付けパイプライン
- ジャンプスタート — クライアントと同じドメインからワイルド データを選択し、大規模な音声/言語基盤モデルからドメイン モデルを微調整します。
- 自動ラベル付け — ドメイン モデルは、単語ごとおよび発話ごとの信頼スコアでクライアントの独自データにラベルを付けます。人間のラベル付け担当者は必要ないため、データ侵害のリスクもありません。
- 繰り返し学習する — ラベル付きのプライベート データとパブリック データのセットをコンパイルし、ドメイン モデルを再度微調整してから、改善されたモデルでプライベート データにラベルを付け直します。品質が安定するまで繰り返します。
- グッド・トゥ・ゴー — 品質が十分であれば反復を停止します。私たちは Tycho SDK のライセンスを取得しているため、独自のインフラストラクチャ上でラベル付けと構築を続けることができます。
なぜこれが重要なのか
- 人間のラベラーを必要としないドメイン固有モデルの教師付きトレーニング — 企業の音声プロジェクトにおける最大の経常コスト。
- データ侵害のリスクがない — プライベートデータが環境から離れることはありません。
- ラベルコストを大幅に削減 — モデルが仕事をする。人間がエッジケースをレビューします。
- 同じ微調整ワークフロースケール 製品が成熟するにつれて、新しいドメイン、言語、ユースケースに対応します。
ご相談ください
音声 AI 製品の構築と購入を評価している場合、または既存の製品のデータラベル付け費用を削減しようとしている場合は、ぜひメモを比較してください。
電子メール [email protected] または ウェブサイト経由で連絡する — 1 営業日以内に返信させていただきます。
