에서 IEEE ICASSP 2024 서울에서 설립자이자 CEO인 웨이 추 기업의 음성 R&D를 대폭 저렴하게 만드는 변화에 대해 집중 강연을 했습니다. 즉, 인간 라벨링 및 기성 데이터 세트에 대한 비용 지불을 중단하고, 야생 데이터 및 오픈 소스 기반 모델을 활용하기 시작했습니다.

ICASSP 2024 프로그램 강연 보기 →

기존 음성 서비스 빌드가 ROI가 낮은 이유

음성 AI를 구축하는 모든 기업은 세 가지 유혹적인 지름길에 직면해 있습니다. 각각에는 숨겨진 ROI 한도가 있습니다.

클라우드 API 호출 프로토타입 제작 속도가 빠르고 R&D 비용이 적습니다. 하지만 제품에 맞게 사용자 정의할 수 없고, 특정 데이터에 대한 성능이 만족스럽지 않고, 규모에 따라 비용이 많이 들고, 모든 요청은 잠재적인 데이터 침해 벡터입니다.

공급업체로부터 구매 종이에 DIY하는 것보다 저렴합니다. 실제로는 데이터 + 시스템 공급업체의 큰 청구서, 회사 내 통신 오버헤드로 인한 수준 이하의 성능, 여전히 데이터 위반 위험이 있습니다.

기술 거인처럼 DIY (알렉사, 시리, 구글 음성 검색) 사내 스택, 완전한 데이터 안전성, 그리고 출시 전 R&D 팀, 데이터 큐레이션 및 인프라에 대한 5년간 수천만 달러의 투자.

다른 "저렴한" 대안은 더 나을 것이 없습니다. 해외 계약 팀, 기성 시뮬레이션 데이터 세트 또는 어려움을 겪고 있는 스타트업 인수는 모두 현금을 절약하기 위해 ROI를 희생합니다.

높은 ROI 대안 — 대규모 음성 모델의 어깨 위에 서기

두 가지 교대가 Olewave의 접근 방식을 뒷받침합니다.

스케일링의 법칙을 타세요. 2022년부터 거대 기술 기업은 Whisper, SeamlessM4T 등 CC-BY 대형 음성 모델을 오픈소스화해 왔습니다. 더 이상 바퀴를 재발명할 필요가 없습니다. 미세 조정 처음부터 훈련하는 대신 틈새 시장에 대한 기초 모델을 구축하세요. 이를 통해 R&D 팀, 데이터 큐레이션, 교육 인프라 지출의 대부분이 제거됩니다.

야생 데이터를 필터링하고 개인 데이터에 자동 레이블을 지정합니다. 필터링된 야생 데이터(검증된 기록, 타임스탬프, AI 기반 라벨링 시스템에서 생성된 주제 태그)는 도메인 모델. 그런 다음 해당 도메인 모델에 라벨을 붙입니다. 독점 신뢰도 점수가 있는 데이터. 인간 라벨러가 없습니다. 인프라를 떠나는 데이터가 없습니다. 침해 위험이 없습니다. 사전 시뮬레이션된 데이터세트에 대해서는 비용이 청구되지 않습니다.

4단계 맞춤형 라벨링 파이프라인

1. 점프 스타트 — 클라이언트와 동일한 도메인에서 야생 데이터를 선택하고 대규모 음성/언어 기반 모델에서 도메인 모델을 미세 조정합니다.
2. 자동 라벨 — 도메인 모델은 단어별 및 발화별 신뢰도 점수를 사용하여 클라이언트의 독점 데이터에 레이블을 지정합니다. 사람이 라벨을 붙이는 사람이 필요하지 않으므로 데이터 유출 위험도 없습니다.
3. 반복적으로 학습 — 레이블이 지정된 개인 및 공용 데이터 세트를 컴파일하고 도메인 모델을 다시 미세 조정한 다음 개선된 모델을 사용하여 개인 데이터에 레이블을 다시 지정합니다. 품질이 안정될 때까지 반복합니다.
4. 반가워요 — 품질이 충분하면 반복을 중지합니다. Tycho SDK 라이선스를 취득하면 자체 인프라에서 계속 라벨을 지정하고 구축할 수 있습니다.

이것이 중요한 이유

• 인간 라벨러 없이 도메인별 모델의 지도 교육 — 기업 연설 프로젝트에서 반복적으로 발생하는 가장 큰 비용입니다.
• 데이터 침해 위험 없음 — 개인 데이터는 결코 귀하의 환경을 떠나지 않습니다.
• 라벨링 비용 대폭 절감 — 모델이 작업을 수행합니다. 인간은 극단적인 경우를 검토합니다.
• 동일한 미세 조정 작업 흐름 규모 제품이 성숙해짐에 따라 새로운 도메인, 언어 및 사용 사례에 적용됩니다.

우리에게 이야기하세요

음성 AI 제품의 구축과 구매를 평가 중이거나 기존 제품의 데이터 라벨링 비용을 줄이려는 경우 메모를 비교하고 싶습니다.

이메일 [email protected] 또는 웹사이트를 통해 연락하다 — 영업일 기준 1일 이내에 답변해 드리겠습니다.