Deepgram đã làm việc với nhóm Kỹ thuật Triển khai Tiền tuyến của AWS để chuyển mô hình chuyển giọng nói thành văn bản Nova-3 của mình sang AWS Trainium2 cho suy luận theo lô ngoại tuyến. Bài viết này đề cập đến việc chuyển sang ngăn xếp AWS Neuron, tinh chỉnh ở cấp độ kernel, một runtime Rust song song dữ liệu, và các kết quả về thông lượng và chi phí trên phiên âm theo lô.
news
Deepgram đã tối ưu hóa AI giọng nói ở quy mô lớn với AWS Trainium như thế nào
Deepgram đã làm việc với nhóm Kỹ thuật Triển khai Tiếp cận của AWS để chuyển mô hình chuyển giọng nói thành văn bản Nova-3 sang AWS Trainium2 cho suy luận theo lô ngoại tuyến. Bài viết này đề cập đến việc chuyển đổi sang ngăn xếp AWS Neuron, tinh chỉnh ở mức kernel, một runtime Rust song song dữ liệu, cùng các kết quả về thông lượng và chi phí trên phiên âm theo lô.