AiChatGPT Whisper bài số 30 : Chạy Whisper bằng CPU và tối ưu tài nguyên
1. Trọng tâm
Bài này tập trung trực tiếp vào **Chạy Whisper bằng CPU và tối ưu tài nguyên** trong pipeline Whisper, từ dữ liệu audio đầu vào đến output có thể kiểm tra được.
2. Thực hành
# Thực hành bài 30
# Mục tiêu: Chạy Whisper bằng CPU và tối ưu tài nguyên
# 1. Chuẩn bị một audio test ngắn.
# 2. Chạy Whisper với cấu hình phù hợp.
# 3. Lưu output và đối chiếu lỗi nhận dạng.
# 4. Thay một tham số, đo lại chất lượng/tốc độ.3. Cần quan sát gì?
- Ngôn ngữ nhận diện có đúng không.
- Từ chuyên ngành/tên riêng bị sai ở đâu.
- Timestamp có bám audio không.
- Thời gian xử lý và tài nguyên phần cứng.
4. Lỗi thường gặp
Không nên mặc định lỗi transcript luôn do model: audio đầu vào, FFmpeg, language, model size, thiết bị chạy và decoding options đều có thể ảnh hưởng kết quả.
5. Bài tập
- Chạy ví dụ với audio 30–60 giây.
- Thử ít nhất hai cấu hình/model khi phù hợp.
- Ghi lại tốc độ và ba lỗi transcript.
- Đề xuất cách cải thiện dựa trên dữ liệu vừa quan sát.