4C · Loss, backward và AdamW cho ba nhánh

1Định nghĩa

Một bước học gồm tính đầu ra, đo loss, truyền đạo hàm ngược qua các phép tính và dùng bộ tối ưu sửa các tham số được phép học.

Loss là một số chấm sai số; gradient là đạo hàm loss theo mỗi tham số, cho biết độ nhạy khi tham số đổi một chút. Codec dùng tái tạo và commitment; TTS (chuyển chữ thành tiếng nói) dùng CE mã; ASR (nhận dạng tiếng nói tự động) dùng CTC hoặc CE chữ. Ba mục tiêu không bắt buộc chạy chung một bước.

Ví dụ đời thường: ba học viên nhận ba loại bài kiểm tra: vẽ lại hình, đoán mảnh ghép và chép chính tả. Cùng cách sửa bài nhưng không cộng điểm của ba người rồi dùng chung để sửa mọi quyển vở.

2Luồng

Các ô cùng bài có thể là chẩn đoán hoặc lựa chọn thiết kế, không mặc định là các bước nối tiếp.

Sơ đồ kiến trúc huấn luyện · 22 ô (1A → 5D)

Huấn luyện tiếng nói · Ba mục tiêu và ánh xạ với lab

Bắt đầu 1A → 1B, rồi rẽ ba nhánh: codec 2A → 2B → 2C học sóng bằng loss ở 2D; TTS 3A → 3B → 3C → 3D học mã từ chữ và giọng; ASR 1C → 1D → 4A → 4B học chữ từ audio. 2E là chẩn đoán. 4C là vòng cập nhật dùng lại theo nhánh, 4D–4E và 5A–5B là kỹ thuật hoặc lựa chọn học. 5C → 5D nối hợp đồng streaming sang checkpoint và suy luận. Di chuột, Tab hoặc bấm ô để đọc năm phần.

Tất cả (22)1. Dữ liệu và đặc trưng2. Codec RVQ3. TTS và mã audio4. ASR và cập nhật5. Thích nghi và streaming

Ẩn khung overlay

1A1B1C1D2A2B2C2D2E3A3B3C3D4A4B4C4D4E5A5B5C5D

4C4 · Nhận dạng và cập nhật

loss → gradient → AdamW → tham số mới

4C · Backward và AdamW

Phân biệt ba mục tiêu học và theo gradient đến tham số; dùng AdamW mà không gộp mọi nhánh thành một loss bắt buộc.

Nhận gì

Loss của nhánh đang học và các tham số được mở gradient.

Làm gì, vì sao

Backward tính độ nhạy; AdamW giữ trung bình m và bình phương v để sửa trọng số, rồi lặp với dữ liệu tiếp.

Ra gì

Tham số mới và trạng thái optimizer; lưu checkpoint ở 5D khi cần.

Ví dụ, cách đọc ô

Lab kiểm đạo hàm decoder bằng sai phân, lệch khoảng 2.48e−16 so ngưỡng 1e−6.

Lưu ý

Ba đường loss biểu thị các bài toán riêng dùng lại vòng cập nhật, không ép codec/TTS/ASR học đồng thời.

Đọc bài 4C · Backward và AdamW↗Lab 4 · thực thi AdamW và kiểm gradient decoder: Backward và AdamW↗

flowchart TD
  step1["Nhận đầu vào"]
  step2["Biến đổi để học"]
  step3["Đọc kết quả"]
  step1 --> step2
  step2 --> step3

3Giải pháp

Đầu vào và kiến thức cần nhớ

Xác định tham số nào mở gradient: codec khi học codec; backbone và đầu mã khi học TTS; encoder/đầu text khi học ASR. Đóng băng không chỉ bỏ tham số khỏi optimizer; cũng phải tránh giữ đồ thị và activation không cần thiết khi có thể.

Thao tác và lý do

Nhắc lại AdamW: m là trung bình trượt gradient, v là trung bình trượt bình phương gradient; hiệu chỉnh thiên lệch ban đầu rồi chia m cho căn v để chọn bước. Weight decay kéo trọng số về 0 theo nhánh tách riêng. Learning rate quá lớn vẫn làm loss tăng; AdamW không tự bảo đảm hội tụ.

Đầu ra và cách đọc

Sau bước cập nhật có tham số mới, m, v và bộ đếm bước. Kiểm đạo hàm các phần khả vi bằng sai phân hữu hạn: tăng/giảm một tham số epsilon rồi chia chênh loss cho 2 epsilon. Với RVQ, straight-through là ước lượng nên chỉ kiểm decoder hoặc đường liên tục thích hợp.

4Profiling

• Kiểm đúng trước, đo sau

  Bắt đầu một batch nhỏ, kiểm loss hữu hạn và gradient norm từng nhánh. Nếu encoder không đổi, kiểm có bị detach không; nếu codebook sụp, xem phân bố chọn mã trước khi tăng LR. So validation và chất lượng sinh, không chỉ train loss.

• Giới hạn kết luận

  Trọng số không tăng số lượng sau nhiều bước; m và v là trạng thái học, không phải lớp mới của mô hình.

Mẹo đo lường: ghim số liệu trên workload thật, ghi cả p50/p95/p99 thay vì chỉ trung bình, và luôn ghi lại điều kiện chạy (batch, cache, đồng thời, phần cứng) trước và sau khi tối ưu. Số đo thiếu điều kiện chạy thì không so sánh được.

5Ví dụ

6Thuật ngữ

Loss, backward và AdamW cho ba nhánh

Một bước học gồm tính đầu ra, đo loss, truyền đạo hàm ngược qua các phép tính và dùng bộ tối ưu sửa các tham số được phép học.

7Bài liên quan

8Nguồn