Cách đọc sơ đồ kiến trúc

1. Bắt đầu ở 1A, góc trên bên trái, rồi đi xuống cột 1: 1A đổi văn bản thành token ID, 1B tạo đáp án (token kế tiếp) cho mỗi vị trí, 1C là nhánh riêng của SFT thêm mẫu hội thoại và mặt nạ loss.
2. Theo mũi tên từ 1B sang cột 2: 2A → 2B → 2C → 2D biến token ID thành logits, tức điểm số của mọi token trong từ vựng ở mỗi vị trí.
3. Theo mũi tên từ 2D sang cột 3: 3A chấm điểm bằng loss, 3B tính gradient ngược lại, 3C cho xem gradient từng lớp, 3D (AdamW) sửa trọng số, 3E lặp, đánh giá và lưu checkpoint.
4. Mũi tên đứt nét next batch từ 3E quay về cột 1 để lấy batch (nhóm tài liệu xử lý cùng lúc) kế tiếp với trọng số mới; vòng này lặp hàng nghìn lần. Mũi tên load weights đi xuống băng 5: 5A → 5B → 5C dùng checkpoint với trọng số đóng băng, nghĩa là không còn cập nhật, để nhận prompt, prefill, decode rồi trả văn bản.
5. Cột 4 không phải bước kế tiếp. 4A và 4B là kỹ thuật tiết kiệm bộ nhớ gắn vào vòng ở cột 3; 4C đến 4G là năm phương pháp huấn luyện thay thế nhau, mỗi phương pháp dùng lại cột 1 đến 3 và chỉ đổi dữ liệu, mặt nạ hoặc loss. Thứ tự các cột là thứ tự để học, còn thứ tự chạy thật đi theo mũi tên.
6. Di chuột, hoặc nhấn Tab, lên một ô để đọc pop-over năm phần: nhận gì, làm gì và vì sao, ra gì, ví dụ, lưu ý. Bấm ô để mở bài học. Nút Trọng tâm làm sáng một nhóm ô; Tắt overlay (cạnh Vừa khung) ẩn các khung ô và pop-over để đọc ảnh gốc, bấm lại để bật. Sau khi đọc sơ đồ, sang Tab 02 để chạy bài lab.

Hai mũi tên sang phải (từ 1B sang cột 2 và từ 2D sang cột 3) được vẽ chạm cạnh cột chứ không chạm đúng ô. Ô nhận dữ liệu thật là 2A và 3A; xem mục Nhận gì trong pop-over của ô.