Trainer

Trainer là vòng lặp huấn luyện và đánh giá hoàn chỉnh cho các mô hình Transformers. Bạn chỉ cần một mô hình và một tập dữ liệu để bắt đầu.

Bên trong, Trainer xử lý việc chia batch, xáo trộn và đệm dataset của bạn thành các tensor. Vòng lặp huấn luyện thực hiện bước truyền thẳng, tính toán loss, lan truyền ngược gradient và cập nhật trọng số. Cấu hình phiên huấn luyện bằng TrainingArguments để tùy chỉnh mọi thứ từ kích thước batch, thời lượng huấn luyện đến các chiến lược phân tán, biên dịch, và nhiều hơn nữa.

Các bước tiếp theo

• Bắt đầu với hướng dẫn fine-tuning để tìm hiểu cách huấn luyện một mô hình ngôn ngữ lớn bằng Trainer.
• Xem hướng dẫn Subclassing Trainer methods để có các ví dụ về cách subclass các phương thức của Trainer.
• Xem hướng dẫn Data collators để tìm hiểu cách tạo data collator cho việc lắp ráp batch tùy chỉnh.
• Xem hướng dẫn Callbacks để tìm hiểu cách gắn vào các sự kiện huấn luyện.