AI RESEARCHER (LLM PRE-TRAINING & POST-TRAINING)
Viettel Cyber Security
Job Description
1. MÔ TẢ VỊ TRÍ
Viettel Cyber Security (VCS) đang xây dựng họ mô hình ngôn ngữ lớn song ngữ Việt – Anh chuyên biệt cho an ninh mạng (ATTT), gồm mô hình quy mô 100B+ và các phiên bản nhỏ dưới 30B triển khai on-premise cho khách hàng, trên cụm 20 node NVIDIA B300 và nguồn dữ liệu ATTT độc quyền của VCS.
Chúng tôi tìm kiếm AI Researcher tham gia huấn luyện mô hình xuyên suốt: continued pre-training, post-training (alignment, RLHF), chưng cất và lượng tử hóa. AI Researcher phối hợp với các team Kỹ thuật dữ liệu, Dữ liệu ATTT, Cluster & LLMOps, Inference, Eval, Cyber range và FDE.
2. TRÁCH NHIỆM CHÍNH
2.1. Pre-training & Midtraining
· Chạy và giữ ổn định các lượt CPT/midtraining dài ngày (khoảng 20 ngày trên 64 GPU B300); cấu hình song song hóa TP/PP/EP/CP, FP8 và tối ưu MFU.
· Xử lý sự cố NCCL, OOM, loss spike; xây dựng cơ chế checkpoint và khởi động lại tự