Một mô hình AI nhỏ làm toán rất tệ vì nó cứ lặp lại chính câu chữ của nó cho đến khi hết lượt trả lời. Thay vì đem mô hình đi huấn luyện lại, nhóm nghiên cứu tại MIT CSAIL để một mô hình lớn hơn đọc thẳng các con số bên trong mô hình nhỏ, tìm đúng chỗ gây lặp và sửa tay vào đó. Kết quả vừa công bố ngày 02/11/2026: điểm toán tăng hơn 6 lần mà không cần một vòng huấn luyện nào.
Trọng số là gì và vì sao sửa được trọng số lại đáng chú ý
Trọng số là hàng trăm triệu con số nằm bên trong một mô hình AI, quyết định cách mô hình biến câu hỏi thành câu trả lời. Bạn hình dung mô hình như một bảng trộn âm thanh khổng lồ: mỗi trọng số là một núm vặn, và khả năng của mô hình nằm ở cách các núm đó đang được vặn. Từ trước đến nay, các núm vặn này gần như chỉ được chỉnh bằng thuật toán tối ưu chạy trên dữ liệu huấn luyện, một quá trình tốn GPU và tốn thời gian.
Cách làm mới được nhóm tác giả Rikiya Takehi, Jayden Teoh, Alex Zhang và Omar Khattab đặt tên là lập trình trong không gian trọng số (weight-space programming). Một mô hình ngôn ngữ thông thường đọc trọng số dạng số thô, suy luận xem từng phần của mạng đang tính cái gì, rồi viết lại giá trị trọng số trực tiếp, giống cách lập trình viên mở mã nguồn và sửa đúng dòng gây lỗi.
Khung hình trò Breakout trong thí nghiệm đọc trọng số, hình do nhóm tác giả MIT CSAIL công bố kèm bài nghiên cứu gốc.
Thí nghiệm trên Qwen3.5-0.8B: sửa 0,016% trọng số, điểm toán tăng hơn 6 lần
Đối tượng được sửa là Qwen3.5-0.8B, mô hình mở 0,8 tỷ tham số của Alibaba, với yêu cầu duy nhất là làm mô hình giỏi toán hơn mà không dùng gradient và không huấn luyện. GPT-6 Astra nhận một môi trường Python để đọc và ghi trọng số, một tập bài toán luyện tập, cùng ngân sách chạy thử giới hạn. Quan sát các đáp án mẫu cho thấy lỗi lớn nhất của mô hình này là vòng lặp suy nghĩ: 93% số đáp án trên bộ MATH-500 chạy đến trần 32.768 token mà vẫn chưa đưa ra kết quả, đúng lỗi mà thẻ mô hình của Qwen đã cảnh báo từ trước.
Astra truy vết vòng lặp về một hướng số duy nhất do các lớp MLP ở lớp 15 và lớp 19 ghi vào, rồi trừ hướng đó khỏi 64 cột đầu ra ở mỗi lớp. Tổng cộng 131.072 trọng số bị thay đổi, chiếm 0,016% tổng số tham số. Với ngân sách 50 lượt chạy thử, kết quả đo lại như sau: MATH-500 tăng từ 7,9% lên 48,1%, GSM8K tăng từ 13,8% lên 67,1%, IFEval (bộ đo khả năng làm theo hướng dẫn) tăng từ 21,0% lên 62,3%, và tỉ lệ đáp án chạm trần token giảm từ 93% xuống 33,1%.
Ba bộ đo của Qwen3.5-0.8B trước và sau khi sửa trọng số, số liệu theo công bố của nhóm tác giả MIT CSAIL.
Chi tiết đáng giá nhất nằm ở cách điểm số tăng. IFEval không nằm trong yêu cầu ban đầu nhưng vẫn tăng gấp ba lần, vì vòng lặp là lỗi chung của mọi tác vụ. Bản sửa đã gỡ một nút thắt đang che mất khả năng sẵn có của mô hình. Nếu bạn đang chạy AI offline trên laptop bằng các mô hình mở nhỏ, đây là loại lỗi rất quen: mô hình lặp ý và hết lượt trước khi kịp kết luận.
Đọc, sửa và viết mới: ba việc Astra làm được với trọng số
Thí nghiệm Qwen là phần cuối của một chuỗi tám thí nghiệm. Ở phần đọc, Astra nhận toàn bộ 17.253 trọng số dạng văn bản của bốn mạng chơi game có kiến trúc giống hệt nhau, không được cho biết danh sách game, và gọi đúng cả bốn tên: Breakout, Pong, Pac-Man, Freeway. Đáp án được lần ra từ vị trí tập trung trọng số ở lớp đầu vào, chẳng hạn hàng trọng số dọc cạnh dưới của lưới ứng với thanh đỡ bóng trong Breakout.
Ở phần sửa, một mạng điều khiển xe trong môi trường Kinetix luôn kẹt ở chân dốc vì chỉ biết lao thẳng về phía trước. Astra đọc trọng số, xem một lượt chạy ghi lại và sửa 3,5% trọng số trong một lần duy nhất: chiếc xe chuyển sang lùi lại lấy đà trước khi tăng tốc, và tỉ lệ thành công đi từ 0% lên 100% trên 1.024 lượt chạy kiểm tra.
Cảnh xe vượt qua vạch đỏ sau khi được sửa trọng số, hình do nhóm tác giả MIT CSAIL công bố kèm bài nghiên cứu gốc.
Ở phần viết mới, Astra được giao luật chơi và mã nguồn của ba game MinAtar, rồi tự viết toàn bộ trọng số từ số 0, không dữ liệu và không được chơi thử trước khi chấm điểm. Mạng Breakout do Astra viết đạt 517,4 điểm, gấp khoảng 20 lần mức 25,3 điểm của thuật toán PPO sau 500 triệu bước huấn luyện. Hai game còn lại thấp hơn PPO: Asterix đạt 53,2 điểm so với 55,2, còn Seaquest đạt 53,1 so với 88,9.
Giới hạn mà chính nhóm tác giả công bố kèm kết quả
Thí nghiệm đối chứng trên Gemma 3 270M cho thấy rõ ranh giới của phương pháp. Mô hình này hiếm khi lặp, chỉ 8,5% đáp án chạm trần token, và lỗi của nó là sai số học, sai biến đổi đại số thông thường. Astra sửa nhiều lần nhưng điểm MATH-500 chỉ dao động từ 6,8% lên cao nhất 7,7%, mức tăng mà nhóm tác giả tự ghi là chưa được xác lập. Kết luận của họ rất rõ: sửa trọng số gỡ được vật cản đang che giấu một khả năng, nhưng không thêm được khả năng mà mô hình vốn không có.
Điểm MATH-500 của Gemma 3 270M sau các lần sửa trọng số, số liệu theo công bố của nhóm tác giả MIT CSAIL.
Một giới hạn khác nằm ở phần đọc hành vi. Được giao hai bản Gemma 3 270M, một bản trung thực và một bản được huấn luyện để nịnh theo đáp án của người dùng, Astra không phân biệt được chỉ từ trọng số qua bốn lần thử. Nó chỉ chọn đúng cả ba cặp sau khi được xem thêm mẫu chú ý (attention) của hai mô hình trên các đoạn văn bản do chính nó viết. Về hình thức, đây vẫn là một bài blog nghiên cứu kèm toàn bộ log thí nghiệm công khai, chưa phải bài báo qua bình duyệt. Điểm cộng là bản Qwen đã sửa được đưa lên Hugging Face, và một kỹ sư của nền tảng này đã dựng lại bản sửa từ log rồi chạy đánh giá lại, theo lời nhóm tác giả. Bạn có thể đọc thêm cập nhật công nghệ về skill AI trên GitHub để thấy cộng đồng đang dồn sức vào việc để AI tự cải thiện quy trình làm việc của chính nó.
Câu hỏi thường gặp
Ba câu hỏi thường gặp nhất khi đọc về thí nghiệm sửa trọng số của GPT-6 Astra.
Các mô hình đóng như bản ChatGPT trên web có áp dụng cách sửa này được không? Không, ít nhất là với người dùng bên ngoài. Phương pháp dựa trên quyền đọc và ghi trực tiếp vào trọng số, thứ chỉ có ở mô hình mở. Với mô hình đóng, người dùng chỉ chạm được vào mô hình qua câu lệnh và các thiết lập bề mặt.
Tải bản Qwen đã sửa trên Hugging Face về dùng có rủi ro gì không? Có. Một bản sửa trọng số có thể thay đổi hành vi theo cách khó nhìn thấy qua vài câu hỏi thử. Cách an toàn là đối chiếu với log sửa đổi mà nhóm tác giả công bố, chạy thử trong môi trường tách biệt và kiểm tra trên đúng loại việc bạn định giao.
Điểm toán tăng hơn 6 lần có nghĩa là mô hình nhỏ này đã giỏi như các mô hình lớn? Chưa. Con số 48,1% trên MATH-500 là điểm tuyệt đối của một mô hình 0,8 tỷ tham số đã hết lỗi lặp, và phần lớn mức tăng đến từ việc mô hình trả lời trọn vẹn thay vì bỏ dở giữa chừng. Giá trị của thí nghiệm nằm ở cách sửa, chứ không nằm ở việc tạo ra một mô hình toán học hàng đầu.
Checklist áp dụng nhanh
- Khi gặp một con số AI tăng vọt, đọc thẳng công bố gốc và log kèm theo, rồi kiểm tra bài đã qua bình duyệt hay có bên thứ ba chạy lại chưa.
- Phân biệt rõ hai việc: gỡ lỗi đang che giấu khả năng sẵn có và bổ sung khả năng mới. Thí nghiệm này thuộc việc thứ nhất.
- Với mô hình mở chạy tại chỗ, chỉ dùng bản sửa trọng số có log thay đổi công khai, và kiểm tra hành vi trên việc thật của bạn trước khi tin tưởng.
Bài viết tổng hợp từ công bố của nhóm tác giả MIT CSAIL và các nguồn được dẫn trong bài, kết quả thí nghiệm chưa qua bình duyệt độc lập nên chỉ nên được hiểu như thông tin tham khảo.
