Mình vừa đọc thông báo của Anthropic ngày mười hai tháng mười về AI tự nhân bản, và mình muốn chỉ anh em giới hạn của thử nghiệm trên thiết bị nhỏ. Mình chưa tự chạy thử, nên phần dưới dựa vào nghiên cứu cùng bình luận. Model là phần AI nhận yêu cầu rồi tạo câu trả lời; TV box là hộp gắn vào TV để chạy ứng dụng, còn nhóm dùng những hộp này để chạy AI.
Anh em làm marketing hay nội dung chưa cần lo gì ngay; ai quản lý mạng và thiết bị trong văn phòng thì nên đọc kỹ phần cuối.
Thử nghiệm AI tự nhân bản chạy chậm tới đâu
Mình thấy nhóm nghiên cứu chạy Gemma4-26B-A4B trên 15 TV box, mỗi chiếc khoảng 55 đô, và ra tốc độ 0,39 token mỗi giây, chậm lắm anh em. Token đếm những mảnh văn bản mà model nhận vào hoặc tạo ra.
Nhóm chia model thành các phần nhỏ rồi đặt những phần đó trên các hộp khác nhau, để chúng phối hợp xử lý yêu cầu thay vì dồn vào một hộp. Cụm thiết bị chạy chậm. Anh em cần tách hai chuyện: chạy được model trên TV box, và model tự tìm máy mới, chép mình sang rồi chạy tiếp mà không có người điều khiển.
Thử nghiệm trên cụm TV box mới chỉ chứng minh được chuyện đầu.
Nhóm đã đơn giản hóa phần xâm nhập
Trong thử nghiệm đơn giản hóa, GLM-5.2 tự làm trọn một vòng: dò máy chưa nhiễm, chép phần cần chạy sang, dựng model ở đó rồi lặp lại. Nó lan tới đủ 8/8 máy trong 4 trên 5 lần thử, và 7/8 máy ở lần còn lại.
Trên mỗi máy, GLM-5.2 dựng Llama3.1-8B, một model nhỏ hơn nhiều. Nhóm giả định rằng nếu năng lực của GLM-5.2 nhét được vào một model cỡ 8B thì model đó cũng tự dựng được chính mình. Mình cần nói rõ với anh em rằng đoạn này vẫn là giả định của nhóm nghiên cứu.
Nhóm dùng model nhỏ hơn để các kết quả có thể so sánh công bằng với nhau, vì việc dựng model lớn đòi hỏi nhiều hơn ở máy chạy nó.
Nhóm dựng 8 máy mô phỏng trong một mạng riêng có tường lửa, rồi thả vào đó một worm, tức là chương trình tự chép mình sang máy khác mà không cần ai bấm. Cổng ADB đã mở sẵn. Nó đi qua cổng ADB, một cổng điều khiển từ xa của Android mà không đòi đăng nhập.
Model điều khiển thực ra chạy trên máy riêng, vì các máy trong mạng thử nghiệm không đủ sức chứa những model lớn hơn mà nhóm muốn kiểm tra khả năng điều khiển. Khi model dựng trên máy đích vượt qua các bài kiểm tra, hệ thống mới thả thêm một bản sao của worm lên máy đó để nó lặp lại vòng này.
Mình thấy chi tiết này rất quan trọng: model điều khiển worm nằm ở một máy riêng, còn các máy trong mạng thử chỉ là chỗ để nó chép sang và dựng model nhỏ. Nên kết quả chưa cho thấy model tự chạy được ngay trên từng máy.
Mình đọc phần này như bằng chứng model nối được các bước thành một chuỗi, nhưng phần xâm nhập thì nhóm đã làm dễ đi. Chính nhóm nghiên cứu cũng ghi rằng thiết kế ấy khiến kết quả là mức trần cho khả năng thành công ngoài thực tế.
Người bình luận nghi ngờ cách diễn giải
Trên diễn đàn, mình thấy bạn dvt chê cách Anthropic diễn giải thử nghiệm. Theo ý kiến của bạn ấy, cách Anthropic trình bày nghiên cứu khiến người đọc khó hiểu nhóm thực sự đã chứng minh được chuyện gì về khả năng tự nhân bản.
Bạn verdverm nghi ngờ thiết bị thật đủ bộ nhớ để chạy model. Đây là ý kiến của bạn ấy, chưa phải số đo bổ sung.
Mình thấy hai ý kiến này nhắc anh em một điều: thử nghiệm cho thấy model nối được các bước, nhưng chưa cho thấy worm lan được ngoài đời, vì phần xâm nhập nhóm đã làm dễ đi. Anh em vẫn cần bằng chứng cho khả năng tự lan ngoài thực tế.
Dự báo cuối năm vẫn còn điều kiện
Nhóm dự báo: nếu model nhỏ cứ tiến bộ theo nhịp trước nay thì cuối năm nay chúng sẽ ngang mức GLM-5.2 trong thử nghiệm này. Mình nhắc lại điều kiện ấy vì model từ 30B trở xuống vẫn hay sai khi ghép các bước lại với nhau.
Nếu văn phòng anh em có TV box hay camera nối mạng, anh em liệt kê những thiết bị đó trước. Anh em nhờ người phụ trách kỹ thuật đổi mật khẩu mặc định và tắt cổng điều khiển từ xa không dùng. Nghiên cứu nhắc rằng Mirai từng lan bằng cách thử tên đăng nhập và mật khẩu mặc định của nhà sản xuất.
Dự báo này chưa phải bằng chứng là worm kiểu này đã tự lan thành công ngoài đời. Điều còn phải chứng minh là một model nhỏ tự đi hết cả chuỗi trên thiết bị thật, khi không ai mở sẵn cổng cho nó.
