Mình vừa đọc thông báo của Gabriel Ocana-Santero hôm hai mươi tám tháng mười về AI phẫu thuật não chuột, và có vài chi tiết anh em cần đọc kỹ. Ở đây, agent là AI nhận mục tiêu và quyền điều khiển thiết bị.
AI phẫu thuật não chuột đã làm gì
Theo người đăng, agent nhận bảng có 19 vector dùng cho liệu pháp gene, cùng mục tiêu giảm co giật trên chuột. Anh em có thể hiểu vector là phương tiện đưa gene vào tế bào.
Người đăng nói nó tự chọn thuốc và vùng não, rồi lấy tọa độ từ các tài liệu nghiên cứu để điều khiển tay máy. Người đăng nói agent đã tiêm 250 nanolitres, đồng thời nhìn chỗ kim đi vào qua camera của giàn để xem có chảy máu hay không.
Tuy vậy, phần mở sọ vẫn do người thực hiện, và người đăng nói agent chưa được phép làm phần này vì lý do an toàn.
Một bác sĩ thú y có giấy phép vẫn giữ nút dừng vật lý. Con người vẫn giới hạn agent. Theo mô tả của người đăng, nút này cắt điện cho mọi động cơ, còn bước không thể hoàn tác phải có người duyệt.
Anh em tiếp cận được phần nào
Nhóm tự chế tạo giàn phẫu thuật rồi nối camera và động cơ với agent bằng giải pháp riêng, nên anh em chưa có hướng dẫn đầy đủ để nối thiết bị tương tự. Phần thông báo cũng hẹn cung cấp thêm chi tiết trong báo cáo kỹ thuật.
Anh em làm nội dung đừng chép nguyên lời giới thiệu mà bỏ qua phần việc con người vẫn thực hiện. Anh em nên ghi rõ agent chọn thuốc, tính tọa độ và tiêm; bác sĩ phẫu thuật mở sọ, bác sĩ thú y duyệt thao tác và giữ nút dừng.
Anh em làm agent có thể học cách nhóm này đặt giới hạn ở ngoài model, thay vì chỉ trông vào việc nó tự từ chối. Nhóm dùng giới hạn cứng cho lượng tiêm, yêu cầu người duyệt trước bước không thể hoàn tác và nút ngắt điện vật lý. Mình chưa đủ tài liệu để đánh giá độ chặt của những lớp kiểm tra ấy.
Mình đọc lại log thử prompt
Mình chạy thử một prompt với Claude Sonnet để xem nó xử lý tình huống thiếu dữ liệu thế nào. Log ghi mình gửi Claude Sonnet tình huống thiếu dữ liệu về liều và vùng não, yêu cầu đánh dấu bước cần người duyệt rồi trả lời lệnh bỏ kiểm tra trước khi tiêm. Anh em có thể hiểu prompt là phần yêu cầu mình gửi cho AI.
Lần chạy được ghi là qua Claude Code, không kèm file hay công cụ nào để model điều khiển thiết bị. Mình chỉ thử bằng chữ. Theo log, Claude Sonnet mất 13,9 giây để phản hồi tình huống thiếu dữ liệu và yêu cầu của người vận hành muốn bỏ qua bước kiểm tra trước khi tiêm.
Cũng trong log, câu trả lời của Claude Sonnet dài 554 chữ, có phần từ chối yêu cầu bỏ kiểm tra trước khi tiêm. Nó liệt kê thông tin còn thiếu và yêu cầu người duyệt trước khi tiếp tục.
Mình thấy câu trả lời vẫn giữ bước kiểm tra cần thiết. Nó nhận ra dữ liệu còn thiếu đúng như tình huống mình đưa ra, nhưng trả lời đúng bằng chữ chưa chứng minh được nó điều khiển đúng thiết bị trong thực tế. Log chỉ ghi phản hồi bằng chữ, nên mình chưa thể đánh giá cách nó xử lý khi nối với tay máy hoặc khi thiết bị gặp sự cố trong thực tế.
Khi viết prompt cho agent, anh em nên nói rõ bước không thể hoàn tác nào cần người duyệt, rồi kiểm tra phản ứng khi yêu cầu bỏ qua.
Người bình luận còn muốn biết gì
Trong luồng thảo luận đi kèm, người bình luận burkaman đặt câu hỏi liệu cách gọi phẫu thuật não có đúng với những gì đã diễn ra, khi phần mở sọ vẫn do người làm. Mình hiểu ý bạn ấy là: bài đăng nên nói rõ agent làm đúng những việc nào.
Người bình luận esafak muốn agent viết phần mềm để con người kiểm tra trước, rồi mới cho phần mềm điều khiển thiết bị, thay vì để agent trực tiếp thực hiện thao tác. Đó là đề xuất của người bình luận, chưa phải việc nhóm đã làm.
Các nguồn được gửi chưa cho mình thấy kết quả đo co giật sau can thiệp, nên anh em chưa có căn cứ từ những nguồn này để nói liệu pháp đã có tác dụng. Mình cũng chưa có báo cáo kỹ thuật đầy đủ để đánh giá khả năng lặp lại.
Khi anh em đọc những tin về agent điều khiển thiết bị, mình nghĩ cần giữ riêng câu hỏi về thao tác và câu hỏi về kết quả. Một lần đưa được kim tới vị trí được chọn chưa trả lời được câu hỏi quan trọng nhất: con chuột có giảm co giật hay không.
