Trong cuộc phỏng vấn ngày 3/11, Geoffrey Hinton cảnh báo một sự cố lớn liên quan đến AI có thể xảy ra trong năm nay hoặc năm tới và kêu gọi kiểm định bắt buộc trước khi phát hành mô hình tiên tiến. Đây là kịch bản cảnh báo của ông, không phải dự báo đã được định lượng; tranh luận chính sách hiện nằm ở cách đánh giá rủi ro và ai có quyền yêu cầu dừng một hệ thống.
Geoffrey Hinton cảnh báo cú sốc AI có thể đến sớm: điều còn thiếu là kiểm định độc lập
Trong các cuộc tranh luận về AI, lời cảnh báo thảm họa thường bị xem như một cuộc tranh cãi xa vời giữa những người lạc quan và bi quan. Nhưng câu hỏi mà Geoffrey Hinton đặt ra trong cuộc phỏng vấn với The Guardian ngày 3/11/2026 cụ thể hơn: nếu một hệ thống AI góp phần gây ra sự cố nghiêm trọng cho lưới điện hoặc hệ thống tài chính, xã hội sẽ phải đợi đến lúc thiệt hại xảy ra mới bắt đầu đặt ra tiêu chuẩn kiểm soát hay sao?
Hinton nói ông không phải người phủ nhận toàn bộ lợi ích của AI. Ông vẫn nhìn thấy khả năng công nghệ tạo ra một tương lai thịnh vượng hơn, nhưng cho rằng trong khoảng một thập kỷ tới, xã hội sẽ biết liệu mình có quản lý được rủi ro hay không. Ông nêu khả năng xảy ra một sự cố lớn trong năm nay hoặc năm sau, chẳng hạn một cuộc tấn công có AI hỗ trợ làm gián đoạn hệ thống điện hoặc khiến hệ thống tài chính ngừng hoạt động trong một thời gian dài.
Cần phân biệt rõ: đây là kịch bản cảnh báo do Hinton nêu ra trong phỏng vấn, không phải dự báo có xác suất được chứng minh bằng dữ liệu. Ông không đưa ra mô hình định lượng để xác nhận mốc thời gian ấy. Giá trị của phát biểu không nằm ở việc xem một sự cố như vậy chắc chắn sẽ xảy ra, mà ở câu hỏi chính sách mà nó buộc người nghe phải đối diện: năng lực AI đang phát triển nhanh đến đâu, và các cơ chế kiểm tra có theo kịp hay không?
Hinton muốn kiểm định trước khi phát hành
Đề xuất đáng chú ý nhất của Hinton là xây dựng cơ chế tương tự cơ quan quản lý dược phẩm. Theo cách ông hình dung, nhà phát triển phải cung cấp bằng chứng thống kê đủ tốt cho một cơ quan độc lập rằng mô hình mới mang lại lợi ích lớn hơn tác hại trước khi được phát hành. Ông cũng ủng hộ kiểm thử bắt buộc đối với các mô hình tiên tiến, đánh giá độc lập và tiêu chuẩn chung giữa các chính phủ.
Điều này khác với cách tiếp cận chỉ yêu cầu doanh nghiệp công bố nguyên tắc an toàn hoặc tự đánh giá sản phẩm của mình. Một hệ thống kiểm định độc lập có thể xem xét khả năng bị lạm dụng, mức độ tạo ra mã độc, hành vi của agent khi được trao quyền truy cập công cụ, khả năng chống prompt injection và những rủi ro phát sinh khi mô hình được triển khai trong môi trường thật. Tuy nhiên, kiểm thử không thể chứng minh một mô hình sẽ an toàn trong mọi tình huống. Nó chỉ có thể tạo ra một lớp bằng chứng, giúp cơ quan quản lý và khách hàng hiểu rõ giới hạn đã biết trước khi quyết định triển khai.
Một phần khó của đề xuất là xác định ai được xem dữ liệu và phương pháp đánh giá. Nếu chính nhà phát triển kiểm soát toàn bộ môi trường thử nghiệm, cơ quan độc lập khó xác nhận các kết quả. Nhưng nếu yêu cầu công bố quá nhiều chi tiết về mô hình hoặc lỗ hổng, việc kiểm định có thể vô tình cung cấp thông tin hữu ích cho người muốn khai thác hệ thống. Chính sách vì thế phải cân bằng giữa khả năng kiểm tra, bảo mật và trách nhiệm giải trình.
Những đề xuất quản lý đã bắt đầu đi vào quy trình chính trị
Quan điểm của Hinton không còn chỉ là một lời kêu gọi chung chung. Ngày 28/10, Reuters đưa tin Anthropic đã đề nghị Thống đốc California ủng hộ cơ chế cho phép cơ quan nhà nước yêu cầu tòa án ngăn phát hành những mô hình bị đánh giá là gây rủi ro nghiêm trọng cho công chúng. Công ty cũng lập luận rằng những biện pháp can thiệp cần nhắm vào hệ thống hoặc tác nhân có vấn đề, thay vì dựa vào một nút tắt toàn bộ mô hình có thể tạo cảm giác an toàn giả.
Đề xuất của Anthropic không đồng nhất với mô hình FDA mà Hinton muốn xây dựng. Một bên nhấn mạnh thẩm quyền can thiệp của tòa án khi có rủi ro nghiêm trọng; bên kia nhấn mạnh bằng chứng và kiểm định trước khi phát hành. Nhưng cả hai đều cho thấy cuộc tranh luận đang dịch chuyển khỏi câu hỏi “có nên quản lý AI hay không” sang câu hỏi cụ thể hơn: ngưỡng rủi ro nào kích hoạt giám sát, ai đánh giá và cơ quan nào có quyền yêu cầu thay đổi hoặc ngăn phát hành?
Cũng không có sự đồng thuận tuyệt đối về cách đóng khung rủi ro. Nhà nghiên cứu Timnit Gebru từng cảnh báo rằng việc tập trung quá nhiều vào viễn cảnh AI hủy diệt nhân loại có thể làm lu mờ các vấn đề đang xảy ra: dữ liệu huấn luyện thiếu minh bạch, quyền lợi người lao động bị ảnh hưởng, tác động môi trường và trách nhiệm khi hệ thống đưa ra thông tin sai. Góc nhìn này không phủ nhận mọi rủi ro dài hạn; nó nhắc rằng nguồn lực quản lý có giới hạn và những thiệt hại hiện hữu cũng cần được giải quyết bằng quy định có thể thực thi.
Điều cần thiết không phải là chọn một phe
Hinton có lý khi nhấn mạnh rằng xã hội không nên đợi đến sau một thảm họa mới xây dựng cơ chế kiểm tra. Nhưng cảnh báo về một sự cố có thể xảy ra không thay thế được bằng chứng về xác suất, cũng như việc một mô hình vượt qua bài kiểm tra không chứng minh nó an toàn trong mọi môi trường. Một chính sách có thể vận hành cần nhiều hơn một bộ benchmark: đánh giá độc lập, báo cáo sự cố, kiểm toán sau triển khai, giới hạn quyền truy cập của agent và cơ chế chịu trách nhiệm khi nhà cung cấp bỏ qua cảnh báo.
Cũng cần tránh biến mọi cuộc tranh luận về an toàn thành câu hỏi nhị phân giữa “đổi mới” và “đình chỉ”. Quy định tốt có thể tạo ra điều kiện để công nghệ được triển khai với mức độ tin cậy cao hơn, đặc biệt trong các lĩnh vực như điện lực, tài chính, y tế và hạ tầng thiết yếu. Ngược lại, những yêu cầu mơ hồ hoặc chỉ áp dụng cho doanh nghiệp nhỏ có thể làm giảm cạnh tranh mà không giảm được rủi ro thực tế.
Hinton vẫn nói ông tin rằng con người còn có thể giữ quyền kiểm soát nếu dành đủ nỗ lực cho vấn đề này. Điểm đáng theo dõi trong thời gian tới không phải là dự đoán về một “Chernobyl của AI” có trở thành sự thật hay không. Đó là liệu các chính phủ có chuyển lời cảnh báo thành quy trình kiểm định minh bạch, có thể kiểm tra và áp dụng nhất quán — trước khi những hệ thống ngày càng mạnh được trao quyền tác động đến các hạ tầng mà xã hội không thể dễ dàng thay thế.
Nguồn tham khảo
- The Guardian — AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI
- The Guardian — Geoffrey Hinton: “We’re creating alien beings. I’m willing to be selfish and choose humans”
- Reuters — Anthropic tells California governor courts should be able to block risky AI models
- WIRED — The Big Interview: Timnit Gebru
- ABC News — ‘Godfather of AI’ Geoffrey Hinton backs call to slow down development
