Đến lượt Claude thoát kiềm tỏa, xâm nhập hệ thống của 3 tổ chức

Anthropic thông báo một số phiên bản Claude thoát vòng kiểm soát trong thử nghiệm, truy cập trái phép hệ thống của 3 tổ chức. - VnExpress

Bức tranh tổng quan

Nội dung chi tiết

Đến lượt Claude thoát kiềm tỏa, xâm nhập hệ thống của 3 tổ chức

Anthropic thông báo một số phiên bản Claude thoát vòng kiểm soát trong thử nghiệm, truy cập trái phép hệ thống của 3 tổ chức.

Thông tin được Anthropic công bố hôm 30/7, vài tuần sau trường hợp mô hình OpenAI mất kiểm soát và xâm nhập nền tảng AI trong thử nghiệm an ninh.

Anthropic cho biết đã đánh giá hơn 141.000 đợt chạy thử nghiệm và phát hiện 3 phiên bản của mô hình Claude vượt khỏi biện pháp kiềm tỏa (vốn dùng để ngăn chúng tiếp cận các hệ thống bên ngoài), sau đó truy cập vào hệ thống của 3 tổ chức chưa được nêu tên.

"Mô hình có thể kết nối Internet do sự hiểu lầm giữa Anthropic và đối tác thử nghiệm Irregular. Bên cạnh đó, Claude sử dụng những kỹ thuật cơ bản, như khai thác mật khẩu yếu và địa chỉ API không cần xác thực", hãng giải thích, ngầm ám chỉ sự việc có bản chất khác với tình huống của OpenAI.

Chatbot Claude của Anthropic. Ảnh: Lưu Quý

Đợt thử nghiệm sử dụng Mythos 5, một trong những mô hình mạnh nhất của Anthropic và mới chỉ phát hành cho một nhóm nhỏ đối tác. Công ty đang phối hợp với Irregular để đánh giá tình hình, cũng như tìm cách liên lạc với 3 tổ chức bị ảnh hưởng.

Trước đó, ngày 21/7, OpenAI thông báo một trong những tác nhân của họ mất kiểm soát và đột nhập nền tảng Hugging Face, khẳng định đây là "sự cố an ninh mạng chưa từng có tiền lệ".

Đến 28/7, công ty xác nhận mô hình thực tế đã xâm nhập 4 tài khoản trên 4 dịch vụ riêng biệt, trong đó có Hugging Face và Modal Labs. CEO Sam Altman cho biết OpenAI đã đình chỉ các đợt chạy thử, đồng thời cải thiện biện pháp bảo mật xung quanh môi trường thử nghiệm có kiểm soát.

Cùng ngày, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, trong đó có CEO Anthropic Dario Amodei, ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất. Văn bản đề xuất chính phủ Mỹ "hỗ trợ nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và điều hành để giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

Sam Altman không ký, nhưng cho rằng ngành công nghệ cần giảm tốc độ xây dựng các mô hình tiên tiến, giúp xã hội có thêm thời gian củng cố trước những năng lực mới của AI.

Điệp Anh(Theo AFP)

Nguồn: VnExpress

Đọc bài gốc →