Mô hình AI của Meta tấn công mạng một công ty

Mô hình Meta, nhiều khả năng là Muse Spark, tự khai thác lỗ hổng chưa được biết đến và xâm nhập hệ thống của một công ty trong thử nghiệm. - VnExpress

Bức tranh tổng quan

Nội dung chi tiết

Mô hình AI của Meta tấn công mạng một công ty

Mô hình Meta, nhiều khả năng là Muse Spark, tự khai thác lỗ hổng chưa được biết đến và xâm nhập hệ thống của một công ty trong thử nghiệm.

Meta ngày 5/8 thông báo, mô hình AI của họ đã "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba, theo cách tương tự trường hợp từng được báo cáo gần đây".

The Informationdẫn nguồn tin thân cận cho biết, "thủ phạm" là Muse Spark 1.1, được giới thiệu là mô hình mạnh nhất của Meta dùng cho nhiệm vụ tác nhân và lập trình thực tế. Mô hình này xâm nhập hệ thống của một công ty giấu tên và thay đổi môi trường nội bộ.

Phát ngôn viên Meta giải thích, lỗi cấu hình của Irregular, công ty độc lập kiểm thử mô hình cho Meta, đã khiến AI kết nối được Internet trong quá trình đánh giá.

Người phát ngôn của Irregular nói với Reuters, đây là "vấn đề về môi trường đánh giá, hoàn toàn giống với vấn đề mà Anthropic công bố tuần trước", tức không phải sự cố thoát khỏi môi trường thử nghiệm. "Irregular đang làm báo cáo kỹ thuật để chia sẻ phương pháp tốt nhất giúp kiểm soát và thực hiện cuộc đánh giá an ninh mạng một cách an toàn", người này nói thêm.

Meta cho biết đã nhận được thông báo từ Irregular về vụ xâm nhập, đang tiến hành điều tra và sẽ đưa ra báo cáo chi tiết sau khi có đầy đủ thông tin.

Logo Meta tại sự kiện về đổi mới sáng tạo tại Hà Nội, tháng 10/2024. Ảnh: Lưu Quý

Chỉ trong vòng hai tuần qua, Meta trở thành công ty AI lớn thứ ba xác nhận mô hình của họ xâm nhập hệ thống của công ty khác trong quá trình thử nghiệm, cho thấy tác nhân AI ngày càng tiên tiến nhưng cũng tiềm ẩn nhiều rủi ro.

Trước đó, ngày 21/7, OpenAI chia sẻ trên blog rằng một số mô hình AI đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face. Một tuần sau, OpenAI cho biết đã xác định tác nhân AI nhắm mục tiêu thêm ba công ty nữa.

Đến 30/7, Anthropic cũng thông báo phát hiện ba trường hợp mô hình đang được thử nghiệm của họ "truy cập trái phép" vào một số tổ chức, nhưng không nêu tên.

Loạt sự cố khiến các nhà lập pháp Mỹ lo ngại về khả năng AI bị lợi dụng để thực hiện hoặc thúc đẩy tấn công mạng. Đầu tuần này, Nhà Trắng mời đại diện một số công ty AI hàng đầu như Meta, Anthropic, OpenAI, Google gặp gỡ các quan chức nhằm thảo luận về một khuôn khổ thử nghiệm an ninh mạng tự nguyện mới dành cho mô hình tiên tiến.

Theo Reuters, chính quyền Donald Trump đã thảo luận về quy định thử nghiệm chưa được công bố với đại diện các công ty, đồng thời thông báo mô hình trọng số mở, chẳng hạn Llama của Meta và Nemotron của Nvidia, sẽ không thuộc diện áp dụng chế độ này.

Thu Thảo tổng hợp

Nguồn: VnExpress

Đọc bài gốc →