AI của Google Earth vừa ra đã bị rút vì tràn ngập deepfake

Tính năng chỉnh sửa ảnh bằng AI trên nền tảng Google Earth bị gỡ bỏ sau chưa đầy 24 giờ phát hành, do hàng loạt ảnh giả lan tràn. - VnExpress

Bức tranh tổng quan

Nội dung chi tiết

AI của Google Earth vừa ra đã bị rút vì tràn ngập deepfake

Tính năng chỉnh sửa ảnh bằng AI trên nền tảng Google Earth bị gỡ bỏ sau chưa đầy 24 giờ phát hành, do hàng loạt ảnh giả lan tràn.

Google triển khai tính năng mới ngày 30/7, cho phép mô hình Nana Banana 2 truy cập nền tảng bản đồ Google Earth và chỉnh sửa hình ảnh địa điểm bằng mô tả văn bản. Tuy nhiên, nó gần như ngay lập tức bị sử dụng sai mục đích.

Henk van Ess, nhà nghiên cứu AI và dữ liệu mở trên Internet, đã tạo ra những ảnh giả với độ chân thực cực cao, ví dụ "các khu tập trung người tị nạn" dọc biên giới Mỹ - Mexico, hay một nhà máy điện hạt nhân hoàn chỉnh tại địa điểm trống trải ở Iran.

"Khu tập trung người tị nạn" được tạo ra bằng dòng lệnh AI trên Google Earth. Video: X/henkvaness

Một số người dùng mạng xã hội còn sử dụng AI trong Google Earth để tạo ảnh về những trận lụt không có thật hoặc quái vật Godzilla tấn công trung tâm thành phố Los Angeles.

Tình trạng trên diễn ra một cách khó kiểm soát, buộc Google thu hồi tính năng chỉ chưa đầy một ngày sau khi triển khai. "Chúng tôi đã chứng kiến các chuyên gia sử dụng tính năng cho những mục đích hữu ích, nhưng cũng phát hiện nhiều người chia sẻ những bức ảnh giả và vi phạm chính sách của hãng. Chúng tôi quyết định gỡ bỏ tính năng trên Google Earth trong lúc phát triển những biện pháp đề phòng mạnh mẽ hơn", phát ngôn viên Google cho hay.

Google thêm rằng ảnh tạo bằng AI đều được đóng dấu và không được đưa hiển thị trên nền tảng Google Earth cho người dùng bình thường.

Ảnh quái vật tấn công thành phố Los Angeles được tạo bằng AI trên Google Earth. Ảnh: Business Insider

Đây không phải lần đầu một công ty ra mắt tính năng tạo nội dung bằng AI và phải lập tức gỡ bỏ.

Meta hôm 7/7 triển khai công cụ Muse Image - mô hình tạo ảnh miễn phí đầu tiên của bộ phận Meta Superintelligence Labs. Một tính năng trong đó cho phép chỉnh sửa ảnh của các tài khoản Instagram khác, miễn là nội dung đó được đặt ở chế độ công khai. Người dùng chỉ cần gắn thẻ tài khoản, sau đó Muse sẽ lấy ảnh của tài khoản đó để tạo sản phẩm AI.

Ngay sau khi xuất hiện, tính năng trên gây lo ngại về quyền riêng tư. Meta khi đó khẳng định người dùng có thể điều chỉnh trong phần cài đặt nếu muốn ngăn người khác tạo ảnh AI từ bài đăng trên Instagram mà không cần chuyển tài khoản sang chế độ riêng tư.

Chỉ 3 ngày sau, tính năng này bị khóa hoàn toàn.

Điệp Anh(Theo Business Insider, Reuters, Wired)

Nguồn: VnExpress

Đọc bài gốc →