Google thu hồi tính năng AI tạo ảnh trên Google Earth sau chưa đầy 24 giờ

Google thu hồi tính năng AI tạo ảnh trên Google Earth chỉ sau chưa đầy 24 giờ. Tìm hiểu nguyên nhân và diễn biến mới tại Phong Vũ Tech News.

Bức tranh tổng quan

Nội dung chi tiết

PV Tech News – Google vừa gỡ bỏ tính năng tạo ảnh vệ tinh bằng AI trên Google Earth chỉ một ngày sau khi ra mắt toàn cầu, sau khi giới nghiên cứu chứng minh công cụ này có thể tạo ra ảnh giả mạo các địa điểm nhạy cảm như cơ sở hạt nhân hay khu vực biên giới.

Tính năng “create image” được Google triển khai ngày 30/7 trên phiên bản web của Google Earth, mở rộng toàn cầu, miễn phí, không cần danh sách chờ. Người dùng chỉ cần phóng to một vị trí bất kỳ, nhấn nút tạo ảnh rồi nhập mô tả bằng văn bản, hệ thống sẽ dựng ra khung cảnh vệ tinh giống ảnh thật, ghép trực tiếp lên dữ liệu địa lý có sẵn. Công nghệ đứng sau là mô hình Nano Banana 2 hay Gemini 3.1 Flash Image.

Google thu hồi tính năng AI tạo ảnh trên Google Earth sau chưa đầy 24 giờ (Nguồn: Internet)

Vấn đề xuất hiện gần như ngay lập tức. Nhà báo điều tra Henk van Ess, cùng NPR và Futurism, đã thử nghiệm và cho ra loạt ảnh giả đáng lo ngại: dòng người tị nạn gần biên giới Mexico và một nhà máy điện hạt nhân không có thật tại Iran, gắn tọa độ địa lý thực tế. Lớp bảo vệ chính mà Google công bố – watermark kỹ thuật số SynthID – không ngăn được các ảnh này lan truyền, và ngay cả chatbot Gemini cũng không thể khẳng định chắc chắn đâu là ảnh do AI tạo khi được kiểm tra lại.

Ông Jake Godin, chuyên gia nghiên cứu cấp cao tại tổ chức điều tra trực quan Bellingcat, nhận định “ảnh vệ tinh từ trước đến nay vẫn được xem là kênh đáng tin để kiểm chứng sự kiện, bởi nó rất khó làm giả”. Với giới điều tra nguồn mở và báo chí, Google Earth vốn là công cụ đối chiếu, xác minh tin tức tại những khu vực khó tiếp cận. Khi công cụ có thể sinh ảnh giả gắn tọa độ thật, tính đáng tin của cả nền tảng bị đặt dấu hỏi.

Ban đầu, Google vẫn bảo vệ tính năng, cho rằng người dùng có thể xác minh nguồn gốc ảnh qua Gemini hoặc Lens trong Search nhờ SynthID. Lập luận này nhanh chóng bị bác bỏ, vì phần lớn người dùng không kiểm tra ảnh trước khi chia sẻ, còn ảnh giả chủ yếu được phát tán qua ảnh chụp màn hình trên mạng xã hội, không hiển thị công khai trong chính Google Earth.

Đến ngày 31/7, Google thông báo rút tính năng trên tài khoản X: “Chúng tôi biết mọi người đặc biệt tin tưởng Google Earth như một góc nhìn đáng tin cậy về thế giới. Chúng tôi ghi nhận nhiều chuyên gia địa không gian dùng tính năng này cho mục đích hữu ích, nhưng cũng thấy người dùng chia sẻ ảnh có dấu hiệu vi phạm chính sách. Vì vậy, chúng tôi tạm ngừng tính năng này để xây dựng thêm rào chắn an toàn”.

Watermark SynthID của Google không phát hiện được ảnh giả trên Google Earth (Nguồn: Internet)

Đây không phải lần đầu Google rút một tính năng AI ngay sau ra mắt tháng 2/2024, hãng từng tạm dừng khả năng tạo ảnh chân dung người trên Gemini vì sai lệch bối cảnh lịch sử. Điểm khác biệt lần này là tốc độ: chưa đầy 24 giờ từ ra mắt đến rút tính năng, một trong những lần thu hồi sản phẩm AI nhanh nhất được ghi nhận, và lần đầu bắt nguồn trực tiếp từ một lỗ hổng an toàn cụ thể.

Khả năng tạo ảnh vệ tinh photorealistic gắn tọa độ thực là bước tiến đáng chú ý của AI tạo sinh. Nhưng câu hỏi còn lại là liệu rào chắn an toàn nào có thể kiểm soát công nghệ này ở quy mô lớn, trên một nền tảng mà báo chí và điều tra viên vẫn xem là công cụ xác minh hàng đầu. Google chưa công bố thời điểm đưa tính năng trở lại, cũng như các điều kiện an toàn bổ sung sẽ được áp dụng. Đừng quên theo dõi Phong Vũ Tech News để cập nhật những tin tức công nghệ mới nhất mỗi ngày nhé!

Nguồn: Bloomberg

Bài viết liên quan:

Nguồn: phongvu.vn

Đọc bài gốc →