Một người bán sách nghi ngờ đơn hàng 1.000 cuốn của mình là để phục vụ huấn luyện AI. Họ gắn một chiếc AirTag vào một cuốn và theo dõi. Lô sách kết thúc hành trình tại kho LAS8 của Amazon ở North Las Vegas, nơi sách bị tháo gáy, quét từng trang rồi phá hủy.
Đường đi của một lô sách
Cuộc điều tra do 404 Media thực hiện bắt đầu từ một linh cảm. Người bán sách nhận đơn 1.000 cuốn qua Biblio — một chợ sách trực tuyến chuyên sách cũ và sách hiếm — và thấy quy mô cùng cách chọn sách không giống đơn của người sưu tầm hay nhà bán lẻ thông thường.
Chiếc AirTag giấu trong một cuốn sách dẫn tới kho LAS8. Tại đó, quy trình là tháo gáy sách, quét toàn bộ trang, rồi phá hủy phần còn lại. Tháo gáy là bước cần thiết để quét nhanh bằng máy nạp giấy tự động thay vì lật từng trang — nó cũng có nghĩa cuốn sách không còn tồn tại sau đó.
Một nhân viên Amazon chia sẻ trên diễn đàn nội bộ rằng công việc của họ là quét sách, và quy trình này không gây áp lực.
Các báo cáo cho thấy hoạt động mua sách kiểu này đã diễn ra từ năm 2024, tức là đã kéo dài khoảng hai năm trước khi bị phát hiện.
Amazon nói gì, và không nói gì
Amazon xác nhận mua sách qua các kênh thương mại để phát triển sản phẩm và dịch vụ.
Phần không được trả lời mới là phần đáng chú ý: quy mô chương trình, sản phẩm cụ thể nào dùng dữ liệu quét được, và có quy trình sàng lọc sách hiếm trước khi phá hủy hay không.
Câu hỏi thứ ba là câu hỏi nhức nhối nhất. Trong một lô sách cũ mua theo khối lượng từ chợ sách hiếm, khả năng lẫn vào những bản in ít, sách đã ngừng xuất bản, hoặc bản có ghi chú viết tay là không nhỏ. Nếu quy trình chỉ tối ưu cho tốc độ quét, không có bước nào phát hiện ra điều đó. Một cuốn sách hiếm không có bản số hoá ở nơi khác, sau khi đi qua dây chuyền này, biến mất khỏi thế giới vật lý và tồn tại duy nhất dưới dạng file trong hệ thống của một công ty.
Vấn đề pháp lý không nằm ở chỗ nhiều người nghĩ
Điểm dễ hiểu nhầm: mua một cuốn sách rồi phá hủy nó không sai. Bạn sở hữu vật thể đó và có quyền làm gì tùy ý với nó.
Vấn đề nằm ở chỗ khác — sở hữu một bản sao vật lý không đồng nghĩa với quyền sử dụng nội dung bên trong. Bạn mua một cuốn sách thì được đọc, cho mượn, bán lại, thậm chí đốt; nhưng không vì thế mà được sao chép nội dung và dùng nội dung đó vào mục đích thương mại.
Việc quét sách thành file là tạo một bản sao. Việc dùng bản sao đó để huấn luyện mô hình là một hành vi sử dụng nữa. Cả hai đều nằm trong vùng đang tranh cãi pháp lý ở nhiều nước, và chưa có kết luận thống nhất.
Điều khiến cách làm này khác với việc thu thập dữ liệu từ web là tính có chủ đích và tính không thể đảo ngược. Dữ liệu web thì vẫn ở nguyên đó sau khi bị thu thập. Cuốn sách thì không.
Còn một khía cạnh nữa ít được nói tới: việc mua qua chợ sách cũ khiến chuỗi này gần như vô hình với tác giả và nhà xuất bản. Họ không bán, không được hỏi, và không có cách nào biết tác phẩm của mình vừa đi qua dây chuyền đó.
Mặt còn lại: sách do AI viết tràn lên chính Amazon
Ở một diễn biến song song, một nghiên cứu của Originality.ai cho thấy 63% sách tôn giáo trên Amazon có khả năng do AI viết. Tỷ lệ cao nhất thuộc về sách về phù thủy, 78%, và sách Ấn Độ giáo, 76%.
Cần nói rõ về phương pháp trước khi dùng con số này. Nghiên cứu phân tích mô tả sách, tiểu sử tác giả và đoạn trích mẫu, rồi chấm theo thang điểm — từ 50 trở lên được xếp vào nhóm "có khả năng do AI viết". Đây là suy đoán dựa trên đặc trưng văn phong, không phải bằng chứng. Các công cụ phát hiện nội dung AI đều có tỷ lệ báo nhầm đáng kể, và chúng đặc biệt hay báo nhầm với văn viết theo khuôn mẫu — vốn là đặc điểm sẵn có của nhiều thể loại sách phổ thông.
Vì vậy nên đọc con số 63% như một tín hiệu về quy mô, không phải một phép đếm chính xác.
Publishers Weekly đưa tin về cùng nghiên cứu, kèm một nhận xét thực tế: sách do AI viết thường rẻ hơn và ngắn hơn.
Lý do các thể loại tâm linh và tôn giáo đứng đầu danh sách cũng dễ hiểu. Đây là những mảng có nhu cầu tìm kiếm lớn và ổn định, nhưng độc giả ít có cách kiểm chứng chất lượng trước khi mua, và không có tiêu chuẩn khách quan nào để nói một cuốn sách về chủ đề đó là sai. Đó chính là điều kiện lý tưởng cho nội dung sản xuất hàng loạt.
Một phần ba web sau ChatGPT
Pew Research bổ sung một con số ở quy mô rộng hơn: 35% nội dung web đăng sau khi ChatGPT ra mắt vào tháng 11/2022 có dấu hiệu do AI viết, tăng từ mức 10% năm 2021.
Phân bố theo loại tên miền cũng đáng chú ý. Các trang .com có tỷ lệ nội dung AI cao gấp khoảng 10 lần so với .edu hoặc .gov, và gấp đôi so với .org.
Chênh lệch này nói khá rõ về động lực. Tên miền thương mại chịu áp lực sản lượng — nội dung là công cụ thu hút lưu lượng, và lưu lượng quy ra tiền. Tên miền giáo dục và cơ quan nhà nước không có áp lực đó, và thường có quy trình duyệt trước khi đăng.
Cũng như con số 63% ở trên, đây là ước lượng dựa trên nhận diện đặc trưng, không phải phép đếm. Nhưng hướng và độ lớn của xu hướng thì khó bác bỏ.
Vòng lặp dữ liệu đang khép lại
Ghép hai nửa của câu chuyện lại thì thấy một vòng tròn.
Một đầu, các công ty AI đang tìm dữ liệu do con người viết với mức độ ráo riết đến mức mua sách cũ theo lô để quét — vì sách là loại dữ liệu đã qua biên tập, có cấu trúc, chất lượng cao hơn hẳn văn bản web trung bình. Đầu kia, sản phẩm của chính các mô hình đó đang lấp đầy web và cả gian hàng sách.
Hệ quả là mỗi năm trôi qua, dữ liệu mới trên internet lại chứa tỷ lệ nội dung do máy sinh cao hơn, trong khi kho dữ liệu do người viết trước năm 2022 thì cố định, không tăng thêm. Điều này giải thích vì sao sách in cũ đột nhiên có giá trị chiến lược: chúng là dữ liệu có niên đại xác thực, được viết trước thời điểm nội dung máy sinh trở nên phổ biến.
Nó cũng giải thích vì sao cuộc đua mua dữ liệu diễn ra gấp gáp. Nguồn này không tái tạo.
Với người viết và người đọc ở Việt Nam
Chương trình mua sách của Amazon vận hành ở thị trường Mỹ và không ảnh hưởng trực tiếp tới người đọc trong nước. Nhưng ba phần khác thì có.
Với người viết và nhà xuất bản, câu hỏi đáng đặt ra bây giờ là điều khoản hợp đồng về quyền sử dụng tác phẩm cho mục đích huấn luyện mô hình — một điều khoản mà phần lớn hợp đồng xuất bản tiếng Việt hiện không đề cập, vì nó chưa tồn tại khi các mẫu hợp đồng đó được soạn. Im lặng trong hợp đồng không có lợi cho bên yếu hơn.
Với người làm AI và xử lý ngôn ngữ trong nước, bài học thực dụng là nguồn gốc dữ liệu cần được ghi chép từ đầu, không phải bổ sung sau. Việc chứng minh được một tập dữ liệu đến từ đâu ngày càng trở thành điều kiện để dùng được nó về mặt thương mại, và dựng lại nhật ký nguồn gốc cho một tập dữ liệu đã trộn là việc gần như bất khả thi.
Với người đọc, phần liên quan nhất là mảng sách tự xuất bản trên các nền tảng số. Vài dấu hiệu thường gặp ở sách sản xuất hàng loạt: tác giả không có dấu vết nào khác ngoài trang bán hàng, nhiều đầu sách xuất bản cách nhau vài tuần, mục lục dàn đều một cách máy móc, và phần xem thử đọc trôi chảy nhưng không có ví dụ cụ thể nào. Đọc kỹ phần xem thử vẫn là cách lọc hiệu quả nhất.
Nguồn tham khảo
- Decrypt — 63% of Religious Books on Amazon Are Likely AI-Written, Study Finds
- Decrypt — A Third of the Post-ChatGPT Web Is AI-Written, Pew Finds
- publishersweekly.com — AI Invades Religion Books on Amazon - Publishers Weekly
- 404media.co — We Tracked a Shipment of Rare Books. It Ended at an Amazon AI Training Facility - 404 Media
- inc.com — Amazon Is Buying Up Older Books and Destroying Them After Scanning. The Orders Go Back to 2024 - inc.com
- futurism.com — Amazon Caught Destroying Rare Books to Train AI - Futurism
