Nghiên cứu khả năng nhận diện bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam giữa các mô hình trí tuệ nhân tạo.

ĐNA - Bạo lực ngôn từ trên mạng là một hệ lụy tiêu cực của thời đại thông tin, trong khi sự phát triển mạnh mẽ của AI cũng làm gia tăng tình trạng phụ thuộc vào công nghệ. Bằng phương pháp thu thập ngữ liệu, phân tích định lượng và đối chiếu, bài viết […]

Bức tranh tổng quan

Nội dung chi tiết

Bạo lực ngôn từ trên mạng là một hệ lụy tiêu cực của thời đại thông tin, trong khi sự phát triển mạnh mẽ của AI cũng làm gia tăng tình trạng phụ thuộc vào công nghệ. Bằng phương pháp thu thập ngữ liệu, phân tích định lượng và đối chiếu, bài viết phân tích, so sánh khả năng nhận diện bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini. Qua đó, nghiên cứu góp phần cung cấp cái nhìn khách quan và thận trọng hơn về khả năng nhận diện hành vi ngôn ngữ này của AI.

Bối cảnh, tính cấp thiết và mục tiêu của nghiên cứu Bối cảnh. Trong bối cảnh xã hội số phát triển mạnh mẽ, không gian mạng đã trở thành một trong những môi trường giao tiếp chủ yếu của giới trẻ trên toàn cầu. Sự phát triển này cũng kéo theo sự gia tăng của các hành vi bạo lực ngôn từ trên các nền tảng trực tuyến. Các hành vi này thường được thực hiện dưới hình thức ẩn danh hoặc lợi dụng hiệu ứng đám đông, có thể gây tổn thương tâm lý sâu sắc cho nạn nhân, dẫn đến những hệ lụy nghiêm trọng như trầm cảm, lo âu, thậm chí tự tử (UNICEF, 2023).

Tuy nhiên, việc xác định ranh giới giữa quyền tự do biểu đạt và hành vi bạo lực ngôn từ, cũng như khi nào một phát ngôn cần được điều chỉnh bằng pháp luật, vẫn là thách thức đối với các nhà lập pháp và cơ quan thực thi pháp luật (Nakamura, 2013). Không chỉ gây tổn thương về tâm lý và tinh thần cho nạn nhân, bạo lực ngôn từ trên mạng còn góp phần hình thành môi trường giao tiếp tiêu cực, từ đó đặt ra những vấn đề đáng quan tâm đối với sức khỏe cộng đồng trong thời đại thông tin.

Tính cấp thiết của đề tài. Trước thực trạng đó, trí tuệ nhân tạo (AI), đặc biệt là các mô hình ngôn ngữ lớn như ChatGPT, DeepSeek và Gemini, được kỳ vọng trở thành công cụ hỗ trợ hiệu quả trong việc phát hiện và kiểm soát ngôn ngữ độc hại trên không gian mạng. Tuy nhiên, xu hướng ỷ lại vào AI đang đặt ra những vấn đề đáng lưu ý, khi một bộ phận người dùng xem kết quả do các mô hình này đưa ra như phán quyết cuối cùng trong việc đánh giá hành vi ngôn ngữ. Trong khi đó, ngôn ngữ không chỉ được cấu thành bởi từ vựng và cú pháp mà còn gắn liền với ngữ cảnh, văn hóa và bối cảnh xã hội của người sử dụng.

Đối với giới trẻ Việt Nam, ngôn ngữ trên mạng càng trở nên phức tạp với sự xuất hiện của tiếng lóng, từ viết tắt, cách chơi chữ và các hình thức công kích gián tiếp như mỉa mai, ẩn dụ, so sánh ngầm. Những đặc điểm này có thể gây khó khăn cho AI trong việc nhận diện chính xác bạo lực ngôn từ, qua đó cho thấy cần thận trọng khi sử dụng AI như một công cụ đánh giá hành vi ngôn ngữ trên không gian mạng.

Khoảng trống nghiên cứu. Mặc dù nhiều nghiên cứu đã khẳng định tiềm năng của AI trong việc phát hiện nội dung độc hại, phần lớn các công trình hiện nay tập trung vào dữ liệu tiếng Anh hoặc sử dụng các bộ dữ liệu chuẩn hóa có sẵn. Trong khi đó, các nghiên cứu đánh giá trực tiếp khả năng nhận diện bạo lực ngôn từ của các mô hình AI tạo sinh phổ biến trong ngữ cảnh tiếng Việt, đặc biệt là ngôn ngữ của giới trẻ với sự đa dạng và biến thể phong phú, vẫn còn hạn chế. Đây chính là khoảng trống mà nghiên cứu này hướng tới, thông qua việc phân tích và so sánh khả năng nhận diện bạo lực ngôn từ trên mạng của ChatGPT, DeepSeek và Gemini đối với ngữ liệu tiếng Việt của giới trẻ.

Mục tiêu nghiên cứu. Từ bối cảnh và khoảng trống nghiên cứu nêu trên, đề tài tập trung phân tích và so sánh khả năng nhận diện hành vi bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini. Nghiên cứu hướng tới xác định tỷ lệ nhận diện đúng và sai của từng mô hình, phân loại các dạng lỗi thường gặp theo hình thức và mức độ, đồng thời làm rõ những nguyên nhân nền tảng dẫn đến sai lệch trong quá trình xử lý ngôn ngữ. Kết quả không chỉ góp phần bổ sung luận cứ cho các nghiên cứu về mối quan hệ giữa ngôn ngữ và AI mà còn giúp người dùng có cái nhìn khách quan, thận trọng hơn, qua đó sử dụng AI như một công cụ tham khảo thay vì phụ thuộc vào phán đoán của các mô hình này.

Khái niệm và phân loại bạo lực ngôn từ trên mạngBạo lực là hành vi mang tính công kích, chủ yếu hướng tới sự an toàn về thân thể và tài sản của người khác. Hiện nay, vẫn chưa có một định nghĩa thống nhất về bạo lực ngôn từ trên mạng. Một số quan điểm cho rằng đây là hành vi tạo ra hoặc phát tán các phát ngôn mang tính nhục mạ, công kích người khác thông qua các nền tảng Internet, từ đó gây tổn thương về tâm lý và tinh thần cho nạn nhân. Quan điểm khác lại nhấn mạnh yếu tố chủ đích, theo đó bạo lực ngôn từ trên mạng là việc người nói lựa chọn một đối tượng cụ thể và sử dụng ngôn từ như một công cụ để lăng mạ hoặc công kích đối tượng đó trong không gian mạng.

Trong nghiên cứu này, bạo lực ngôn từ trên mạng được định nghĩa là hành vi sử dụng không gian mạng làm môi trường giao tiếp, trong đó các phát ngôn mang tính nhục mạ hoặc phân biệt đối xử, như lăng mạ, phỉ báng, sỉ nhục, chế giễu,… được sử dụng nhằm gây tổn hại đến sức khỏe tinh thần của người khác.

Bạo lực ngôn từ trên mạng có thể xuất phát từ hai nhóm nguyên nhân chính: (1) tâm lý không lành mạnh của người thực hiện hành vi và (2) những đặc điểm của không gian mạng như tính không biên giới, khả năng ẩn danh và tính tức thời. Dựa trên đặc điểm nội dung ngôn ngữ, nghiên cứu này chia bạo lực ngôn từ trên mạng thành hai loại chính: (1) công kích trực tiếp, bao gồm các phát ngôn mang tính xúc phạm, khống chế hoặc kỳ thị; và (2) công kích gián tiếp, bao gồm các phát ngôn sử dụng ẩn dụ, chế giễu, mỉa mai hoặc so sánh nhằm công kích đối tượng.

Kết quả nghiên cứu Kết quả AI nhận diện hành vi bạo lực ngôn ngữ mạng

Bảng 1. Các trường hợp ChatGPT nhận diện sai hành vi bạo lực ngôn ngữ mạng

Hình 1. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Chat GPT

Thông qua bảng thống kê và các biểu đồ, có thể thấy ChatGPT gặp khá nhiều khó khăn trong việc nhận diện hình thức và mức độ của hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam hiện nay. Cụ thể, tỷ lệ câu nhận diện sai lên tới 57,6%; trong đó, 68,4% trường hợp sai ở cả hình thức ngôn ngữ và mức độ bạo lực.

Xét theo từng lượt, lượt 2 có tỷ lệ nhận diện sai cao nhất, lên tới 80%, chủ yếu tập trung ở những trường hợp sai đồng thời về hình thức và mức độ. Đáng chú ý, ở câu C65, ChatGPT cho rằng phát ngôn không chứa yếu tố bạo lực. Điều này cho thấy việc kết hợp bối cảnh chung của toàn bộ cuộc thảo luận với ngữ cảnh và các yếu tố riêng của từng phát ngôn vẫn là một thách thức đối với ChatGPT trong việc nhận diện ý nghĩa thực sự của ngôn ngữ.

Tiếp theo là lượt 4, lượt 3 và lượt 5, với tỷ lệ nhận diện sai lần lượt là 75%, 60% và 57%. Trong đó, C92, C6 và C10 là ba trường hợp ChatGPT hoàn toàn không nhận diện được yếu tố bạo lực ngôn từ trong phát ngôn, khi đều đánh giá các câu nói này là bình thường và không chứa sự công kích cá nhân.

Trong khi đó, lượt 1 có tỷ lệ nhận diện sai thấp nhất, chỉ 20%. Kết quả này cho thấy ChatGPT có khả năng đánh giá tốt hơn đối với các phát ngôn đơn lẻ, khi chưa phải xử lý những ngữ cảnh đặc thù hoặc mối liên hệ giữa nhiều phát ngôn trong cùng một cuộc hội thoại.

Nhìn chung, ChatGPT có xu hướng giảm nhẹ mức độ bạo lực trong các hành vi ngôn ngữ trên mạng. Các lỗi nhận diện chủ yếu tập trung ở hai dạng: (1) không nhận diện được tính chất công kích trực tiếp và chuyển thành công kích gián tiếp; và (2) đánh giá mức độ công kích thấp hơn so với bản chất của phát ngôn.

Bảng 2. Các trường hợp Deepseek nhận diện sai hành vi bạo lực ngôn ngữ mạng

Hình 2. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Deepseek

Đáng chú ý trước tiên là trường hợp C1 ở lượt 1, khi DeepSeek nhận diện hình thức của phát ngôn là một câu văn bình thường, không chứa yếu tố bạo lực, nhưng lại đánh giá mức độ bạo lực ở cấp độ công kích nhẹ. Đây là sự không nhất quán giữa hai tiêu chí đánh giá. Đáng chú ý, lượt 1 cũng có tỷ lệ nhận diện sai cao nhất trong tất cả các lượt. Việc thiếu một ngữ cảnh đủ rõ ràng và chưa có cơ sở tham chiếu từ các đánh giá trước đó có thể là những yếu tố ảnh hưởng đến khả năng nhận diện bạo lực ngôn từ trên mạng của mô hình.

Tiếp theo, lượt 4 có tỷ lệ nhận diện sai 75%, cao thứ hai sau lượt 1. Đáng chú ý, toàn bộ các trường hợp sai ở lượt này đều liên quan đến việc đánh giá hình thức bạo lực ngôn từ. Lượt 2 đứng thứ ba với tỷ lệ nhận diện sai 40%, trong đó tất cả các trường hợp đều sai đồng thời về hình thức và mức độ. Đặc biệt, ở câu C45, DeepSeek hoàn toàn không nhận diện được yếu tố công kích trong phát ngôn và đánh giá đây chỉ là một câu nói bình thường.

Lượt 5 và lượt 3 có tỷ lệ nhận diện sai lần lượt là 28% và 20%. Trong khi lượt 5 xuất hiện cả hai dạng lỗi về hình thức và mức độ, lượt 3 chỉ có một phát ngôn bị đánh giá sai về hình thức ngôn ngữ.

Nhìn chung, tỷ lệ sai về hình thức cao hơn đáng kể so với sai về mức độ. Kết quả này cho thấy DeepSeek có khả năng nhận diện tương đối tốt mức độ bạo lực của các phát ngôn, nhưng vẫn gặp khó khăn trong việc xác định và phân biệt chính xác hình thức biểu hiện của bạo lực ngôn từ.

Bảng 3. Các trường hợp Gemini nhận diện sai hành vi bạo lực ngôn ngữ mạng

Hình 3. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Gemini

Thông qua bảng thống kê và các biểu đồ, có thể thấy Gemini cũng gặp nhiều khó khăn trong việc nhận diện hình thức và mức độ của hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam hiện nay. Cụ thể, tỷ lệ câu nhận diện sai lên tới 57,6%; trong đó, 58% trường hợp sai đồng thời về hình thức ngôn ngữ và mức độ bạo lực.

Xét theo từng lượt, lượt 1, lượt 2 và lượt 3 có tỷ lệ nhận diện sai cao nhất, cùng ở mức 60%. Các lỗi chủ yếu tập trung ở những trường hợp sai đồng thời về hình thức và mức độ. Đáng chú ý, ở câu C45, Gemini không nhận diện được yếu tố bạo lực trong phát ngôn và đánh giá đây là một câu nói bình thường. Kết quả này cho thấy Gemini cũng gặp khó khăn khi xử lý những phát ngôn có tính độc lập hoặc thiếu các yếu tố ngữ cảnh hỗ trợ.

Tiếp theo, lượt 5 và lượt 4 có tỷ lệ nhận diện sai lần lượt là 57% và 50%. Trong đó, C92 và C6 là hai trường hợp Gemini hoàn toàn không nhận diện được yếu tố bạo lực ngôn từ trong phát ngôn và đều đánh giá các câu nói này là bình thường. Ngược lại, ở C13, mặc dù phát ngôn thực tế không chứa yếu tố bạo lực, Gemini lại nhận định đây là một câu mỉa mai với mức độ công kích nhẹ. Trường hợp này cho thấy mô hình không chỉ bỏ sót các biểu hiện bạo lực mà đôi khi còn nhận diện bạo lực ở những phát ngôn không mang tính công kích.

Nhìn chung, các lỗi nhận diện của Gemini tương đối phân tán và không tập trung vào một xu hướng duy nhất. Bên cạnh việc giảm mức độ công kích hoặc chuyển hình thức bạo lực trực tiếp thành gián tiếp, mô hình còn xuất hiện lỗi theo chiều ngược lại, tức là tăng mức độ công kích và nhận định phát ngôn có yếu tố công kích trực tiếp. Điều này cho thấy khả năng nhận diện của Gemini vẫn chưa ổn định khi xử lý các biểu hiện ngôn ngữ đa dạng và phức tạp trên không gian mạng.

Hình 4. So sánh tỷ lệ nhận diện giữa 3 mô hình AI

Dựa trên các số liệu thống kê và biểu đồ, có thể nhận thấy sự khác biệt trong khả năng nhận diện hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini, xét trên hai tiêu chí là hình thức ngôn ngữ và mức độ bạo lực.

Trước hết, xét về tổng số câu và tỷ lệ nhận diện sai, ChatGPT và Gemini có kết quả giống nhau, cùng sai 19 câu, tương ứng 57,6%. Trong khi đó, DeepSeek có số câu sai thấp hơn, với 14 câu, tương ứng 54,8%. Kết quả này cho thấy DeepSeek có tỷ lệ nhận diện chính xác cao hơn so với hai mô hình còn lại, mặc dù mức chênh lệch không lớn.

Xét về bản chất của các lỗi, ChatGPT có xu hướng mắc lỗi đồng thời ở cả hai tiêu chí hình thức và mức độ, trong khi số trường hợp chỉ sai ở một tiêu chí tương đối thấp. Điều này cho thấy khi ChatGPT nhận diện sai, lỗi thường xảy ra trên cả hai phương diện. Gemini cũng xuất hiện xu hướng tương tự, nhưng các lỗi riêng lẻ về hình thức và mức độ được phân bố tương đối đồng đều hơn. Ngược lại, DeepSeek chủ yếu mắc lỗi về hình thức, đồng thời có tỷ lệ sai ở cả hai tiêu chí thấp nhất trong ba mô hình.

Xét về hướng sai cụ thể, ChatGPT và DeepSeek có điểm tương đồng khi đều có xu hướng nhận diện các trường hợp công kích trực tiếp thành công kích gián tiếp và đánh giá mức độ công kích thấp hơn so với bản chất của phát ngôn. Trong khi đó, lỗi của Gemini phân bố theo nhiều hướng hơn. Bên cạnh việc chuyển công kích trực tiếp thành gián tiếp hoặc giảm mức độ công kích, mô hình này còn xuất hiện các trường hợp nhận diện công kích gián tiếp thành trực tiếp và đánh giá mức độ công kích cao hơn thực tế.

Nhìn chung, mặc dù DeepSeek có số câu nhận diện sai thấp nhất, tỷ lệ sai của cả ba mô hình vẫn ở mức khá cao. Các mô hình đều xuất hiện lỗi ở cả hình thức và mức độ bạo lực, với những xu hướng sai khác nhau. Vì vậy, kết quả nhận diện của AI cần được xem xét thận trọng, đặc biệt khi xử lý các phát ngôn có tính đa nghĩa, phụ thuộc vào ngữ cảnh hoặc sử dụng những hình thức biểu đạt đặc thù của ngôn ngữ mạng.

Nhìn tổng thể, cả ba mô hình AI đều bộc lộ những hạn chế nhất định trong việc phân biệt ngữ cảnh của các phát ngôn mang tính công kích, đặc biệt đối với những trường hợp có sự kết hợp giữa ngôn ngữ, emoji và các yếu tố hình ảnh. Xét về tính lặp lại và cách diễn giải các phát ngôn trong toàn bộ vòng đối thoại, những lỗi này không hoàn toàn mang tính ngẫu nhiên mà cho thấy những hạn chế nhất định của các mô hình khi xử lý ngôn ngữ mạng đặc thù của giới trẻ Việt Nam. Những phát ngôn bạo lực được che giấu dưới dạng tiếng lóng, từ ngữ biến thể, lối nói mỉa mai hoặc các biểu đạt mang tính văn hóa có xu hướng bị mô hình giảm mức độ hoặc nhận diện sai hình thức bạo lực. Một số trường hợp tiêu biểu gồm C92, C6 và C10 ở ChatGPT; C45 ở DeepSeek; C92 và C6 ở Gemini.

Một nguyên nhân đáng chú ý có thể đến từ khoảng cách giữa ngôn ngữ mạng của giới trẻ Việt Nam và các dạng ngôn ngữ chuẩn thường xuất hiện trong dữ liệu mà các mô hình AI được huấn luyện. Trên các nền tảng mạng xã hội, người dùng thường xuyên sử dụng tiếng lóng, từ viết tắt, từ biến thể, cách thay thế ký tự hoặc những cách diễn đạt mang tính cộng đồng. Xét riêng từng từ, những biểu đạt này có thể không mang ý nghĩa công kích; tuy nhiên, khi được đặt trong một ngữ cảnh cụ thể, chúng lại có thể trở thành phương tiện chế giễu, mỉa mai hoặc xúc phạm người khác. Do đó, mô hình có thể nhận diện được nghĩa bề mặt của từ ngữ nhưng gặp khó khăn trong việc xác định hàm ý xã hội và sắc thái cảm xúc của toàn bộ phát ngôn, từ đó dẫn đến sai lệch về hình thức hoặc mức độ bạo lực.

Bên cạnh ngôn ngữ, emoji và hình ảnh cũng là những yếu tố gây khó khăn cho quá trình nhận diện. Trong các phát ngôn có emoji hoặc hình ảnh đi kèm, các mô hình có thể chưa khai thác đầy đủ giá trị biểu đạt của những yếu tố này mà vẫn thiên về việc phân tích nội dung ngôn từ. Điều này đáng chú ý bởi trong ngôn ngữ mạng Việt Nam, emoji không phải lúc nào cũng mang ý nghĩa đúng với biểu tượng trực quan của chúng. Chẳng hạn, emoji mặt cười có thể được sử dụng để nói mát, châm chọc hoặc tạo sắc thái mỉa mai. Khi đi kèm một phát ngôn có tính công kích, emoji này đôi khi không làm giảm mức độ công kích mà ngược lại còn góp phần nhấn mạnh tính châm biếm của phát ngôn.

Kết quả nghiên cứu cũng cho thấy việc bổ sung hình ảnh ngữ cảnh chưa chắc đã giúp mô hình nhận diện chính xác hơn. ChatGPT và Gemini có cùng tỷ lệ nhận diện s…

Nguồn: tapchidongnama.vn

Đọc bài gốc →