AI mở rộng nguy cơ thao túng bầu cử tại Đông Nam Á

Trước đây, một chiến dịch tung tin giả quy mô lớn thường cần đội ngũ xây dựng website tin tức giả, tài khoản mạng xã hội và tài liệu giả mạo. Nay, AI có thể hỗ trợ phần lớn công việc này nhanh hơn và với chi phí thấp hơn.

Theo The Guardian, Anthropic công bố một chiến dịch gây ảnh hưởng chính trị tại Malaysia, trong đó Claude AI được sử dụng để xây dựng nền tảng thao túng bầu cử. Chiến dịch vận hành khoảng 1.000 tài khoản trên X, một trang tin giả mang tên “Malaysia Pulse” cùng nhiều tài liệu giả mạo.

Hoạt động này dường như nhằm tác động đến cử tri trong các cuộc bầu cử cấp bang gần đây của Malaysia, sử dụng dữ liệu dân số và bầu cử để khai thác các vấn đề nhạy cảm như chủng tộc, tôn giáo và hoàng gia tại 222 khu vực bầu cử quốc hội.

Chiến dịch không đạt hiệu quả sau khi Anthropic can thiệp, song vụ việc làm dấy lên lo ngại về nguy cơ AI bị lợi dụng trong các cuộc bầu cử tương lai tại Đông Nam Á.

Katie Harbath, cựu chuyên gia chính sách công về bầu cử toàn cầu tại Meta cho rằng, AI đang đưa hoạt động thao túng thông tin lên cấp độ mới khi có thể tạo ra lượng nội dung lớn hơn, cá nhân hóa hơn, nhanh hơn và rẻ hơn. Tuy nhiên, các chiến dịch vẫn cần mạng xã hội để phân phối nội dung.

“Nhấn chìm” không gian thông tin

Rossine Fallorina, thuộc tổ chức nghiên cứu AI Sigla của Philippines cho rằng, AI có thể thay thế một phần hoạt động của các “nhà máy troll” - những nhóm chuyên tạo tài khoản giả, sản xuất nội dung gây tranh cãi hoặc sai lệch và phát tán trên mạng xã hội.

AI giúp tạo hàng loạt nội dung, thông điệp phục vụ một chiến dịch nhanh hơn, với ít nhân lực và chi phí thấp hơn. Thay vì cần hàng chục người xây dựng một câu chuyện, người vận hành có thể đưa yêu cầu cho AI để hệ thống tạo nội dung và hỗ trợ phát tán.

Năm ngoái, OpenAI đã cấm một số tài khoản sử dụng AI để tạo bình luận về chính trị và các quan chức Philippines trên mạng xã hội. Nhiều bình luận giả thể hiện sự ủng hộ Tổng thống Ferdinand Marcos Jr.

Báo cáo mới của Anthropic cho thấy các hoạt động gây ảnh hưởng bằng AI không chỉ do cá nhân đơn lẻ thực hiện mà còn có thể liên quan đến chính phủ, tổ chức tuyên truyền thân nhà nước, truyền thông nhà nước và các công ty tư nhân cung cấp dịch vụ gây ảnh hưởng.

Đông Nam Á đáng lo ngại khi nhiều quốc gia có dân số trẻ và mức độ kết nối internet cao. Bridget Welsh, thuộc Viện Nghiên cứu châu Á Malaysia của Đại học Nottingham, cảnh báo AI có thể làm sâu sắc thêm sự phân cực chính trị và chia rẽ xã hội.

Công nghệ này cũng có thể làm gia tăng căng thẳng xã hội. Ben Loh, giảng viên Đại học Monash Malaysia cho biết, AI từng được sử dụng để kích động sự thù ghét đối với người Rohingya từ Myanmar sang Malaysia. Theo ông, khi những định kiến đã tồn tại, nội dung do AI tạo ra dù được nhận diện là giả vẫn có thể củng cố niềm tin sẵn có của người dùng.

Thách thức trước các cuộc bầu cử

Anthropic cho biết Malaysia Pulse đã thu thập bài viết từ báo chí Malaysia, dùng AI viết lại nhiều lần rồi đăng dưới tên tác giả giả mạo. Trang này cũng đăng lại nội dung từ một số truyền thông nước ngoài nhưng loại bỏ thông tin về nguồn ban đầu.

Anthropic cho biết đã ngăn chặn các hoạt động gây ảnh hưởng được phát hiện, đồng thời củng cố hệ thống bảo vệ và chia sẻ thông tin với cơ quan chức năng, đối tác trong ngành khi cần thiết.

Các chuyên gia cảnh báo AI trong tương lai có thể được sử dụng để “nhấn chìm không gian thông tin” bằng cách tạo ra lượng nội dung khổng lồ, gây nhiễu môi trường thông tin.

Khi AI giúp nội dung giả được sản xuất hàng loạt, nhanh chóng và với chi phí thấp, việc phân biệt thông tin tự phát với một chiến dịch thao túng có tổ chức sẽ trở thành thách thức ngày càng lớn đối với các nền dân chủ Đông Nam Á trong khu vực ngày càng phức tạp.