Các mạng xã hội và nền tảng trực tuyến hiện đang tăng cường các biện pháp kiểm tra và thanh lọc sản phẩm thông tin cũng như hình ảnh do trí tuệ nhân tạo (AI) tạo ra. Mục tiêu chính của những nỗ lực này là bảo vệ người dùng khỏi những lừa đảo trực tuyến và thông tin sai lệch. Đại diện của các nhà mạng và hãng công nghệ cho rằng đã đến lúc cần nhận rõ giá trị của thông tin xác thực do con người tạo ra và sự khác biệt với sản phẩm giả lập từ AI.
Sự phát triển nhanh chóng của AI trong thời gian gần đây đã đặt ra những thách thức đáng kể. Công nghệ này có khả năng tạo ra nội dung rất thuyết phục, nhưng cũng đồng thời tạo ra nguy cơ nhầm lẫn giữa thông tin thật và giả. Điều này không chỉ ảnh hưởng đến lĩnh vực thông tin mà còn vi phạm bản quyền sáng tạo và tạo ra môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng sản phẩm thông tin từ AI lan truyền trên mạng đã tạo ra sự nhầm lẫn ở người dùng, đặc biệt là thế hệ trẻ.
Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp và lệnh tìm kiếm đang được sử dụng rộng rãi. Điều này biến công cụ AI thành những trợ lý thông minh hơn. Tuy nhiên, hệ lụy của việc này là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng chúng một cách máy móc, dẫn đến nhầm lẫn và sai lệch. Một số nhà nghiên cứu đã thử nghiệm sử dụng AI trong việc chẩn đoán bệnh tật, sử dụng phác đồ y tế và chọn mua thuốc. Mặc dù AI có thể cung cấp thông tin tổng hợp đáng tin cậy, nhưng nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, nhiều người có thể gặp nguy hiểm.
Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị và lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày một cách khéo léo và trôi chảy, dễ đánh lừa người dùng. Điều này có thể dẫn đến nghi ngờ của người dùng AI khi tiếp cận các vấn đề thời sự, xã hội và kiểm chứng lịch sử.
Tất cả những điều này cho thấy rằng dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác. Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch và tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây ra hệ lụy. Các tổ chức nghiên cứu và ứng dụng đã kiến nghị các mạng xã hội, môi trường chia sẻ thông tin và công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số và nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế.
Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích và sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc. Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu và sản phẩm do AI tạo ra đã được đưa ra. Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng và tỉnh táo trước dữ liệu mơ hồ, nhất là khi có dấu hiệu do công cụ AI soạn.
Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin cũng như cảm xúc của người dùng. Theo cơ quan chức năng, việc thanh lọc thông tin tạo ra từ AI và bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn và lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng.
