Sai lệch tới 60%, vì sao tóm tắt AI vẫn thuyết phục người dùng?

Theo nhóm nghiên cứu từ Đại học California, San Diego (Mỹ), kết quả này đặt ra lo ngại lớn về mức độ tin cậy và ảnh hưởng của tóm tắt AI đối với hành vi con người.

Một nghiên cứu được công bố ngày 15/3 cho thấy các mô hình ngôn ngữ lớn (LLM) có thể tác động đáng kể đến nhận thức và quyết định của người dùng.

Thông qua việc phân tích hàng nghìn đánh giá sản phẩm, bài báo và dữ liệu truyền thông, nhóm nghiên cứu nhận thấy AI gặp khó khăn trong việc phân biệt thông tin thật – giả và có độ chính xác thấp khi kiểm chứng.

Đáng chú ý, trong khoảng 26,5% trường hợp, AI đã làm thay đổi sắc thái nội dung, khiến đánh giá trở nên tích cực hoặc tiêu cực hơn thực tế.

Thí nghiệm với 70 người cho thấy chỉ 52% người đọc đánh giá gốc có ý định mua hàng, nhưng con số này tăng lên 84% khi nội dung được AI “tô hồng”.

Nguyên nhân được cho là do AI ưu tiên thông tin ở phần đầu văn bản và xử lý kém với dữ liệu ngoài phạm vi huấn luyện, dẫn đến việc “định khung” thông tin sai lệch.

Dù nghiên cứu tập trung vào bối cảnh mua sắm, các chuyên gia cảnh báo những tác động này có thể nghiêm trọng hơn trong các lĩnh vực nhạy cảm như y tế, giáo dục hay chính sách công, khi chỉ một thay đổi nhỏ trong cách trình bày cũng có thể ảnh hưởng lớn đến quyết định của con người.