Cảnh báo chiêu trò lừa đảo mới nhắm vào các bà, các mẹ: Sập bẫy vì thương "cháu Hải"

Thời gian gần đây, trên các nền tảng video ngắn tại Trung Quốc đại lục xuất hiện hàng loạt KOL AI nhân tạo có tên là "Tiểu Hải". Bằng cách khóc lóc kể khổ về thân thế bi thảm như bố mẹ ly hôn, gia cảnh nghèo khó, nhân vật này đã khiến nhiều người cao tuổi xúc động rơi nước mắt, liên tục đặt mua hàng để giúp đỡ. Thậm chí, một cụ bà 79 tuổi vì tin là thật đã một mình bắt tàu hỏa đi xa để thăm "cháu", đến khi lên xe mới biết đối phương chỉ là sản phẩm AI.

Theo báo Tống Lãm Tín Văn, tháng 5 năm nay, trong lúc tuần tra toa xe, cảnh sát đường sắt Ô Lỗ Mộc Tề (Tân Cương) phát hiện một cụ bà 79 tuổi đi xe đường dài một mình với vẻ mặt vô cùng xao xuyến, lo âu. Qua hỏi thăm, cảnh sát mới biết cụ bà không biết chữ, cũng không nói rõ được điểm đến cụ thể, chỉ biết mình đang trên đường đến Vận Thành (Sơn Tây) để "thăm người thân" — chính là đứa trẻ tội nghiệp ngày ngày gọi cụ là "dì/mẹ" qua màn hình điện thoại.

Nhờ sự khuyên nhủ kiên trì và hỗ trợ liên lạc từ phía cảnh sát, cụ bà cuối cùng đã đồng ý xuống xe và bắt chuyến tàu lượt về do gia đình mua sẵn để trở về nhà.

Rốt cuộc là loại video gì lại có thể khiến một cụ bà 79 tuổi không biết chữ tin tưởng tuyệt đối đến vậy? Phóng viên tìm kiếm trên các nền tảng video ngắn và phát hiện, đối tượng mà cụ bà tin tưởng chính là "Con người số (Digital human) Tiểu Hải" đang xuất hiện ồ ạt gần đây. Những cậu bé thiếu niên do AI tạo ra này hầu hết đều dùng chung một kịch bản bất hạnh: xây dựng hình tượng hiểu chuyện, nghèo khó, biết thương người lớn tuổi để thu hút sự chú ý của cộng đồng mạng.

Trong một đoạn video, "Tiểu Hải" mắt rơm rớm nước mắt, tay cầm chiếc bánh bao chay, hướng về ống kính nghẹn ngào:

"Dì ơi, mẹ ơi, cháu là Tiểu Hải đây. Các bạn đều đi ăn cơm hết rồi, cháu trốn trong lớp học ăn bánh bao chay..."

Cậu bé còn nói thêm rằng mình đã mua được một chiếc bánh bao nhân thịt, nhưng muốn để dành cho các "dì, các mẹ" rất mực yêu thương mình, qua đó tạo dựng hình ảnh một đứa trẻ ngoan ngoãn, hiểu chuyện đến đau lòng.

Bên dưới video, rất nhiều người dùng trung niên và cao tuổi đã để lại những dòng bình luận và tin nhắn thoại chan chứa tình cảm, thậm chí có người còn coi những tình tiết hư cấu đó là câu chuyện có thật ngoài đời. Tuy nhiên, mục đích của những nội dung này không chỉ dừng lại ở việc tạo tương tác. Khi "Tiểu Hải" tích lũy đủ lượng người theo dõi, tài khoản này sẽ nhanh chóng "lột xác" thành một streamer bán hàng, bắt đầu tiếp thị các sản phẩm đắt đỏ như keo da lừa, biến lòng trắc ẩn của người xem thành sức mua thực tế.

Kết quả điều tra cho thấy, chi phí và ngưỡng cửa kỹ thuật để tạo ra những video dạng này cực kỳ thấp. Trên mạng xã hội, chỉ cần bỏ ra vài nhân dân tệ là có thể mua trọn bộ giáo trình hướng dẫn tạo người ảo AI cùng các mẫu kịch bản tiếp thị có sẵn. Người vận hành chỉ việc thay đổi gương mặt, giọng nói và chỉnh sửa một chút phần lời thoại là có thể sản xuất hàng loạt video có nội dung tương tự, từ đó nhanh chóng xây dựng nhiều tài khoản cùng lúc.

Những video nhân vật AI qua mắt người già

Ông Triệu Tinh Vũ, Phó Giáo sư tại Khoa Luật thuộc Đại học Hàng không Vũ trụ Bắc Kinh, chỉ ra rằng: Việc dùng người ảo đóng kịch “bán thảm” để bán hàng về mặt bản chất pháp lý không có sự khác biệt so với việc người thật đóng kịch “bán thảm”. Nếu bên kinh doanh cố tình bịa đặt câu chuyện, lợi dụng các tình tiết giả mạo để lấy lòng thương hại nhằm đẩy hàng, hành vi đó có thể cấu thành tội lừa đảo.

Chuyên gia Triệu Tinh Vũ cũng nhấn mạnh, ngay cả khi video có gắn nhãn "Do AI tạo ra", điều đó cũng không đồng nghĩa với việc người già bị lừa phải tự chịu trách nhiệm. Dòng nhãn này chỉ thể hiện rằng video được làm bằng công cụ AI, chứ không đảm bảo nội dung bên trong không mang tính đánh lừa. Nếu người vận hành cố tình nhắm vào nhu cầu tình cảm của người cao tuổi, sử dụng thân thế giả để trục lợi lòng tin, họ vẫn bị xem là cố tình dẫn dắt sai lệch. Xét trên toàn bộ chuỗi cung ứng này, bên vận hành tài khoản hoặc phòng livestream chính là chủ thể chịu trách nhiệm đầu tiên.

Nguồn: HK01