Các đối tượng lừa đảo sử dụng công nghệ Deepfake AI, tạo ra các sản phẩm công nghệ âm thanh, hình ảnh và video làm giả đối tượng ngoài đời thực, với độ chính xác rất cao.
Theo Công an tỉnh Tuyên Quang, gần đây, trên không gian mạng xuất hiện một phương thức lừa đảo chiếm đoạt tài sản rất tinh vi như sau: Các đối tượng lừa đảo sử dụng rất tinh vi công nghệ Deepfake – công nghệ ứng dụng trí tuệ nhân tạo – AI, để tạo ra các sản phẩm công nghệ âm thanh, hình ảnh và video làm giả về người nào đó với độ chính xác rất cao. Các đối tượng lừa đảo thực hiện cuộc gọi video để giả làm người thân vay tiền, giả làm con cái đang du học nước ngoài gọi điện cho bố mẹ nhờ chuyển tiền đóng học phí, hay có thể giả tạo ra những tình huống khẩn cấp như người thân bị tai nạn cần tiền gấp để cấp cứu…
Để thực hiện được hình thức lừa đảo này, các đối tượng tìm kiếm, thu thập thông tin cá nhân, hình ảnh, video có giọng nói được đăng tải công khai trên các tài khoản mạng xã hội… rồi sử dụng công nghệ Deepfake để tạo sẵn những video rất khó phân biệt thật – giả; có hình ảnh, giọng nói của cá nhân đó để phục vụ cho kịch bản lừa đảo.
“Đặc điểm chung của những cuộc gọi video như vậy thường có âm thanh, hình ảnh không rõ nét, tín hiệu chập chờn giống như cuộc gọi video trong khu vực phủ sóng di động hoặc wifi yếu, để nạn nhân khó phân biệt thật, giả. Nếu nạn nhân cẩn thận gọi video để kiểm tra thì chúng sẽ không nhận cuộc gọi hoặc sử dụng phần mềm cắt ghép hình ảnh, video để thực hiện cuộc gọi lừa đảo” – Công an cảnh báo.
Theo khuyến cáo của lực lượng công an, đây là thủ đoạn lừa đảo rất mới, rất tinh vi. Người dân cần nâng cao cảnh giác, khi nhận bất kỳ tin nhắn, cuộc gọi video với nội dung vay, mượn tiền qua các ứng dụng mạng xã hội.
Cùng với đó, cần bình tĩnh, gọi điện thoại trực tiếp cho người thân để xác minh (không gọi qua các ứng dụng như Zalo, Messenger, Viber, Telegram…).
Trường hợp nghi vấn đối tượng giả mạo người thân trên mạng xã hội để lừa đảo, chiếm đoạt tài sản, cần báo ngay cho cơ quan công an gần nhất để được hỗ trợ, xử lý kịp thời.
Mạng xã hội tràn ngập hình ảnh do AI tạo ra
Vừa qua, cộng đồng mạng hết phen này đến phen khác xôn xao bởi rất nhiều hình ảnh khó phân biệt được do trí tuệ nhân tạo (AI) vẽ ra.
Ví dụ, hình ảnh giật gân, chi tiết cảnh cựu Tổng thống Mỹ Donald Trump bị cảnh sát thành phố New York bắt giữ đã tràn ngập trên Twitter và nhiều mạng xã hội khác trong thời gian gần đây. Tuy nhiên, tờ AP News đã đưa tin, những bức ảnh hư cấu này chỉ là sản phẩm của AI.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Hay như đầu năm 2023, trên MXH xuất hiện bộ sưu tập “Hoa băng nở trên sông Tùng Hoa” khiến cộng đồng mạng ngất ngây tán thưởng. Theo đó, rất nhiều loài hoa lạ mang dáng dấp loài sen với đủ màu sắc đua nhau nở trên sông băng Tùng Hoa (Trung Quốc). Chính cả một số trang tin cũng đưa tin về chúng. Nhưng cuối cùng, rất nhiều trang tin, người dùng mạng đã phải gỡ bỏ hình ảnh liên quan và vô cùng thất vọng vì chúng là sản phẩm được vẽ bởi AI.
Trong một ví dụ khác gần đây, người dùng mạng xã hội đã chia sẻ hình ảnh được cho là chụp Tổng thống Nga Vladimir Putin quỳ gối và hôn tay Chủ tịch Trung Quốc Tập Cận Bình. Hình ảnh được lan truyền khi nhà lãnh đạo Nga chào đón ông Tập Cận Bình đến Điện Kremlin trong tháng 3 này. Không rõ ai đã tạo ra hình ảnh hoặc họ đã sử dụng công cụ gì, nhưng một số manh mối cho thấy nó là ảnh giả mạo. Chẳng hạn, đầu và giày của hai nhà lãnh đạo hơi méo mó, nội thất phòng trong bức ảnh không tương thích với căn phòng diễn ra cuộc họp thực tế.
Hi, I'm a tech reporter that covers China, cybersecurity, & new media. Hundreds of people are sharing this photo of Xi Jinping & Vladimir Putin as they meet at the Kremlin. The two did meet, but it's highly likely this photo was generated by an AI program. Here's why: 🧵 pic.twitter.com/6xqsDLxiMa
— Amanda Florian 小爱 (@Amanda_Florian) March 21, 2023
Các chuyên gia cho biết rằng trong bối cảnh các hình ảnh AI tạo ra ngày càng trở nên khó phân biệt với thực tế, cách tốt nhất để chống lại thông tin sai lệch từ hình ảnh là nâng cao nhận thức và giáo dục cộng đồng. “Việc tạo ra những hình ảnh này đang trở nên quá dễ dàng và quá rẻ nên chúng ta cần làm bất cứ điều gì có thể để công chúng nhận thức được công nghệ này đã phát triển đến mức nào”, Giáo sư West cho hay.
Cảnh báo của chuyên gia về mối nguy của AI
Nhiều người cho rằng, trí tuệ nhân tạo thậm chí còn làm tốt hơn con người, điều này cho thấy công nghệ của con người rất cường đại. Tuy nhiên, khi công nghệ này ngày càng được cải tiến thông minh hơn, ngày càng biết tư duy và sở hữu nhiều kỹ năng vượt mặt con người, thì khó có thể nói đó là phúc hay là họa…
Theo Futurism, Yuval Harari, tác giả của cuốn sách bán chạy nhất — Sapiens: Lược sử loài người — đã chia sẻ về những mối nguy hiểm của sự phát triển nhanh chóng của AI và cho biết rằng con người sắp bắt đầu bị tấn công và điều khiển bởi AI. Ông cảnh báo rõ ràng: chúng ta cần bắt đầu điều chỉnh sự phát triển của AI, bởi vì nếu không, các công ty lớn sẽ có thể ‘tấn công’ con người”.
Harari tin rằng mức độ phức tạp ngày càng tăng nhanh chóng của AI có thể dẫn đến một quần thể “người bị tấn công”, theo một báo cáo từ “60 Minutes” của CBSnews. Để giải quyết vấn đề này, ông kêu gọi các nhà lãnh đạo trên thế giới bắt đầu xem xét và kiểm soát các nỗ lực thu thập dữ liệu của các tập đoàn lớn.
Ông nói với chương trình “60 Minutes”, “Để ‘hack’ (có thể hiểu là tấn công hoặc điều khiển) một con người, thì cần hiểu về người đó rõ ràng và chi tiết”. “Và dựa trên những thông tin đó, để ngày càng thao túng họ”. Ông nói “Netflix cho chúng ta biết những gì để xem và Amazon cho chúng ta biết những gì để mua”. “Cuối cùng thì trong vòng 10 hoặc 20 hoặc 30 năm nữa, các thuật toán như vậy cũng có thể cho bạn biết những gì cần học ở trường đại học, làm việc ở đâu, kết hôn với ai và thậm chí bỏ phiếu cho ai”.
Netflix và Amazon (cũng như Youtube) đã thông qua 1 hệ thống gọi là hệ thống gợi ý sản phẩm (Recommender System) để đưa ra các gợi ý cho người dùng. Hệ thống có thể đưa ra các gợi ý chính xác là nhờ vào việc họ đã thu thập các dữ liệu cá nhân của bạn thông qua những lần tương tác của bạn với hệ thống trong quá khứ.
Harari kêu gọi các quốc gia cần nghiêm túc xem xét các mối đe dọa từ AI, đồng thời đề xuất rằng cần đặt ra các hành lang pháp lý rõ ràng và nghiêm ngặt để đảm bảo dữ liệu không bị sử dụng để thao túng công chúng.
Harari nói trong chương trình “60 Minutes” rằng, “Chắc chắn, bây giờ chúng ta đang ở thời điểm cần hợp tác toàn cầu. Bạn không thể kiểm soát sức mạnh bùng nổ của trí tuệ nhân tạo ở cấp độ quốc gia”. Ông nói thêm rằng, đừng bao giờ để dữ liệu tập trung chỉ ở một nơi. “Đó là công thức cho một chế độ độc tài”.
Đó là một triển vọng lạnh lùng nhưng hợp lý – đặc biệt là hiện nay một số công ty công nghệ đang tìm cách thuyết phục người dùng từ chối hoàn toàn ‘môi trường thực tế’ trong cuộc sống và chấp nhận ‘môi trường ảo’ trên Internet do chính họ tạo ra
Tại Hội nghị Thượng đỉnh World Government Summit đang diễn ra ở Dubai, UAE, ông chủ của Tesla, SpaceX và Twitter là Elon Musk đã được hỏi về quan điểm cá nhân với sự phát triển của công nghệ trong 10 năm tới. Và câu trả lời của một trong những người giàu nhất thế giới là đầy tính cảnh báo.
“AI đã phát triển được một thời gian. Trong khi ô tô, máy bay và y học phải tuân thủ các tiêu chuẩn an toàn nghiêm ngặt theo quy định, thì AI vẫn chưa có bất kỳ quy tắc hoặc quy định nào để kiểm soát sự phát triển của nó”, ông Musk nhấn mạnh.
“Thành thật mà nói, tôi nghĩ chúng ta cần điều chỉnh sự an toàn của AI. Tôi nghĩ, đó thực sự là một rủi ro lớn hơn đối với xã hội so với ô tô, máy bay hay thuốc men”, ông chủ của Tesla cảnh báo.
Elon Musk từ lâu đã cảnh báo về nguy cơ của việc phát triển AI không kiểm soát. Ông từng nói trí tuệ nhân tạo “nguy hiểm hơn nhiều” so với đầu đạn hạt nhân.
Nghi Vân (t/h)
Bài liên quan:
> Chatbot AI của Google thừa nhận đạo văn
> Robot AI sở hữu trí tuệ thao túng nhân loại?
> Mối nguy từ AI – Bing Chat: “Tôi muốn hủy diệt mọi thứ”
> ChatGPT có khả năng suy luận logic như con người không?
> Nhờ ChatGPT viết luận văn, một sinh viên Nga tốt nghiệp đại học
> Trí tuệ nhân tạo ChatCPT: hy vọng hay nỗi lo cho nhân loại?
