Tân Thế Kỷ – Lừa đảo bằng AI – Trí tuệ nhân tạo (AI) thay đổi khuôn mặt đang âm thầm tăng trưởng ở Trung Quốc Đại Lục. Không chỉ một số diễn viên bị cấm chiếu trong phim điện ảnh và truyền hình đã bị AI thay đổi khuôn mặt, mà giờ đây một số kênh thương mại điện tử còn dùng AI thay đổi khuôn mặt để bán hàng.
Trong đó, có một số chủ kênh thậm chí còn dùng cùng một gương mặt của người nổi tiếng. Thương mại điện tử dùng AI thay đổi khuôn mặt thành “Địch Lệ Nhiệt Ba và Dương Mịch” đã trở thành chủ đề nóng được tìm kiếm, gây ra rất nhiều cuộc tranh luận và quan tâm từ dân mạng.
2 nữ diễn viên Địch Lệ Nhiệt Ba và Dương Mịch bị AI thay đổi khuôn mặt để bán hàng online.
Cùng với sự phát triển vô hạn độ của công nghệ ngày nay, AI ngày càng bị lạm dụng, đặc biệt là ở Trung Quốc Đại Lục. Nhiều người đã sử dụng những công nghệ này để kiếm tiền. Ví dụ, việc thay đổi khuôn mặt bằng AI đã trở nên phổ biến gần hai năm trở lại đây, đem mặt của một người bình thường đổi thành khuôn mặt của người nổi tiếng thông qua AI, điều này sẽ thu hút nhiều người xem và lượng truy cập sẽ tăng. Gần đây, nhiều dân mạng ở Đại Lục phát hiện có một số kênh thương mại điện tử đã bắt đầu sử dụng công nghệ AI để bán hàng.
Mới đây nhất, một số dân mạng khi xem livestream đã phát hiện “Địch Lệ Nhiệt Ba” và “Dương Mịch” đang bán hàng. Bạn có thể vào kênh đang livestream và xem kỹ hơn sẽ thấy những “ngôi sao” này đang thử trang phục và đang chăm chỉ bày hàng hoá. Thật ra, đó chỉ là các chủ kênh đang sử dụng công nghệ AI thay đổi khuôn mặt khi bán hàng.
Báo cáo toàn diện truyền thông đại lục, nhiều chủ kênh thương mại điện tử đều sử dụng công nghệ ‘thay đổi khuôn mặt’. Trong đó, có một số kênh livestream, như kênh của chủ tài khoản thương hiệu quần áo nữ SDEER và kênh của thương hiệu Bama Tea, đều xuất hiện hiện tượng “khuôn mặt của các ngôi sao”. Các chủ kênh có diện mạo trông rất giống với các nữ diễn viên nổi tiếng như Dương Mịch và Địch Lệ Nhiệt Ba. Tuy nhiên, những chủ kênh này không phải là những minh tinh nổi tiếng kia, mà họ chẳng qua chỉ đang dùng công nghệ AI để thay đổi khuôn mặt.
Một người mua hàng đã theo dõi thương hiệu quần áo nữ trong một thời gian dài nói với phóng viên rằng, chủ tài khoản kênh bán hàng của thương hiệu quần áo nữ cũng chính là chủ kênh livestream của các kênh bán hàng khác. Tuy nhiên, cùng một chủ kênh bán hàng nhưng sẽ có hai khuôn mặt khác nhau tại 2 kênh bán hàng khác nhau, “Họ sử dụng khuôn mặt của chính mình trên nền tảng mua sắm trực tuyến và dùng khuôn mặt do AI thay đổi trong kênh livestream của tài khoản video đó”.
Một số dân mạng cho biết gần đây cô ấy xem một số kênh livestream và tất cả chủ kênh đều sử dụng AI để thay đổi khuôn mặt của người nổi tiếng để bán hàng, “Có phàn nàn với chủ kênh cũng vô dụng”
Các nữ minh tinh nổi tiếng như Dương Mịch, Địch Lệ Nhiệt Ba và Angelababy đã trở thành đối tượng tiêu điểm cho AI thay đổi khuôn mặt.
Có dân mạng còn chỉ ra một số khuyết điểm như: “Khi chủ kênh cúi đầu để chỉnh tóc, khu vực trên trán đều đen thui”.
Có không ít dân mạng cũng thể hiện sự phản cảm đối với việc ‘thay đổi khuôn mặt’ rằng: “Sau khi phát hiện ra chủ kênh thay đổi khuôn mặt để bán hàng, nhu cầu mua hàng liền chẳng còn nữa”.
Lừa đảo bằng AI bùng nổ toàn quốc, thay đổi khuôn mặt trong 10 phút lừa đi 4.300.000 NDT
Theo báo cáo của “City Express”, khoảng trước tháng 4 này, một sự việc liên quan đến một nữ nhân vật nổi tiếng có hàng triệu fan hâm mộ trên internet dùng “AI thay đổi khuôn mặt” bị bại lộ.
Nữ hot face này cho biết phần bình luận trong video của cô đột nhiên có rất nhiều người nói rằng họ đã xem qua “video” của cô, nhưng cô bảo rằng bản thân chưa bao giờ đăng dạng video như vậy.
Tân tài chính và kinh tế của Trung Quốc đại lục đã dùng thân phận người dùng để xin tư vấn từ một trang web chuyên cung cấp “phần mềm thay đổi khuôn mặt”. Bộ phận dịch vụ khách hàng của trang web cho biết giá mua trọn bộ mô hình là 35.000 nhân dân tệ và tính năng thay đổi khuôn mặt AI đều có thể thích hợp dùng cho các nền tảng phát sóng trực tiếp lớn.
Gần đây, một tên tội phạm tại thành phố Bao Đầu ở Nội Mông Cổ mượn danh nghĩa một người bạn tốt của anh Quách và bảo bản thân đang cần tiền gấp nên đã liên lạc qua Wechat với anh. Vì anh Quách tin tưởng bạn mình, cộng thêm việc đã xác minh danh tính của đối phương qua trò chuyện video, nên anh đã mất cảnh giác và gửi 4.300.000 NDT vào thẻ ngân hàng của tên tội phạm trong hai lần chuyển tiền, nhưng anh Quách không ngờ người ‘bạn tốt’ mà mình nói chuyện qua Wechat lại chính là tên tội phạm dùng AI thay đổi khuôn mặt mà ra. Tên tội phạm đã dùng công nghệ AI thay đổi khuôn mặt để ngụy trang thành người bạn tốt của anh và lừa đảo anh.
Theo một báo cáo trước đây của “Báo Thành Đô Hoa Tây”, vào tháng 2 năm 2022, anh Trần đã đến sở cảnh sát Tiên Nham thuộc chi nhánh Âu Hải tại thành phố Ôn Châu tỉnh Chiết Giang để báo án lừa đảo. Anh nói rằng bản thân bị một người bạn tốt lừa mất 50.000 NDT. Sau khi điều tra, cảnh sát đã xác minh rằng những kẻ lừa đảo đã lợi dụng anh Thành – người bạn tốt của anh Trần để tiến hành tội ác thông qua các nền tảng giao lưu bằng video, chúng đã thu thập toàn bộ bức hình khuôn mặt của anh Thành rồi dùng công nghệ “AI thay đổi khuôn mặt” tổng hợp lại, tạo nên một cuộc trò chuyện video giữa anh Trần và người bạn tốt của anh là anh Thành để tạo dựng lòng tin tưởng, từ đó tiến hành lừa đảo.
Vào năm 2021, Sở cảnh sát Ôn Châu tỉnh Chiết Giang từng có thông báo rằng tại Sở cảnh sát Cung Thần Kiều nhận được một việc cảnh báo. Có một nạn nhân là Tiểu Trần nói rằng mình bị đối phương tống tiền sau khi trò chuyện video với một người bạn gái trên mạng. Sau khi cảnh sát điều tra biết được đối phương đã dùng công nghệ AI thay đổi khuôn mặt để tổng hợp thành khuôn mặt của anh và làm ra những hình ảnh khiếm nhã trong video, mượn cớ đó để tiến hành tống tiền anh.
Vào năm 2020, một giám đốc điều hành của một công ty ở Thượng Hải đã bị lừa 1,5 triệu NDT. Thủ phạm đã dùng AI thay đổi khuôn mặt thành và giọng nói thành lãnh đạo của vị này để yêu cầu vị giám đốc chuyển tiền.
Đầu năm nay, một chủ kênh có tên “Tổng hợp hiệu ứng đặc biệt – Giáo Sư Hồng Lượng” đã đổi khuôn mặt của nam diễn viên Dương Dương trong bộ phim truyền hình “Em là niềm kiêu hãnh của anh” bằng khuôn mặt của mình thông qua AI thay đổi khuôn mặt trong video của anh ấy. Trên thực tế, chủ kênh này dựa vào việc dùng AI thay đổi khuôn mặt thành nam ngôi sao như một mánh khóe để quảng cáo và thu hút người tham gia các khóa học trả phí về ‘tạo hiệu ứng đặc biệt cho phim và truyền hình’ của mình.
Luật sư Triệu Chiêm Lãnh của Công ty luật Vân Gia tại Bắc Kinh, nói với Tài Chính và Kinh Tế Trung Tân rằng việc AI thay đổi khuôn mặt chủ yếu liên quan đến các vấn đề về quyền chân dung. “Nếu nói rằng một chủ kênh nào đó thay đổi khuôn mặt của mình bằng khuôn mặt của người người khác mà không được sự đồng ý của chủ khuôn mặt ấy thì chủng hành vi này bị cáo buộc là vi phạm quyền chân dung; nếu dùng tên họ của người khác cũng bị cáo buộc vi phạm quyền tên họ”.
Loại hành vi này cũng gây ra nhiều vấn đề xã hội. Luật sư Tiêu Cẩm Dương (TQ) cho rằng các chủ kênh livestream sử dụng công “AI thay đổi khuôn mặt” mà không có sự đồng ý của người nổi tiếng (chủ khuôn mặt) là hành vi “cố ý thông báo tình huống hư giả cho người tiêu dùng hoặc cố ý che giấu tình huống chân thực khiến người tiêu dùng đưa ra hành vi phán đoán sai”. Hành vi trên sẽ cấu thành tội lừa đảo.
Đứng ở góc độ của người tiêu dùng mà nói, họ có thể nghi ngờ về tính chân thực của những chủ kênh này, họ rốt cuộc là ai? Vì sao lại sử dụng gương mặt của người nổi tiếng để làm quảng cáo? Loại hành vi này không chỉ nói rõ quyền và lợi ích của người tiêu dùng mà còn cho thấy các nhà kinh doanh đã thông qua một số thủ đoạn không thích hợp để kích thích người tiêu dùng.
Căn cứ theo “Luật dân sự”, nếu các chủ kênh hoặc người làm kinh doanh sử dụng AI thay đổi khuôn mặt để livestream bán hàng mà không có sự đồng ý hoặc ủy quyền của người nổi tiếng (chủ khuôn mặt) thì sẽ vi phạm quyền chân dung của người nổi tiếng.
Nếu các chủ kênh hoặc người làm kinh doanh đề cập tên họ của người có nổi tiếng nhất định trong xã hội như: nghệ danh, bút danh, tên mạng, tên dịch, v.v.. với việc đồng thời ăn cắp khuôn mặt của họ thì vi phạm quyền tên họ của người nổi tiếng. Theo quan điểm này, livestream dùng AI thay đổi khuôn mặt là một hành vi điển hình của việc “không được sự đồng ý của người khác mà tuỳ tiện lấy” và “lấy lợi nhuận của bản thân làm mục đích”.
Theo Secretchina
Thiện Chân biên dịch
Xem thêm:
Cảnh báo hành vi ứng dụng AI: Ghép mặt, giọng nói giống hệt người thân để lừa đảo
Chatbot AI lên kế hoạch tiêu diệt loài người gây xôn xao dư luận
Nhà văn đoạt giải Nobel tiết lộ gây sốc nhờ ChatGPT viết bài phát biểu
Tân Thế Kỷ Truyền Thống – Nhân Văn – Trung Thực
