Tội phạm sử dụng ứng dụng AI để lừa đảo người dùng: Một nghiên cứu trường hợp ở Trung Quốc phơi bày những rủi ro

Chúng tôi là công ty Công nghệ Terus, chuyên cung cấp các dịch vụ liên quan đến digital. Terus đem tới các dịch vụ: Thiết kế website, Facebook Ads, Google Ads, SEO website tổng thể,...

Những cá nhân ở Quảng Châu đã bị kết án vì bán thông tin cá nhân của công dân một cách bất hợp pháp bằng AI, cho phép người dùng tạo video nhận dạng khuôn mặt giả mạo, dẫn đến án tù và tiền phạt. Về thành công của Miaoya, những người trong ngành suy đoán rằng ứng dụng này có thể kiếm được hơn 100.000 Yên chỉ trong một ngày. Zhang Tianyi, Trưởng phòng sản phẩm tại RuiLai Intelligent, một công ty khởi nghiệp được Viện nghiên cứu AI của Đại học Thanh Hoa ươm tạo, nhấn mạnh tầm quan trọng của việc bảo mật dữ liệu trong thời đại AIGC với việc ứng dụng rộng rãi các mô hình lớn. Vụ kiện dân sự công cộng đầu tiên của Trung Quốc liên quan đến nhận dạng khuôn mặt Gần đây, Tòa án Internet Quảng Châu đã công bố thông tin về một vụ án mà AI đã được sử dụng để biến ảnh thành video, nhằm vượt qua phần mềm bảo mật quét khuôn mặt. Các doanh nghiệp được gọi là "Check Head" và "Pass Face" cho phép người dùng tải ảnh lên, sau đó người đàn ông chỉ được nêu tên là Zheng sẽ biến ảnh thành video chuyển động về khuôn mặt của người đó để truy cập vào tài khoản ngân hàng và dịch vụ thanh toán của họ, cùng nhiều thứ khác.

Với sự phổ biến của các nền tảng thanh toán như WeChat và Alipay tại Trung Quốc, sử dụng nhận dạng khuôn mặt làm biện pháp bảo mật, điều này sẽ cho phép những kẻ vô đạo đức tải ảnh bạn bè, đồng nghiệp hoặc thậm chí là người lạ lên để truy cập vào tài khoản ngân hàng và dịch vụ thanh toán.

Theo lời thú nhận của Zheng, anh ta đã mua ảnh cá nhân tương ứng với một số số CMND từ các nguồn không xác định thông qua các nền tảng xã hội, rao bán với giá khoảng 15 đến 20 nhân dân tệ cho mỗi bức ảnh. Ba thủ phạm khác, được nêu tên là Ren, Dai và Chen, sau đó đã mua thông tin cá nhân của công dân từ nhóm của Zheng, trả các khoản tiền khác nhau từ 50 đến 100 nhân dân tệ cho mỗi bức ảnh. Họ đã sử dụng phần mềm trí tuệ nhân tạo để tạo ra các video nhận dạng khuôn mặt động giả, có khả năng gật đầu, chớp mắt và các chuyển động khác. Các video này được sử dụng để bỏ chặn tài khoản và xác minh xác thực tên thật trên một số ứng dụng, dẫn đến lợi nhuận bất hợp pháp.

Dịch vụ “Pass Face” bao gồm việc lấy thông tin khuôn mặt và sử dụng phần mềm tổng hợp để tạo video động mô phỏng của một người. Ví dụ, các hành động cần thiết trong quy trình xác minh khuôn mặt hiện tại, chẳng hạn như nhìn sang trái hoặc phải, mở miệng hoặc nghiêng đầu, có thể được tạo thông qua video tổng hợp. Khi vào giai đoạn xác minh khuôn mặt trong ứng dụng hoặc xác minh tài khoản, nếu độ rõ nét của khuôn mặt trong video đáp ứng các tiêu chuẩn bắt buộc, hệ thống sẽ coi đó là hoạt động của con người thực sự, bỏ qua thành công giai đoạn xác minh khuôn mặt và đạt được mục tiêu hack tài khoản.

Theo lời khai của nghi phạm, sau khi vượt qua hệ thống nhận dạng khuôn mặt, tội phạm có thể truy cập vào tài khoản của người khác trên các ứng dụng như WeChat, lấy được thông tin cá nhân và quyền riêng tư như hồ sơ trò chuyện, hồ sơ thanh toán và quỹ đạo di chuyển. Sau khi xem xét tư pháp, bốn cá nhân này đã bị kết tội xử lý bất hợp pháp hơn 2.000 thông tin cá nhân, với số tiền thu được bất hợp pháp vượt quá 15.000 đô la. Họ đã bị kết án tù với các mức án khác nhau, từ một năm hai tháng đến một năm, và mỗi người đều bị phạt tiền.

Đọc thêm: Ngày tận thế của AI nói chung? Hãy thư giãn, đó chỉ là sự cường điệu hơn là thực tế

Sự phổ biến không ngừng của các ứng dụng hoán đổi khuôn mặt AI Vụ việc đã gây ra cuộc tranh luận lớn ở Trung Quốc về việc tiếp xúc và khả năng sử dụng sai thông tin cá nhân trong các ứng dụng nhận dạng khuôn mặt vốn rất phổ biến và rộng rãi này.

Phần mềm hoán đổi khuôn mặt trí tuệ nhân tạo chủ yếu sử dụng các kỹ thuật như deepfake . Các ứng dụng hoán đổi khuôn mặt AI được tiếp thị như Hugging Face , Reface , DeepArt , FaceShow và DeepFaceLive được cung cấp rộng rãi. Tại Trung Quốc, các công nghệ hoán đổi khuôn mặt AI đã phải đối mặt với sự chỉ trích trong quá khứ do lo ngại về quyền riêng tư.

Tháng 8 năm ngoái, “Miaoya Camera”, một ứng dụng chụp ảnh chân dung bằng AI, bất ngờ trở nên phổ biến, tràn ngập mạng xã hội với nhiều người dùng chia sẻ ảnh chân dung do AI tạo ra.

-Người dùng áp dụng ảnh ở góc dưới bên phải để chuyển đổi thành ảnh AI- Phí ban đầu là 1,39 đô la để tạo ảnh đại diện kỹ thuật số, so với chi phí cao của các studio chụp ảnh chuyên nghiệp, có vẻ không đáng kể. Khi nhiều người tham gia hơn, tốc độ xử lý của ứng dụng chậm lại, với báo cáo có hơn 2.000 người xếp hàng chờ tạo ảnh chân dung vào đêm thứ hai sau khi ra mắt.

Về thành công của Miaoya, những người trong ngành suy đoán rằng ứng dụng này có thể đã kiếm được hơn 100.000 Yên mỗi ngày. Theo nhóm Miaoya, mô hình AI đằng sau ứng dụng này có tên là “Tiziano”, lấy cảm hứng từ bậc thầy nghệ thuật chân dung Tiziano Vecellio . Mặc dù các chi tiết chính thức về công nghệ của mô hình không được tiết lộ, nhưng có khả năng Miaoya đã xây dựng dựa trên các mô hình lớn nguồn mở như SD , tinh chỉnh chúng để người dùng tùy chỉnh.

Để sử dụng Miaoya, người dùng phải tải lên một bức ảnh chính diện rõ nét và ít nhất 20 bức ảnh bổ sung với nhiều ánh sáng, bối cảnh, góc chụp và biểu cảm khác nhau. Sau khi tạo xong ảnh đại diện kỹ thuật số, người dùng có thể chọn từ hơn 30 mẫu ảnh chân dung, bao gồm phong cách cổ điển, chủ đề rừng, kinh doanh và tranh sơn dầu.

Ban đầu, các điều khoản của Miaoya cho phép sử dụng không hạn chế nội dung do AI tạo ra cho nhiều mục đích khác nhau, gây ra sự phản đối của công chúng. Nhưng công ty vẫn chưa đưa ra câu trả lời rõ ràng về cách thông tin sẽ được sử dụng. Sau đó, công ty đã đưa ra lời xin lỗi và sửa đổi các điều khoản, đảm bảo rằng ảnh chỉ được sử dụng để tạo hình đại diện kỹ thuật số và tự động xóa sau khi hoàn tất. Các điều khoản đã sửa đổi rõ ràng cấm việc lưu giữ thông tin nhận dạng bất hợp pháp, lập hồ sơ người dùng dựa trên thông tin đầu vào và cung cấp thông tin đầu vào của người dùng cho bên thứ ba.

“Vẫn còn quá sớm để nói rằng ảnh chân dung AI sẽ thay thế các buồng chụp ảnh ngoại tuyến.”

Wang Peng, nghiên cứu viên cộng tác tại Viện Hàn lâm Khoa học Xã hội Bắc Kinh Wang Peng, cộng tác viên nghiên cứu tại Viện Khoa học Xã hội Bắc Kinh, tin rằng trong khi chân dung AI đã trở nên phổ biến trong kỷ nguyên AIGC , việc hình thành một mô hình kinh doanh thực sự vẫn đòi hỏi nhiều nỗ lực. Nhu cầu về sức mạnh tính toán trong suy luận vượt quá nhu cầu trong đào tạo và chi phí sức mạnh tính toán vẫn là một nút thắt cổ chai đối với các ứng dụng AIGC. Ông cũng cho biết: "Còn quá sớm để nói rằng chân dung AI sẽ thay thế các gian hàng chụp ảnh ngoại tuyến".

Yêu cầu tuân thủ đối với nhà cung cấp dịch vụ hoán đổi khuôn mặt AI Zhang Tianyi, giám đốc sản phẩm cấp cao tại RuiLai Intelligent, một công ty khởi nghiệp được Viện nghiên cứu AI của Đại học Thanh Hoa ươm tạo, nhấn mạnh tầm quan trọng của việc bảo mật dữ liệu trong kỷ nguyên AIGC với việc áp dụng rộng rãi các mô hình lớn. “Việc sử dụng sai các mô hình AIGC có thể dẫn đến các vấn đề về tuân thủ nội dung, bao gồm nội dung lừa đảo do deepfake và các mô hình khuếch tán tạo ra, có thể gây hiểu lầm cho người dùng và gây ra những tác động tiêu cực đến xã hội”.

Các văn bản quy định gần đây về quản trị AIGC đã được ban hành nhanh chóng từ trung ương đến địa phương tại Trung Quốc:

Đăng ký thuật toán AI Như đã đề cập trước đó, phần mềm hoán đổi khuôn mặt AI dựa trên công nghệ deepfake , thuộc danh mục cung cấp dịch vụ AIGC có khả năng huy động dư luận hoặc xã hội tại Trung Quốc. Các nhà cung cấp phải tuân thủ các thủ tục đăng ký thuật toán được nêu trong “Quy định về quản lý khuyến nghị thuật toán dịch vụ thông tin Internet”.

-blog-tháng-nhận-thức-về-an-mạng- Đánh giá tác động bảo vệ thông tin cá nhân (PIA) Các nhà cung cấp dịch vụ AIGC xử lý thông tin cá nhân nhạy cảm trong quá trình cung cấp dịch vụ phải tiến hành PIA để đánh giá các khía cạnh pháp lý và tuân thủ của quá trình xử lý dữ liệu của họ. PIA phải đánh giá tính hợp pháp, sự cần thiết và tính phù hợp của quá trình xử lý thông tin cá nhân, tác động tiềm ẩn đến quyền cá nhân, rủi ro bảo mật và hiệu quả của các biện pháp bảo vệ. Các báo cáo và hồ sơ PIA về các hành động đã thực hiện phải được lưu giữ trong ít nhất ba năm.

PIA là nghĩa vụ pháp lý theo Luật Bảo vệ Thông tin Cá nhân. Các nhà cung cấp dịch vụ hoán đổi khuôn mặt AI không thực hiện nghĩa vụ này có thể phải đối mặt với lệnh khắc phục, cảnh cáo, tịch thu lợi nhuận bất hợp pháp, tiền phạt và các hình phạt khác từ các cơ quan có thẩm quyền.

Nhận dạng nội dung do AI tạo ra Các nhà cung cấp dịch vụ hoán đổi khuôn mặt bằng AI, được phân loại là nhà cung cấp dịch vụ AIGC, phải xác định nội dung được tạo ra theo tuân thủ "Quy định quản lý tổng hợp sâu về dịch vụ thông tin Internet". Ủy ban kỹ thuật tiêu chuẩn hóa an ninh thông tin quốc gia đã ban hành hướng dẫn vào tháng 8 về việc xác định nội dung dịch vụ AIGC, yêu cầu phải đưa ít nhất tên của nhà cung cấp dịch vụ vào hình mờ ngầm trên nội dung hình ảnh, âm thanh và video do AI tạo ra.

Các dịch vụ tại Terus Technology:

Thiết kế website

Thiết kế website bán hàng

SEO website tổng thể