Cảnh báo nguy cơ các website và ứng dụng lột đồ bằng AI

Thuật ngữ “AI lột đồ” thường dùng để chỉ các ứng dụng trí tuệ nhân tạo (AI) sử dụng các thuật toán học sâu (deep learning) để “loại bỏ” quần áo khỏi ảnh, tạo ra ảo giác về một bức ảnh khỏa thân. Cùng 35express tìm hiểu bài viết cảnh báo nguy cơ các website và ứng dụng lột đồ bằng AI trong nội dung dưới đây.

AI “lột đồ” là gì?

Thuật ngữ “AI lột đồ” thường dùng để chỉ các ứng dụng trí tuệ nhân tạo (AI) được thiết kế để tạo ra hình ảnh khỏa thân hoặc bán khỏa thân của một người từ ảnh có sẵn, thường là ảnh mặc quần áo. Về cơ bản, công nghệ này sử dụng các thuật toán học sâu (deep learning) để “loại bỏ” quần áo khỏi ảnh, tạo ra ảo giác về một bức ảnh khỏa thân.

Tuy nhiên, cần lưu ý rằng thuật ngữ này mang tính chất miêu tả và không phải là một thuật ngữ kỹ thuật chính thức. Các ứng dụng này thường được gọi là “deepfakes” trong ngữ cảnh rộng hơn, bao gồm cả việc tạo ra video và âm thanh giả mạo.

Cụ thể hơn, “AI lột đồ” hoạt động bằng cách:

• Học hỏi từ dữ liệu: Các thuật toán được huấn luyện trên một lượng lớn dữ liệu hình ảnh, bao gồm cả ảnh khỏa thân và ảnh mặc quần áo. Quá trình này giúp AI học cách phân biệt giữa quần áo và cơ thể, cũng như hình dạng và kết cấu của cơ thể người.
• Tạo ảnh giả mạo: Khi được cung cấp một bức ảnh đầu vào, AI sẽ sử dụng những gì đã học để dự đoán hình dạng cơ thể bên dưới lớp quần áo và tạo ra một hình ảnh “khỏa thân” tương ứng.

Điều quan trọng cần nhận thức là việc sử dụng công nghệ này tiềm ẩn nhiều rủi ro, đặc biệt là liên quan đến quyền riêng tư và sự đồng thuận. Việc tạo ra hình ảnh khỏa thân của một người mà không có sự cho phép của họ là vi phạm quyền riêng tư và có thể gây ra những hậu quả nghiêm trọng. Vì vậy, việc sử dụng “AI lột đồ” cần được xem xét kỹ lưỡng về mặt đạo đức và pháp lý.

Nguy cơ từ những trang web và ứng dụng AI được sử dụng với mục đích đồi trụy

Theo một nghiên cứu của Graphika, đơn vị chuyên phân tích mạng xã hội, 34 công ty đang cung cấp dịch vụ tạo “ảnh nhạy cảm trái phép” (tạm dịch từ NCII – Non-Consensual Intimate Imagery). Số liệu thống kê cho thấy các trang web này thu hút tới 24 triệu lượt truy cập chỉ trong một tháng. Một số quảng cáo còn ngang nhiên tuyên bố “Tạo ảnh khỏa thân của bất kỳ cô gái nào bạn muốn”, cho thấy mức độ nghiêm trọng của vấn đề.

Trước đây, việc tạo ảnh khỏa thân ảo gần như bất khả thi. Tuy nhiên, với sự xuất hiện của các mô hình AI mã nguồn mở, việc chỉnh sửa ảnh trở nên dễ dàng hơn bao giờ hết, mở đường cho sự phát triển của các ứng dụng và website tạo ảnh nhạy cảm trái phép.

Điều này dẫn đến sự bùng nổ số lượng đường link quảng cáo dịch vụ này trên Reddit và X (Twitter cũ), với mức tăng trưởng lên đến hơn 24 lần trong năm 2022. Các chuyên gia nhận định rằng, nhờ sự hỗ trợ của công nghệ AI, việc sản xuất và phân phối ảnh nhạy cảm trái phép đã trở thành một ngành công nghiệp trực tuyến thực sự.

Các nhà cung cấp dịch vụ này áp dụng những chiến lược tiếp thị và phương thức kiếm tiền tương tự như các doanh nghiệp thương mại điện tử lớn. Cụ thể, họ quảng cáo trên mạng xã hội, hợp tác với người có ảnh hưởng, triển khai chương trình khuyến mãi cho khách hàng mới và sử dụng các nền tảng thanh toán trực tuyến.

Những trang web và ứng dụng AI được sử dụng với mục đích đồi trụy tiềm ẩn rất nhiều nguy cơ, ảnh hưởng tiêu cực đến cá nhân, xã hội và cả sự phát triển của công nghệ:

Đối với cá nhân:

• Xâm phạm quyền riêng tư: Việc tạo ra hình ảnh, video nhạy cảm mà không có sự đồng thuận của người khác là hành vi xâm phạm nghiêm trọng quyền riêng tư, gây tổn hại danh dự, nhân phẩm và tinh thần của nạn nhân.
• Nguy cơ bị tống tiền, quấy rối: Những hình ảnh, video giả mạo có thể bị sử dụng để tống tiền, đe dọa hoặc quấy rối nạn nhân.
• Gây hoang mang, lo sợ: Nạn nhân có thể cảm thấy bất an, lo sợ và mất niềm tin vào môi trường trực tuyến.
• Ảnh hưởng đến sức khỏe tinh thần: Việc trở thành nạn nhân của các hành vi này có thể dẫn đến trầm cảm, lo âu và các vấn đề sức khỏe tinh thần khác.

Đối với xã hội:

• Gia tăng tội phạm mạng: Sự phát triển của các ứng dụng đồi trụy tạo điều kiện cho các hoạt động tội phạm mạng như lừa đảo, tống tiền, quấy rối tình dục trực tuyến.
• Lan truyền thông tin sai lệch: Công nghệ AI có thể được sử dụng để tạo ra các nội dung giả mạo, gây khó khăn cho việc phân biệt thật giả, làm xói mòn niềm tin vào thông tin trực tuyến.
• Tác động tiêu cực đến đạo đức xã hội: Việc lạm dụng công nghệ AI cho mục đích đồi trụy góp phần làm suy thoái đạo đức xã hội, bình thường hóa các hành vi xâm phạm quyền riêng tư.

Đối với sự phát triển của công nghệ:

• Làm méo mó hình ảnh của AI: Việc lạm dụng công nghệ AI cho mục đích xấu làm ảnh hưởng đến hình ảnh và niềm tin của công chúng vào tiềm năng tích cực của AI.
• Cản trở sự phát triển lành mạnh của công nghệ: Sự tập trung vào các ứng dụng tiêu cực có thể làm chệch hướng nguồn lực và sự quan tâm khỏi các ứng dụng AI có ích cho xã hội.

Để giảm thiểu những nguy cơ này, cần có sự phối hợp giữa các bên liên quan, bao gồm các nhà phát triển công nghệ, chính phủ, các tổ chức xã hội và người dùng, để xây dựng các quy định, chính sách và biện pháp kỹ thuật nhằm ngăn chặn việc lạm dụng công nghệ AI cho mục đích đồi trụy.

>> Bài viết có tham khảo nguồn tại đây: https://ai-hay.vn/app-ai-lot-do-pN1UmGXuQE4?ext=52WfPW&shareType=14&utm_source=direct&utm_medium=share&utm_campaign=ask

Hy vọng bài viết này của 35express đã giúp bạn hiểu rõ hơn về những nguy cơ tiềm ẩn từ các website và ứng dụng lột đồ bằng AI. Hãy cảnh giác, bảo vệ bản thân và cùng chung tay lan tỏa thông tin này để bảo vệ cộng đồng. Đừng quên theo dõi 35express để cập nhật thêm những tin tức công nghệ mới nhất và những phân tích chuyên sâu về các vấn đề an ninh mạng.