DeepNude

DeepNude là một ứng dụng phần mềm máy tính để bàn được phát hành vào năm 2019 đã trở nên tai tiếng vì khả năng tạo ra các hình ảnh khỏa thân tổng hợp, thực tế của các cá nhân từ các bức ảnh mặc quần áo. Công nghệ này dựa trên học sâu tiên tiến, cụ thể là một loại Mạng đối nghịch tạo sinh (GAN) được gọi là pix2pix. Mạng này được huấn luyện trên một bộ dữ liệu hình ảnh lớn để học cách chuyển đổi từ cơ thể mặc quần áo sang không mặc quần áo, chủ yếu tập trung vào phụ nữ. Việc phát hành ứng dụng đã gây ra phản ứng dữ dội ngay lập-tức và mạnh mẽ từ công chúng, với các nhà phê bình nhấn mạnh tiềm năng của nó trong việc tạo ra nội dung khiêu dâm không có sự đồng thuận, tạo điều kiện cho quấy rối, tống tiền và gây ra đau khổ tâm lý nghiêm trọng cho nạn nhân.

Do sự chỉ trích đạo đức áp đảo và tiềm năng sử dụng độc hại, các nhà sáng tạo ban đầu đã nhanh chóng ngừng dự án, rút phần mềm khỏi internet và xin lỗi vì tác động tiêu cực. Tuy nhiên, mã nguồn và ứng dụng đã bị rò rỉ và lan truyền trên mạng, dẫn đến sự xuất hiện của nhiều bản sao, biến thể và dịch vụ dựa trên web không được phép cung cấp chức năng tương tự. Di sản của DeepNude đóng vai trò như một nghiên cứu điển hình quan trọng về đạo đức AI, chứng tỏ tác hại sâu sắc trong thế giới thực có thể xuất phát từ công nghệ được phát triển mà không có sự cân nhắc đầy đủ về tác động xã hội và khả năng lạm dụng của nó.

Cách sử dụng DeepNude

Ứng dụng DeepNude ban đầu hoạt động trên một tiền đề đơn giản. Người dùng sẽ tải lên một bức ảnh của một người mặc quần áo vào phần mềm. Thuật toán AI sau đó sẽ xử lý hình ảnh, cố gắng loại bỏ quần áo bằng kỹ thuật số và tạo ra một phiên bản khỏa thân chân thực của đối tượng. Quá trình này được tự động hóa, yêu cầu người dùng nhập liệu tối thiểu ngoài việc cung cấp hình ảnh ban đầu. Chất lượng đầu ra thay đổi tùy thuộc vào độ phân giải của ảnh đầu vào, ánh sáng và tư thế của đối tượng. Điều quan trọng là phải hiểu rằng việc sử dụng công nghệ này hoặc các dịch vụ tương tự để tạo và phân phối hình ảnh của các cá nhân mà không có sự đồng ý rõ ràng của họ là một sự vi phạm nghiêm trọng quyền riêng tư, là bất hợp pháp ở nhiều khu vực pháp lý và vô cùng phi đạo đức.

Tính năng chính của DeepNude

• Chuyển đổi hình ảnh bằng AI: Sử dụng Mạng đối nghịch tạo sinh (GAN) để thực hiện các phép dịch hình ảnh-sang-hình ảnh phức tạp.
• Tự động loại bỏ quần áo: Chức năng cốt lõi là tự động xử lý hình ảnh và tạo ra một phiên bản khỏa thân tổng hợp.
• Đầu ra chân thực (Cố gắng): Thuật toán được thiết kế để tạo ra các kết quả trông giống như thật, mặc dù các hiện vật và sự không hoàn hảo là phổ biến.
• Ứng dụng máy tính để bàn ngoại tuyến: Phiên bản gốc là một phần mềm độc lập cho Windows và Linux, xử lý hình ảnh cục bộ.

Các trường hợp sử dụng DeepNude

Trường hợp sử dụng dự định và chính của DeepNude là tạo ra các hình ảnh khỏa thân tổng hợp. Điều này đã được áp dụng một cách áp đảo theo những cách độc hại, bao gồm:

• Tạo nội dung khiêu dâm không có sự đồng thuận: Việc sử dụng phổ biến và có hại nhất, nhắm vào các cá nhân (chủ yếu là phụ nữ) bằng cách tạo ra các hình ảnh khiêu dâm giả mạo của họ.
• Quấy rối và bắt nạt: Được sử dụng như một công cụ để quấy rối trực tuyến, làm bẽ mặt công khai và bắt nạt trên mạng.
• Tống tiền và vydoạ: Các tác nhân độc hại có thể sử dụng những hình ảnh bịa đặt này để tống tiền hoặc đòi hỏi sự nhượng bộ từ nạn nhân.
• Thông tin sai lệch và phỉ báng: Lan truyền hình ảnh giả mạo để làm tổn hại đến danh tiếng và uy tín của một người.

Cảnh báo đạo đức: Việc sử dụng công nghệ này đầy rẫy các vấn đề đạo đức và pháp lý nghiêm trọng. Việc tạo hoặc chia sẻ hình ảnh thân mật không có sự đồng thuận, ngay cả khi được tạo ra một cách tổng hợp, có thể dẫn đến các cáo buộc hình sự, bao gồm quấy rối, phỉ báng và các luật nhắm mục tiêu cụ thể vào nội dung khiêu dâm deepfake.

Ưu điểm của DeepNude

Từ quan điểm thuần túy kỹ thuật và học thuật, công nghệ này đã chứng tỏ khả năng tiếp cận và sức mạnh ngày càng tăng của GAN cho các nhiệm vụ tổng hợp hình ảnh phức tạp. Đó là một ví dụ hướng đến người tiêu dùng về dịch thuật hình ảnh-sang-hình ảnh mà trước đây chỉ giới hạn trong các phòng thí nghiệm nghiên cứu. Tuy nhiên, những khía cạnh kỹ thuật này hoàn toàn bị lu mờ bởi ứng dụng vô cùng tiêu cực và có hại của công cụ. Không có 'ưu điểm' đạo đức nào đối với việc sử dụng dự định của nó. Bài học chính từ sự tồn tại của nó là một lời cảnh báo về nhu cầu cấp thiết đối với việc phát triển và quy định AI có trách nhiệm.

Giá cả và gói dịch vụ

Phần mềm DeepNude ban đầu được cung cấp ngắn gọn trong một phiên bản miễn phí (có thêm hình mờ) và một phiên bản cao cấp trả phí khoảng 50 đô la (tạo ra hình ảnh sạch). Sau khi bị các nhà sáng tạo ngừng cung cấp, phần mềm này đã trở nên có sẵn miễn phí một cách không chính thức. Các bản sao và dịch vụ web khác nhau xuất hiện sau đó đã áp dụng các mô hình khác nhau, bao gồm truy cập miễn phí, freemium hoặc dựa trên đăng ký. Do tính chất phân mảnh và bất hợp pháp của các dịch vụ này, giá cả không nhất quán và thường liên quan đến lừa đảo hoặc phần mềm độc hại.