OpenAI, công ty sở hữu ChatGPT, đang thăm dò khả năng cho phép người dùng tạo ra nội dung khiêu dâm và nội dung không phù hợp khác bằng trí tuệ nhân tạo của họ.
Trong khi OpenAI nhấn mạnh rằng việc cấm deepfake sẽ tiếp tục áp dụng đối với nội dung người lớn, một số người cho rằng đề xuất này làm suy yếu mục tiêu tạo ra AI “an toàn và có ích” của họ.
OpenAI, cũng là nhà phát triển của DALL-E, đã tiết lộ rằng họ đang xem xét cho phép các nhà phát triển và người dùng “có trách nhiệm” tạo ra nội dung không an toàn cho công việc thông qua sản phẩm của họ. Điều này có thể bao gồm nội dung như khiêu dâm, vũ khí, hoặc tục tĩu.
“Hành động này của chúng tôi nhằm mục đích khám phá khả năng cung cấp nội dung không an toàn một cách có trách nhiệm và phù hợp với độ tuổi của người dùng và xã hội,” OpenAI tuyên bố. “Chúng tôi mong muốn hiểu rõ hơn về mong đợi của cộng đồng và xã hội đối với hành vi của người mẫu trong lĩnh vực này.”
Tuy nhiên, Joanne Jang của OpenAI đã nói rằng việc tạo ra deepfake sẽ không được phép. “Chúng tôi muốn đảm bảo rằng mọi người có quyền kiểm soát tối đa mà không vi phạm luật pháp hoặc quyền của người khác, nhưng việc tạo ra deepfake là không thể,” Jang lưu ý.
Jang thừa nhận rằng việc xác định liệu đầu ra có được coi là nội dung khiêu dâm hay không phụ thuộc vào định nghĩa của mỗi người và nói thêm rằng “đây chính xác là những cuộc trò chuyện mà chúng tôi muốn thảo luận.”
Tuy nhiên, có những trường hợp mà nội dung liên quan đến tình dục hoặc ảnh khoả thân rất quan trọng đối với người dùng của chúng tôi,” Jang nói, “nhưng điều này sẽ được khám phá trong bối cảnh phù hợp với độ tuổi.”
Sự lan rộng của nội dung khiêu dâm do AI tạo ra đã được nhấn mạnh trong năm nay, đặc biệt khi các vấn đề như deepfake trở nên phổ biến. Tuy nhiên, OpenAI đã cam kết tuân thủ quy định và ngăn chặn việc tạo ra nội dung không an toàn.
Mặc dù có những lo ngại về việc công nghệ có thể bị lạm dụng để tạo ra nội dung không phù hợp, OpenAI và các chuyên gia trong ngành đang nỗ lực để tạo ra một môi trường trực tuyến an toàn và có ích cho mọi người.
Nguồn: techcrunch
Tham khảo thêm: