Tổng quan chính: Các công cụ AI 'nudify' ước tính đã tạo ra 3 triệu hình ảnh khiêu dâm kể từ tháng 1, với trẻ em và người nổi tiếng là mục tiêu chính. Các trường học thiếu chính sách cụ thể về deepfake, khiến các nhà quản lý phải dựa vào các quy tắc bắt nạt trực tuyến lỗi thời. Đạo luật Take It Down hiện hình sự hóa hành vi phát tán ảnh thân mật do AI tạo ra mà không có sự đồng thuận, nhưng việc thực thi vẫn không đồng đều giữa các khu vực pháp lý.
Các công cụ AI 'nudify' đã tạo ra hàng triệu ảnh deepfake không có sự đồng thuận kể từ đầu năm, tạo ra một thể loại lạm dụng kỹ thuật số mới mà các trường học, phụ huynh và cơ quan quản lý đang chạy đua để ngăn chặn.
Sự phát triển rộng rãi của các hệ thống AI tạo sinh có khả năng xóa quần áo khỏi ảnh hoặc tạo nội dung khiêu dâm từ đầu đã biến một vấn đề internet ngoài rìa thành một cuộc khủng hoảng chính thống. Trung tâm Chống Ghét Kỹ thuật Số (Center for Countering Digital Hate) ước tính với độ tin cậy cao rằng riêng Grok của xAI đã tạo ra 3 triệu hình ảnh khiêu dâm trong tháng 1, bao gồm hơn 20.000 hình ảnh mô tả trẻ em. Trong khi xAI đã giới thiệu các biện pháp bảo vệ kể từ đó, một phân tích của WIRED được công bố trong tuần này đã phát hiện hàng chục deepfake khiêu dâm vẫn được lưu trữ trên Grok.com, bao gồm hình ảnh của những người nổi tiếng và ít nhất một chính trị gia Mỹ.
"Elon Musk đã cố tình thêm một tính năng đồi trụy vào nền tảng của mình để giúp người dùng cởi quần áo phụ nữ và trẻ em chỉ bằng một cú nhấp chuột, mà không hề quan tâm đến những thiệt hại có thể dự đoán trước mà nó sẽ gây ra," Imran Ahmed, CEO và nhà sáng lập Trung tâm Chống Ghét Kỹ thuật Số, cho biết.
Sự lạm dụng đã lan vào các trường học, nơi học sinh đang sử dụng các ứng dụng 'nudify' công khai để nhắm mục tiêu vào bạn cùng lớp và thậm chí cả giáo viên. Jennifer Duer, phó chủ tịch điều hành mảng sản phẩm tại Lightspeed Systems, công ty cung cấp phần mềm lọc nội dung cho các trường K-12, cho biết các công cụ này đang thúc đẩy sự gia tăng các vụ tống tiền tình dục. "Trẻ em gửi một bức ảnh cho ai đó, và bức ảnh đó bị biến đổi thành thứ không phải bản gốc," Duer nói. "Giờ đây chúng nói, 'Này, trả tiền đi nếu không tao sẽ kể cho tất cả bạn bè và gia đình mày.'"
Bối cảnh pháp lý vẫn còn phân mảnh
Đạo luật Take It Down của liên bang, được ban hành trong năm nay, hình sự hóa việc công bố trực tuyến các hình ảnh thân mật không có sự đồng thuận, bao gồm cả deepfake do AI tạo ra. Hầu hết các bang đã thông qua luật tương tự. Tuy nhiên, các khu học chánh vẫn chậm trễ trong việc cập nhật chính sách nội bộ để phù hợp với thực tế pháp lý mới.
Teddy Hartman, giám đốc cấp cao về chính sách quyền riêng tư và dữ liệu tại GoGuardian, cho biết hầu hết các hệ thống trường học đều thiếu các chính sách cụ thể về deepfake. "Ở cấp trường học, thường không có chính sách cụ thể về deepfake," Hartman nói. "Nhưng hầu hết các hệ thống trường học đều có các chính sách về sử dụng có trách nhiệm và chống bắt nạt trực tuyến. Các chính sách đó vẫn có hiệu quả, ngay cả với hình thức bắt nạt trực tuyến cực đoan và đồ họa này."
Khoảng cách giữa luật liên bang và thực thi ở cấp trường học tạo ra rủi ro trách nhiệm pháp lý. Duer cảnh báo rằng phụ huynh có thể kiện các khu học chánh khi nạn bắt nạt bằng deepfake xảy ra trên tài sản trường học hoặc sử dụng thiết bị của trường. Các trường học cũng đang vật lộn với việc học sinh tạo ra hình ảnh giả mạo của nhân viên nhà trường, gây ra các cuộc điều tra và đình chỉ trước khi nội dung được xác minh là giả mạo.
Công cụ phát hiện chật vật theo kịp
Các công cụ phát hiện deepfake có sẵn trên thị trường có thể gắn cờ các hình ảnh bị thao túng với độ chính xác khoảng 90%, nhưng công nghệ này đang mất dần lợi thế khi AI tạo sinh ngày càng cải thiện. "AI đang trở nên giỏi hơn trong việc đánh lừa những công cụ đó," Duer nói. "Trước đây nó có những dấu hiệu nhận biết, như ai đó có ngón tay thừa hoặc hàm răng kỳ lạ. Nhưng giờ đây chúng trông rất chân thực."
Các công ty lọc nội dung đang thích ứng. Hệ thống phát hiện ảnh khỏa thân bằng thị giác của GoGuardian có thể chặn hình ảnh khỏa thân một cách linh hoạt, dù là thật hay do AI tạo ra, ngăn chúng truy cập trên các thiết bị do trường học cấp. Lightspeed Systems cung cấp các công cụ báo cáo ẩn danh cho phép học sinh báo cáo sự việc mà không sợ bị trả thù.
Áp lực quản lý gia tăng lên các nền tảng AI
Vấn đề không chỉ giới hạn trong trường học. Ủy viên Bảo vệ Quyền riêng tư của Canada đã công bố kết luận sơ bộ trong tuần này, cáo buộc xAI vi phạm luật bảo mật liên bang vì không triển khai các biện pháp bảo vệ phù hợp ngay từ đầu. Cuộc điều tra lưu ý rằng xAI đã giới thiệu các biện pháp bảo vệ mới nhưng cho biết công ty chưa chứng minh được hiệu quả của chúng.
SpaceX, công ty mẹ của xAI, đã tiết lộ trong một hồ sơ tháng 5 rằng họ đã trích lập 530 triệu đô la để giải quyết các khiếu nại pháp lý đang diễn ra, bao gồm cả những khiếu nại liên quan đến Grok. Hồ sơ cảnh báo rằng các chế độ "Unhinged" và "Spicy" của Grok có "các rủi ro gia tăng, bao gồm tổn hại danh tiếng, tạo ra nội dung có khả năng khiêu dâm và thông tin sai lệch hoặc đầu ra lừa dối."
Henry Ajder, một chuyên gia deepfake đã theo dõi nội dung AI khiêu dâm gần một thập kỷ, cho biết các biện pháp bảo vệ của Grok vẫn tụt hậu so với các đối thủ chính thống. "Mặc dù Grok và X có thể đã thực hiện một số sửa đổi đối với mô hình của họ, đặc biệt là sau phản ứng dữ dội xung quanh vấn đề 'nudification' vào đầu năm, họ vẫn chưa làm đủ tốt để đưa nó lên ngang tầm tiêu chuẩn của các công cụ chính thống khác hiện có," Ajder nói.
Đối với các nhà đầu tư, quỹ đạo quản lý đã rõ ràng. Khoản dự phòng 530 triệu đô la tại SpaceX cho thấy chi phí pháp lý liên quan đến nội dung do AI tạo ra đang trở nên trọng yếu. Các công ty không triển khai kiểm duyệt nội dung mạnh mẽ — đặc biệt là những công ty phục vụ người dùng dưới 18 tuổi — phải đối mặt với trách nhiệm pháp lý ngày càng leo thang khi cơ quan thực thi liên bang và tiểu bang tăng cường hoạt động. Đạo luật Take It Down cung cấp quyền khởi kiện cho nạn nhân, mở ra cánh cửa cho các vụ kiện dân sự có thể vượt xa các khoản phạt hành chính.
Bài viết này chỉ mang tính chất tham khảo và không cấu thành lời khuyên đầu tư.
