Meta đang triển khai một hệ thống trí tuệ nhân tạo mới để quét cấu trúc xương và chiều cao trong ảnh nhằm xác định và xóa người dùng dưới 13 tuổi, một sự gia tăng đáng kể trong các biện pháp an toàn của hãng sau án phạt pháp lý 3.75 亿美元 vì làm tổn hại đến an toàn của trẻ em.
"AI của chúng tôi xem xét các chủ đề chung và các dấu hiệu hình ảnh, ví dụ như chiều cao hoặc cấu trúc xương, để ước tính độ tuổi chung của một người," công ty viết trong một bài đăng trên blog. "Nó không xác định cụ thể người trong ảnh."
Công nghệ này, vốn tránh nhận dạng khuôn mặt, sẽ phân tích các hồ sơ để tìm các manh mối ngữ cảnh như các bài đăng về sinh nhật và quét hình ảnh để tìm các dấu hiệu thể chất. Hệ thống này đang được mở rộng sang Instagram tại 27 quốc gia EU và Brazil, và sang Facebook tại Mỹ, Anh và EU. Động thái này diễn ra sau khi một bồi thẩm đoàn ở New Mexico yêu cầu Meta bồi thường 3.75 亿美元 thiệt hại và một bồi thẩm đoàn ở Los Angeles phán quyết công ty phải chịu trách nhiệm vì góp phần gây ra các vấn đề sức khỏe tâm thần ở thanh thiếu niên.
Việc triển khai này thử nghiệm liệu Meta có thể giải quyết vấn đề người dùng chưa đủ tuổi mà không làm tổn hại đến tăng trưởng hay không, một thách thức từng giáng đòn mạnh vào nền tảng trò chơi Roblox, khi cổ phiếu của hãng này giảm 18% sau khi triển khai xác minh độ tuổi làm ảnh hưởng đến số lượng người dùng. Mặc dù mô hình doanh thu dựa trên quảng cáo của Meta được bảo vệ tốt hơn so với mô hình dựa trên giao dịch của Roblox, những thay đổi này vẫn mang lại rủi ro đáng kể về danh tiếng và quy định khi công ty phải đối mặt với sự giám sát chặt chẽ từ tòa án và Quốc hội.
AI như một Nhân viên bảo vệ kỹ thuật số
Hệ thống mới của Meta đại diện cho một sự thay đổi đáng kể từ kiểm duyệt nội dung phản ứng sang phát hiện độ tuổi tự động, chủ động. AI sẽ phân tích toàn bộ hồ sơ, tìm kiếm các manh mối ngữ cảnh trong các bài đăng, tiểu sử và bình luận—chẳng hạn như đề cập đến các lớp học hoặc lễ kỷ niệm sinh nhật—có thể cho thấy người dùng dưới 13 tuổi.
Sự phát triển đáng chú ý nhất là việc tích hợp phân tích hình ảnh. Trong khi Meta nhấn mạnh đây không phải là nhận dạng khuôn mặt, AI sẽ quét ảnh và video để tìm các dấu hiệu phát triển như chiều cao và cấu trúc xương để ước tính tuổi của người dùng. Các tài khoản bị gắn thẻ là có khả năng chưa đủ tuổi sẽ bị vô hiệu hóa, buộc người dùng phải hoàn thành quy trình xác minh độ tuổi để tránh bị xóa vĩnh viễn. Việc quét chủ động này nhằm đóng các lỗ hổng cho phép hàng triệu người dùng chưa đủ tuổi tạo tài khoản.
Một vấn đề tốn kém
Việc thúc đẩy xác minh độ tuổi nâng cao diễn ra khi Meta phải đối mặt với áp lực pháp lý và tài chính ngày càng tăng. Một bồi thẩm đoàn ở New Mexico gần đây đã yêu cầu công ty nộp phạt 3.75 亿美元 sau khi kết luận công ty phải chịu trách nhiệm về việc làm tổn hại đến an toàn của trẻ em trực tuyến theo Đạo luật Hành vi Không công bằng của tiểu bang. Riêng biệt, một bồi thẩm đoàn ở Los Angeles đã phát hiện cả Meta và YouTube của Google đều sơ suất trong thiết kế nền tảng của họ, góp phần gây ra các vấn đề sức khỏe tâm thần ở người dùng trẻ tuổi.
Những thất bại pháp lý này làm nổi bật các rủi ro tài chính khi không kiểm soát được việc sử dụng của trẻ vị thành niên. Hệ thống AI mới là một phần trong phản ứng của Meta, một nỗ lực nhằm chứng minh sự tuân thủ chủ động và giảm thiểu trách nhiệm pháp lý trong tương lai. Công ty cũng đang mở rộng chương trình "Tài khoản thanh thiếu niên" (Teen Account), chương trình mặc định đưa người dùng dưới 18 tuổi vào các cài đặt riêng tư hơn, tới 27 quốc gia mới ở EU và Brazil.
Tiền lệ Roblox
Thách thức của Meta là triển khai các tính năng an toàn này mà không làm mất lòng cơ sở người dùng hoặc gây hại cho các chỉ số tương tác. Trường hợp của Roblox đưa ra một bài học cảnh báo. Nền tảng trò chơi này, vốn rất phổ biến với người dùng trẻ tuổi, đã chứng kiến cổ phiếu lao dốc 18% vào ngày 1 tháng 5 sau khi báo cáo rằng các yêu cầu kiểm tra độ tuổi mới đã làm chậm quá trình thu hút người dùng mới và giảm giao tiếp trên nền tảng.
Tuy nhiên, mô hình kinh doanh của Meta có thể mang lại một tấm đệm đỡ. Không giống như Roblox, vốn dựa vào chi tiêu trong trò chơi từ một cơ sở người dùng chủ yếu là dưới 17 tuổi, doanh thu của Meta chủ yếu đến từ quảng cáo nhắm đến một đối tượng nhân khẩu học rộng hơn nhiều. Mặc dù việc trấn áp các tài khoản chưa đủ tuổi có thể dẫn đến sự sụt giảm số lượng người dùng trong một thời điểm, nhưng tác động đến lợi nhuận của Meta được dự báo sẽ ít nghiêm trọng hơn những gì Roblox đã trải qua. Công ty đang đặt cược rằng lợi ích lâu dài của việc cải thiện an toàn và tuân thủ quy định sẽ lớn hơn bất kỳ sự rời bỏ ngắn hạn nào.
Bài viết này chỉ nhằm mục đích cung cấp thông tin và không cấu thành lời khuyên đầu tư.
