Roblox, Discord, Openai và Google đã tìm thấy nhóm an toàn trẻ em mới

Roblox, Discord, Openai và Google đang ra mắt một tổ chức phi lợi nhuận có tên là Roost, hoặc các công cụ an toàn trực tuyến mở mạnh mẽ, hy vọng sẽ “xây dựng cơ sở hạ tầng an toàn có thể mở rộng, có thể mở rộng phù hợp cho thời kỳ AI”.

Tổ chức có kế hoạch cung cấp các công cụ an toàn nguồn mở miễn phí cho các tổ chức công cộng và tư nhân để sử dụng trên nền tảng riêng của họ, tập trung đặc biệt vào an toàn trẻ em để bắt đầu. Thông cáo báo chí thông báo Roost đặc biệt kêu gọi các kế hoạch cung cấp “các công cụ để phát hiện, xem xét và báo cáo tài liệu lạm dụng tình dục trẻ em (CSAM).” Các công ty đối tác đang cung cấp tài trợ cho các công cụ này và chuyên môn kỹ thuật để xây dựng chúng.

Lý thuyết hoạt động của Roost là việc truy cập vào AI thế hệ đang nhanh chóng thay đổi bối cảnh trực tuyến, khiến cho nhu cầu “cơ sở hạ tầng an toàn đáng tin cậy và dễ tiếp cận” tất cả đều khẩn cấp hơn. Và thay vì mong đợi một công ty hoặc tổ chức nhỏ hơn sẽ tạo ra các công cụ an toàn của riêng họ từ đầu, Roost muốn cung cấp cho họ, miễn phí.

An toàn trực tuyến trẻ em là vấn đề du jour kể từ Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em và thiếu niên (COPPA) và Đạo luật an toàn trực tuyến trẻ em (KOSA) bắt đầu tìm đường thông qua Quốc hội, mặc dù cả hai đều không vượt qua trong nhà. Ít nhất một số công ty liên quan đến Roost, cụ thể là Google và Openai, cũng đã cam kết ngăn chặn các công cụ AI được sử dụng để tạo CSAM.

Vấn đề an toàn trẻ em thậm chí còn cấp bách hơn đối với Roblox. Kể từ năm 2020, hai phần ba số trẻ em Hoa Kỳ từ chín đến 12 người chơi Roblox, và nền tảng này đã đấu tranh trong lịch sử để giải quyết an toàn cho trẻ em. Bloomberg Businessweek báo cáo rằng công ty đã có một “vấn đề ấu dâm” vào năm 2024, điều này đã thúc đẩy nhiều thay đổi chính sách và các hạn chế mới xung quanh DMS của trẻ em. Roost sẽ không làm cho tất cả những vấn đề này biến mất, nhưng sẽ giúp việc đối phó với chúng dễ dàng hơn cho bất kỳ tổ chức hoặc công ty nào khác tự tìm thấy vị trí của Roblox.