1 trong 6 nữ nghị sĩ bị nhắm mục tiêu bởi các tác phẩm giả mạo khiêu dâm do AI tạo ra

Theo một nghiên cứu mới, hơn hai chục thành viên Quốc hội đã trở thành nạn nhân của các trò lừa đảo sâu sắc về tình dục – và phần lớn những người bị ảnh hưởng là phụ nữ, theo một nghiên cứu mới làm nổi bật sự chênh lệch giới tính rõ rệt trong công nghệ này và những rủi ro ngày càng gia tăng đối với sự tham gia của phụ nữ vào chính trị và xã hội. các hình thức tham gia dân sự khác.

Dự án Ánh nắng Hoa Kỳ (ASP), một nhóm chuyên gia nghiên cứu thông tin sai lệch và ủng hộ các chính sách thúc đẩy dân chủ, đã công bố phát hiện hôm thứ Tư xác định hơn 35.000 đề cập đến hình ảnh thân mật vô căn cứ (NCII) mô tả 26 thành viên Quốc hội – 25 phụ nữ và một nam giới – được tìm thấy gần đây trên các trang web deepfake. Hầu hết hình ảnh nhanh chóng bị xóa khi các nhà nghiên cứu chia sẻ phát hiện của họ với các thành viên Quốc hội bị ảnh hưởng.

Nina Jankowicz, một chuyên gia về thông tin sai lệch và quấy rối trực tuyến, người sáng lập The American Sunlight, cho biết: “Chúng ta cần phải tính đến môi trường mới này và thực tế là Internet đã gây ra rất nhiều tác hại nhắm vào phụ nữ và các cộng đồng bị thiệt thòi”. Project và là tác giả của nghiên cứu.

Hình ảnh thân mật không liên ứng, còn được gọi thông tục là nội dung khiêu dâm deepfake mặc dù những người ủng hộ thích hình ảnh trước đây hơn, có thể được tạo ra thông qua AI tổng quát hoặc bằng cách phủ các ảnh chụp cận cảnh lên phương tiện truyền thông của những người biểu diễn người lớn. Hiện tại có chính sách hạn chế để hạn chế sự tạo ra và lây lan của nó.

ASP đã chia sẻ những phát hiện đầu tiên độc quyền với The 19th. Nhóm đã thu thập dữ liệu một phần bằng cách phát triển một công cụ tìm kiếm tùy chỉnh để tìm các thành viên của Đại hội lần thứ 118 theo họ và tên cũng như các chữ viết tắt hoặc biệt danh trên 11 trang web deepfake nổi tiếng. Việc liên kết đảng phái hay vị trí địa lý đều không ảnh hưởng đến khả năng trở thành mục tiêu lạm dụng, mặc dù các thành viên trẻ tuổi có nhiều khả năng trở thành nạn nhân hơn. Yếu tố lớn nhất là giới tính, trong đó các thành viên nữ trong Quốc hội có nguy cơ trở thành mục tiêu cao hơn 70 lần so với nam giới.

ASP đã không tiết lộ tên của các nhà lập pháp được mô tả trong hình ảnh để tránh khuyến khích tìm kiếm. Họ đã liên hệ với văn phòng của những người bị ảnh hưởng để cảnh báo họ và cung cấp tài nguyên về các tác hại trực tuyến cũng như hỗ trợ sức khỏe tâm thần. Các tác giả của nghiên cứu lưu ý rằng ngay sau đó, hình ảnh nhắm mục tiêu đến hầu hết các thành viên đã bị xóa hoàn toàn hoặc gần như hoàn toàn khỏi trang web – một thực tế mà họ không thể giải thích. Các nhà nghiên cứu đã lưu ý rằng việc xóa như vậy không ngăn tài liệu được chia sẻ hoặc tải lên lại. Trong một số trường hợp liên quan đến các nhà lập pháp, các trang kết quả tìm kiếm vẫn được lập chỉ mục trên Google mặc dù nội dung đã bị xóa phần lớn hoặc toàn bộ.

“Việc loại bỏ có thể là ngẫu nhiên. Theo nghiên cứu, bất kể chính xác điều gì đã dẫn đến việc xóa nội dung này – cho dù là thư 'ngưng và hủy', khiếu nại về vi phạm bản quyền hay liên hệ khác với các trang web lưu trữ hành vi lạm dụng deepfake – thì điều đó cho thấy sự chênh lệch lớn về đặc quyền”. “Những người, đặc biệt là phụ nữ, những người thiếu nguồn lực dành cho các Thành viên Quốc hội, sẽ rất khó nhận được phản hồi nhanh chóng này từ những người sáng tạo và phân phối NCII do AI tạo ra nếu họ tự mình đưa ra yêu cầu gỡ xuống.”

Theo phát hiện ban đầu của nghiên cứu, gần 16% tổng số phụ nữ hiện đang phục vụ trong Quốc hội – hoặc khoảng 1 trong 6 nữ dân biểu – là nạn nhân của hình ảnh thân mật không đồng thuận do AI tạo ra.

Jankowicz đã trở thành mục tiêu của sự quấy rối và đe dọa trực tuyến vì công việc xóa bỏ thông tin sai lệch trong nước và quốc tế của cô. Cô ấy cũng đã lên tiếng công khai về việc trở thành nạn nhân của hành vi lạm dụng deepfake – sự thật mà cô ấy phát hiện ra thông qua Google Alert vào năm 2023.

“Bạn có thể bị buộc phải xuất hiện trong những tình huống thân mật, bị xâm phạm này mà không có sự đồng ý của bạn và những video đó, ngay cả khi bạn định nói, theo đuổi khiếu nại bản quyền đối với người đăng ban đầu, – như trong trường hợp của tôi – chúng phổ biến trên internet mà không có sự đồng ý của bạn. kiểm soát và không gây ra hậu quả nào cho những người đang khuếch đại hoặc tạo ra nội dung khiêu dâm deepfake,” cô nói. “Điều đó tiếp tục là một rủi ro đối với bất kỳ ai trong mắt công chúng, những người đang tham gia vào các cuộc thảo luận công khai, đặc biệt là đối với phụ nữ và phụ nữ da màu.”

Lạm dụng tình dục dựa trên hình ảnh có thể gây ra những ảnh hưởng nghiêm trọng đến sức khỏe tâm thần đối với nạn nhân, bao gồm cả những người thường ngày không tham gia vào chính trị – kể cả trẻ em. Trong năm qua, đã có báo cáo về việc các nữ sinh trung học trở thành mục tiêu lạm dụng tình dục dựa trên hình ảnh ở các bang như California, New Jersey và Pennsylvania. Các quan chức của trường đã có những mức độ phản ứng khác nhau, mặc dù FBI cũng đã đưa ra cảnh báo mới rằng việc chia sẻ những hình ảnh như vậy về trẻ vị thành niên là bất hợp pháp.

Tác động đầy đủ của deepfake đối với xã hội vẫn đang được chú ý, nhưng nghiên cứu đã chỉ ra rằng 41% phụ nữ trong độ tuổi từ 18 đến 29 tự kiểm duyệt để tránh bị quấy rối trực tuyến.

Sophie Maddocks, giám đốc nghiên cứu tại Trung tâm Truyền thông có nguy cơ, cho biết: “Đó là một mối đe dọa cực kỳ mạnh mẽ đối với nền dân chủ và tự do ngôn luận, nếu chúng ta có gần một nửa dân số im lặng vì họ sợ bị quấy rối”. Đại học Pennsylvania.

Không có luật liên bang nào quy định các hình phạt hình sự hoặc dân sự đối với người tạo và phân phối hình ảnh thân mật không có sự đồng thuận do AI tạo ra. Khoảng chục bang đã ban hành luật trong những năm gần đây, mặc dù hầu hết đều bao gồm các hình phạt dân sự, không phải hình sự.

Hình ảnh thân mật không có sự đồng thuận do AI tạo ra cũng mở ra các mối đe dọa đối với an ninh quốc gia bằng cách tạo điều kiện cho hành vi tống tiền và nhượng bộ địa chính trị. Điều đó có thể có tác động lan tỏa đến các nhà hoạch định chính sách bất kể họ có trực tiếp là mục tiêu của hình ảnh hay không.

Jankowicz nói: “Hy vọng của tôi ở đây là các thành viên được thúc đẩy hành động khi họ nhận ra rằng nó không chỉ ảnh hưởng đến phụ nữ Mỹ mà còn ảnh hưởng đến họ”. “Nó đang ảnh hưởng đến đồng nghiệp của họ. Và điều này xảy ra đơn giản chỉ vì họ xuất hiện trong mắt công chúng.”

Lạm dụng tình dục dựa trên hình ảnh là nguy cơ đặc biệt đối với phụ nữ tranh cử. Susanna Gibson suýt thua trong cuộc đua lập pháp cạnh tranh sau khi một đặc vụ của Đảng Cộng hòa chia sẻ các đoạn ghi âm vô tình của các buổi phát trực tiếp khiêu dâm có sự góp mặt của Đảng viên Đảng Dân chủ Virginia và chồng của cô ấy với The Washington Post. Trong những tháng sau khi mất mát, Gibson nói với The 19th rằng cô nghe thấy những phụ nữ trẻ không khuyến khích tranh cử vì sợ những hình ảnh thân mật bị sử dụng để quấy rối họ. Gibson kể từ đó đã thành lập một tổ chức phi lợi nhuận chuyên chống lạm dụng tình dục dựa trên hình ảnh và một ủy ban hành động chính trị đi kèm để hỗ trợ các ứng cử viên nữ chống lại hành vi vi phạm quyền riêng tư thân mật.

Maddocks đã nghiên cứu lý do tại sao những phụ nữ lên tiếng trước công chúng có nhiều khả năng bị bạo lực tình dục kỹ thuật số hơn.

“Chúng ta còn có mô hình 'phụ nữ nên được nhìn thấy chứ không phải được nghe' lâu hơn nữa khiến tôi nghĩ về bài viết và nghiên cứu của Mary Beard về ý tưởng rằng phụ nữ trái ngược với lời nói trước công chúng. Vì vậy, khi phụ nữ phát biểu trước công chúng, điều đó gần giống như là 'Được rồi. Đã đến lúc làm họ xấu hổ. Đã đến lúc lột bỏ chúng. Đã đến lúc đưa họ trở lại nhà. Đã đến lúc khiến họ phải xấu hổ trong im lặng.” Và sự im lặng cũng như động cơ đáng xấu hổ đó… chúng ta phải hiểu điều đó để hiểu tác hại này biểu hiện như thế nào khi nó liên quan đến các nữ dân biểu.”

ASP đang khuyến khích Quốc hội thông qua luật liên bang. Đạo luật phá vỡ hình ảnh giả mạo và chỉnh sửa không có sự đồng thuận năm 2024, còn được gọi là Đạo luật DEFIANCE, sẽ cho phép mọi người kiện bất kỳ ai tạo, chia sẻ hoặc nhận những hình ảnh đó. Đạo luật gỡ bỏ sẽ bao gồm trách nhiệm hình sự đối với hoạt động đó và yêu cầu các công ty công nghệ gỡ bỏ các tác phẩm sâu. Cả hai dự luật đều đã được Thượng viện thông qua với sự ủng hộ của lưỡng đảng, nhưng phải giải quyết những lo ngại xung quanh các định nghĩa về quyền tự do ngôn luận và tác hại, những trở ngại điển hình đối với chính sách công nghệ, tại Hạ viện.

Jankowicz nói: “Sẽ là một sự lơ là nghĩa vụ đối với Quốc hội nếu để phiên họp này trôi qua mà không thông qua ít nhất một trong những dự luật này,” Jankowicz nói. “Đó là một trong những cách mà những người Mỹ thực sự đang cảm nhận được tác hại của trí tuệ nhân tạo hiện nay. Nó không phải là một tác hại trong tương lai. Đó không phải là điều chúng ta phải tưởng tượng.”

Trong trường hợp Quốc hội không có hành động, Nhà Trắng đã hợp tác với khu vực tư nhân để hình thành các giải pháp sáng tạo nhằm hạn chế lạm dụng tình dục dựa trên hình ảnh. Nhưng các nhà phê bình không lạc quan về khả năng tự điều chỉnh của Big Tech, do lịch sử gây ra thiệt hại do nền tảng của nó gây ra.

Jankowicz nói: “Thủ phạm rất dễ dàng tạo ra nội dung này và tín hiệu không chỉ hướng tới cá nhân phụ nữ bị nhắm mục tiêu”. “Nó gửi đến phụ nữ ở khắp mọi nơi và nói rằng, 'Nếu bạn thực hiện bước này, nếu bạn lên tiếng, đây là hậu quả mà bạn có thể phải giải quyết.'”

Nếu bạn là nạn nhân của lạm dụng tình dục dựa trên hình ảnh, Sáng kiến ​​dân quyền trên mạng duy trì một danh sách các nguồn lực hợp pháp.

Bài viết này ban đầu được xuất bản trên The Markup và được tái bản dưới tên Creative Commons Ghi công-Phi thương mại-NoDerivatives giấy phép.