Openai cấm tài khoản Trung Quốc bằng cách sử dụng Chatgpt để chỉnh sửa mã để giám sát phương tiện truyền thông xã hội

Openai đã cấm các tài khoản của một nhóm người dùng Trung Quốc đã cố gắng sử dụng TATGPT để gỡ lỗi và chỉnh sửa mã cho một công cụ giám sát phương tiện truyền thông xã hội AI, công ty. Chiến dịch mà Openai gọi là đánh giá ngang hàng, đã thấy nhóm nhanh chóng để tạo ra các sân bán hàng cho một chương trình mà các tài liệu đề xuất được thiết kế để theo dõi tình cảm chống Trung Quốc trên X, Facebook, YouTube, Instagram và các nền tảng khác. Hoạt động dường như đặc biệt quan tâm đến việc phát hiện ra các cuộc biểu tình chống lại các vi phạm nhân quyền ở Trung Quốc, với mục đích chia sẻ những hiểu biết đó với chính quyền đất nước.

“Mạng này bao gồm các tài khoản TATGPT hoạt động theo mô hình thời gian phù hợp với giờ làm việc của Trung Quốc đại lục, đã thúc đẩy các mô hình của chúng tôi bằng tiếng Trung và sử dụng các công cụ của chúng tôi với khối lượng và sự đa dạng phù hợp với việc nhắc nhở thủ công, thay vì tự động hóa”, Openai nói. “Các nhà khai thác đã sử dụng các mô hình của chúng tôi để đưa ra các tuyên bố rằng những hiểu biết của họ đã được gửi đến các đại sứ quán Trung Quốc ở nước ngoài và cho các đại lý tình báo giám sát các cuộc biểu tình ở các quốc gia bao gồm Hoa Kỳ, Đức và Vương quốc Anh.”

Theo Ben Nimmo, một điều tra viên chính của Openai, đây là lần đầu tiên công ty phát hiện ra một công cụ AI thuộc loại này. “Các diễn viên đe dọa đôi khi cho chúng ta một cái nhìn thoáng qua về những gì họ đang làm trong các phần khác của internet vì cách họ sử dụng các mô hình AI của chúng ta”, Nimmo nói với .

Phần lớn mã cho công cụ giám sát dường như được dựa trên phiên bản nguồn mở của một trong những Meta. Nhóm này dường như cũng đã sử dụng TATGPT để tạo ra đánh giá hiệu suất cuối năm, nơi họ tuyên bố đã viết email lừa đảo thay mặt cho khách hàng ở Trung Quốc.

“Đánh giá tác động của hoạt động này sẽ yêu cầu đầu vào từ nhiều bên liên quan, bao gồm cả người vận hành bất kỳ mô hình nguồn mở nào có thể làm sáng tỏ hoạt động này”, OpenAI nói về những nỗ lực của hoạt động để sử dụng TATGPT để chỉnh sửa mã cho giám sát truyền thông xã hội AI AI dụng cụ.

Một cách riêng biệt, Openai cho biết gần đây họ đã cấm một tài khoản sử dụng TATGPT để tạo ra các bài đăng trên phương tiện truyền thông xã hội chỉ trích, một nhà khoa học chính trị Trung Quốc và bất đồng chính kiến ​​sống ở Mỹ lưu vong. Cùng một nhóm cũng đã sử dụng chatbot để tạo ra các bài viết bằng tiếng Tây Ban Nha phê phán Hoa Kỳ. Những bài báo này được xuất bản bởi các tổ chức tin tức “chính thống” ở Mỹ Latinh và thường được quy cho một cá nhân hoặc một công ty Trung Quốc.