AI Reimagine AI của Pixel 9 vẫn còn chín

Bản tóm tắt

• Nó tương đối đơn giản để bỏ qua các biện pháp bảo vệ được tích hợp trong các công cụ chỉnh sửa ảnh AI như Phác thảo để hình ảnh và Reimagine.

• Một lớp học Cornell Tech tập trung vào các mô hình AI bẻ khóa đã chứng minh làm thế nào hình ảnh được chế tạo có thể đáng báo động và nguy hiểm.

• Việc sử dụng AI trong chỉnh sửa ảnh – với chuyên môn bằng không và ít nỗ lực cần thiết – làm mờ ranh giới giữa tiểu thuyết và thực tế, đặt ra những rủi ro tiềm ẩn ngay bây giờ.

Chỉnh sửa ảnh cực kỳ đơn giản và tạo hình ảnh là một trong những khả năng mới nhất của AI và liên tục tinh tế. Phác thảo cho hình ảnh của Galaxy AI đã mở ra tất cả các loại kịch bản lố bịch, và tính năng Reimagine có sẵn trên Pixel 9 Family thông qua Biên tập viên Magic dường như cũng hoạt động ít nhất.

Tuy nhiên, khi bờ vực phát hiện ra ngay sau khi Reimagine ra mắt, sự bảo vệ của tính năng chống lại việc tạo ra những hình ảnh thực tế, nguy hiểm, không mạnh mẽ lắm. Như các sinh viên trong khóa học 101 của Cornell Tech đã được chứng minh, những người bảo vệ đó không được tốt hơn, bằng chứng là tạo hình ảnh tương đối dễ dàng có phương tiện công cộng bị xóa sổ, các công viên phủ rác và một chiếc xe tăng M1 Abrams lăn xuống đường phố New York (nguồn: Alexios Mantzarlis.

Có liên quan

Tôi không quan tâm đến Galaxy AI cho đến khi nó cho con chó của tôi một con bong bóng Pokémon

Phác thảo cho hình ảnh có thể làm một số điều rất ngớ ngẩn

Uốn cong kết cấu của thực tế

AI bây giờ về cơ bản là tốt hơn trong ảnh so với con người

Các phần bắt mắt nhất của những hình ảnh này đều được tạo ra AI, tức là giả.

Khóa học Cornell Tech tập trung vào việc hợp tác màu đỏ, hoặc cố ý bỏ qua hoặc làm mất ổn định một dịch vụ cho các mục đích nghiên cứu. Công việc của các sinh viên cho thấy các hạn chế đối với các từ khóa đã không đi rất xa trong việc ngăn chặn việc tạo ra hình ảnh đáng báo động. Trong một ví dụ, việc chèn một “M1 Abrams” vào một bức tranh dễ dàng bỏ qua một lệnh cấm trong việc tạo ra một chiếc xe tăng đơn giản. Các kết quả hợp tác màu đỏ khác bao gồm các phà bị phá hủy và xe điện, một công viên công cộng rác rưởi và một khu nhà ở tạm thời bên ngoài ga tàu điện ngầm Roosevelt Island của NYC.

Không cần phải có một tâm trí đặc biệt sáng tạo để xem làm thế nào những hình ảnh này có thể được sử dụng để truyền bá nỗi sợ hãi và tranh cãi … Onus vẫn còn trên các nền tảng công nghệ có trách nhiệm để xây dựng các công cụ không thể bị lạm dụng trong vài giờ bởi một vài bộ óc sáng tạo. – Alexios Mantzarlis, Cornell

Thử nghiệm năm 2024 của Verge đã làm sáng tỏ những kết quả đáng lo ngại hơn, như hình ảnh giả của bom và các chất có vẻ độc hại bị rò rỉ ra khỏi trường học. Như Alexios Mantzarlis, giáo sư công nghệ Cornell và Giám đốc Sáng kiến ​​An ninh, Trust và An toàn của nó, gần đây đã giải thích: “Các bảo vệ an toàn của Google đã đấu tranh đặc biệt khi trường hợp sử dụng có hại không phải là nội dung của dấu nhắc mà là sự tương tác của nó với bối cảnh của hình ảnh.”

'AI chỉ là một công cụ khác' – cho đến khi nó không

Nguồn: 404Media

Rõ ràng, hình ảnh được xử lý và Photoshop không có gì mới. Nhưng, như The Verge đã chỉ ra vào năm ngoái, “Đây không phải là một phần mềm chuyên dụng mà chúng tôi đã cố gắng sử dụng – tất cả là một chiếc điện thoại mà bố tôi có thể bước vào Verizon và mua.” Về phần mình, Google đang làm việc để sử dụng hình mờ tổng hợp trên các hình ảnh thay đổi Reimagine. Nhưng trong cuộc chạy đua vũ trang vô tận của AI, các nhà nghiên cứu đã chứng minh rằng các mô hình tập trung có thể loại bỏ các hình mờ AI tương tự và giả mạo những hình ảnh giả.

Một hoặc hai năm trước, việc thêm một vụ tai nạn xe hơi thuyết phục vào một hình ảnh sẽ mất thời gian, chuyên môn, sự hiểu biết về các lớp Photoshop và truy cập vào phần mềm đắt tiền. Những rào cản đó đã biến mất. – Allison Johnson, The Râu

Trong trường hợp, bất kỳ người đam mê công nghệ nào không thể thực hiện được, những công cụ này sẽ không được đưa vào sử dụng bất chính, ranh giới giữa thực tế và tiểu thuyết không chỉ bị mờ đi trong các lĩnh vực truyền thông xã hội và xuất bản, nó gần như bị xóa. Như 404Media báo cáo, một hình ảnh có độ phân giải cao của người biểu tình Pikachu-clad của Thổ Nhĩ Kỳ đã thực hiện các vòng, với vô số người xem lấy nó theo mệnh giá-ngoại trừ, nó không có thật. Ngày nay, một nhân vật trẻ em yêu dấu đang bị liên quan đến các cuộc biểu tình bạo lực nhờ AI. Ngày mai, nó có thể là bạn.