Chatbots đã thuyết phục những kẻ ngốc, họ đã bẻ khóa mã trên một tác phẩm điêu khắc ở sân sau của CIA

Gần trụ sở CIA ở Langley, Virginia, có một tác phẩm điêu khắc được gọi là Kryptos. Nó đã ở đó từ năm 1990 và chứa bốn mã bí mật, ba trong số đó đã được giải quyết. Người cuối cùng đã đi 35 năm mà không bị giải mã. Và, theo một báo cáo từ Wired, nhà điêu khắc có trách nhiệm muốn mọi người biết rằng bạn không giải quyết được điều chết tiệt với một chatbot.

Jim Sanborn, người đã tạo ra các tác phẩm điêu khắc cho Viện Công nghệ Massachusetts và Cơ quan Khí quyển và Đại dương Quốc gia ngoài công việc của ông bên ngoài CIA HQ, đã được báo cáo là những người hoàn toàn tích cực, họ đã giải quyết K4, bảng điều khiển cuối cùng của mã chưa được giải quyết mà ông đã mã hóa bằng kỹ thuật Knottier. Nhưng những chiếc bánh quy mã này không phải là loại mật mã thực tế, chuyên nghiệp hay nói cách khác, những người đã bị ám ảnh bởi việc giải mã thông điệp kể từ khi nó xuất hiện lần đầu tiên. Không, đây chỉ là một số người đã chạy mã thông qua một chatbot và đã nhận được lời của nó.

Trong một cuộc trò chuyện với Wired, Sanborn nói rằng anh ta đã thấy một sự gia tăng đáng kể trong các bài nộp, điều này đã gây khó chịu nếu bạn đã 79 tuổi, người đã nhận được rất nhiều bài nộp trong ba thập kỷ qua trong nhiều thập kỷ mà bạn phải bắt đầu tính phí 50 đô la để xem xét các giải pháp vì bạn đã có rất nhiều tin nhắn cho bạn trong nhiều năm. Nhưng tệ hơn là tần suất đệ trình, theo Sanborn, là thái độ của những người nộp.

Nhân vật của các email là khác nhau, những người đã làm mã hóa của họ với AI hoàn toàn tin rằng họ đã bẻ khóa Kryptos trong bữa sáng, anh nói với Wired. Vì vậy, tất cả họ đều rất tin rằng khi họ tiếp cận tôi, họ đã bẻ khóa nó.

Đây chỉ là một vài mẫu của những thông điệp cực kỳ kiêu ngạo và tự hài lòng mà Sanborn đã nhận được trong những năm gần đây:

“Tôi chỉ là một bác sĩ thú y, đã bẻ khóa nó trong những ngày với Grok 3.”

Những gì mất 35 năm và ngay cả NSA với tất cả các nguồn lực của họ không thể làm tôi có thể làm chỉ trong 3 giờ trước khi tôi uống cà phê buổi sáng.

Lịch sử của Lịch sử đã viết lại không có lỗi 100%.

Nếu bạn đã dành bất kỳ thời gian nào cho phương tiện truyền thông xã hội, đặc biệt là trên X, bạn đã thấy những người này. Có lẽ không phải những người này, mà là cùng một loại chàng trai. Bạn biết đấy, những người nói rằng Chỉ cần Grok nó hay trả lời bài đăng của ai đó với đây là những gì Grok nói, hay chia sẻ ảnh chụp màn hình phản hồi của Chatgpt như thể đó là bất kỳ cách nào phụ thuộc vào cuộc trò chuyện.

Sự tự mãn là, thẳng thắn, không thể giải thích được. Ngay cả khi họ đã phá vỡ thành công mã của Sanborn bằng AI (đối với hồ sơ, Sanborn nói rằng họ thậm chí còn không gần gũi), việc yêu cầu một máy thực hiện công việc cho bạn tạo ra sự hài lòng như vậy là gì? Đó là một điều nếu họ đào tạo một mô hình ngôn ngữ lớn với số lượng kiến ​​thức mã hóa vô tận và được sử dụng để bẻ khóa mã của Sanborn. Nhưng họ thực sự chỉ yêu cầu một chatbot nhìn vào một bức tranh và giải quyết nó. Đó là điều ít thông minh nhất có thể tưởng tượng được. Nó lật vào mặt sau của sách giáo khoa để xem giải pháp chính xác cho phương trình toán học là gì, ngoại trừ trong trường hợp này, sách giáo khoa đã tự tin ảo giác câu trả lời.

Hành vi này không phải là hiếm, thực sự. Một nghiên cứu được công bố vào năm ngoái trên tạp chí Máy tính về hành vi của con người cho thấy rằng khi mọi người học lời khuyên được AI tạo ra, họ có xu hướng dựa trên nó, thậm chí cho phép nó thuyết phục họ đi ngược lại thông tin theo ngữ cảnh mâu thuẫn và lợi ích cá nhân của họ. Nghiên cứu tương tự cho thấy rằng khi một người quá nhiều theo lời khuyên của AI, nó ảnh hưởng tiêu cực đến sự tương tác của họ với những người khác. Có lẽ đó là vì họ rất hài lòng với chính họ.