Động sát Beating AI tin nhanh, Anthropic bắt đầu thêm "khóa ngữ cảnh" cho suy nghĩ ẩn của Claude. Suy nghĩ mã hóa được tạo qua API trong Fable 5.1, từ nay phải được truyền lại nguyên trạng cùng với hệ thống prompt, công cụ và lịch sử tin nhắn khi tạo ra nó. Nếu phần trước đó bị chỉnh sửa, API sẽ báo lỗi hoặc trực tiếp loại bỏ đoạn suy nghĩ này.

Thay đổi này nhằm chống lại việc mô hình chưng cất (model distillation). Trước đây, các nhà nghiên cứu phát hiện rằng suy nghĩ mã hóa của Claude tuy người dùng không đọc được, nhưng có thể đưa lại cho mô hình tương thích của Anthropic để đọc. Kẻ tấn công có thể để Opus tạo ra suy luận chất lượng cao, sau đó nhét khối mã hóa vào Haiku có khả năng bảo vệ yếu hơn, dụ nó đọc ra toàn bộ suy nghĩ của Opus. Điều này tương đương với việc không chỉ sao chép câu trả lời của mô hình lớn, mà còn lấy luôn cả quá trình giải trên giấy nháp.

Anthropic đã chặn một vòng khi phát hành Fable 5 vào tháng 6, bắt đầu liên kết suy nghĩ mã hóa với mô hình, không thể đưa cho các mô hình nhỏ như Haiku để giải mã. Fable 5.1 lần này lại thêm "liên kết hội thoại": mô hình không đổi, chỉ cần thay đổi prompt, công cụ hoặc lịch sử chat phía trước, suy nghĩ cũ cũng bị vô hiệu.

Trước đây phòng chống "đổi mô hình để trộm suy nghĩ", giờ đây cả "đổi ngữ cảnh để moi suy nghĩ" cũng bị chặn.