Theo hồ sơ bắt giữ được truyền thông Mỹ dẫn lại, Carli Michelle Heller, 30 tuổi, sống tại Bonita Springs, bang Florida, bị cáo buộc viết trên Claude vào ngày 26/9 rằng bà sẽ tấn công Văn phòng Cảnh sát trưởng hạt Lee.
Hệ thống an toàn của Claude phát hiện nội dung bất thường và chuyển cuộc trò chuyện tới một nhóm kiểm duyệt. Sau khi xem xét, nhân viên Anthropic cho rằng lời đe dọa có thể đáng tin cậy và thông báo cho cơ quan thực thi pháp luật.
Cảnh sát sau đó xác định danh tính người dùng và đến nhà Heller. Bà bị bắt giữ mà không xảy ra sự cố và hiện đối mặt với cáo buộc đưa ra lời đe dọa bạo lực bằng văn bản.
Theo Điều 836.10 của luật Florida, việc gửi hoặc truyền tải nội dung điện tử đe dọa giết người, gây thương tích, tiến hành xả súng hàng loạt hoặc khủng bố có thể bị xem là trọng tội cấp độ hai. Tuy nhiên, Heller mới đang bị cáo buộc và chưa bị tòa án kết luận có tội.
Claude không phải cuốn nhật ký riêng tư
Điểm gây chú ý là Heller được cho là đã nói với nhà chức trách rằng bà sử dụng Claude giống như một cuốn nhật ký. Trường hợp này cho thấy cuộc trò chuyện với chatbot không nhất thiết chỉ được giữ giữa người dùng và AI.
Theo chính sách của Anthropic, công ty có thể cung cấp dữ liệu cho cơ quan thực thi pháp luật trong một số tình huống khẩn cấp, nếu có cơ sở hợp lý để tin rằng việc tiết lộ là cần thiết nhằm ngăn chặn nguy cơ tử vong hoặc thương tích nghiêm trọng.
Điều đó không có nghĩa nhân viên Anthropic đọc thủ công mọi cuộc trò chuyện. Trong trường hợp này, nội dung được hệ thống an toàn tự động phát hiện trước khi chuyển sang cho con người đánh giá.
Anthropic cũng không phải công ty AI duy nhất sử dụng cơ chế như vậy. Các nền tảng lớn đều duy trì hệ thống phát hiện nội dung nguy hiểm, đồng thời có thể cho phép nhân viên hoặc đối tác tiếp cận một phần dữ liệu để kiểm tra chất lượng, điều tra hành vi lạm dụng hoặc xử lý nguy cơ gây hại khẩn cấp.
Vụ việc là lời nhắc rằng chatbot có thể mang lại cảm giác riêng tư giống như đang trò chuyện với một người bạn hoặc viết nhật ký. Nhưng trên thực tế, nội dung người dùng nhập vào vẫn được gửi tới hệ thống của một doanh nghiệp, chịu sự điều chỉnh của chính sách sử dụng, cơ chế kiểm duyệt và pháp luật.
Vì vậy, người dùng không nên xem chatbot AI là nơi lưu giữ những thông tin chỉ dành cho riêng mình, đặc biệt nếu đó là dữ liệu nhạy cảm, bí mật cá nhân hoặc nội dung có thể bị hiểu là lời đe dọa gây hại.
Tuấn Nguyễn