Nội dung bài viết
Anthropic vừa giải thích cách hoạt động của hình mờ văn bản vô hình trong Claude. Hệ thống dựa trên một phiên bản của SynthID-Text, bộ công cụ mã nguồn mở do Google phát triển, đánh dấu văn bản do mô hình sinh ra theo cách mắt người không đọc ra nhưng máy dò lại được.
Đây là lần công ty nói cụ thể về cơ chế, sau nhiều tháng chỉ có các tuyên bố nguyên tắc về nguồn gốc nội dung AI. Dario Amodei, giám đốc điều hành Anthropic, mới đây bác bỏ ý kiến cho rằng ông đang vẽ ra bức tranh quá bi quan về trí tuệ nhân tạo và cách công nghệ này định hình tương lai.
Theo ông, làn sóng phản ứng dữ dội với AI về cơ bản là một cuộc khủng hoảng niềm tin. Đặt cạnh phần công bố kỹ thuật, phát biểu đó đọc như lời mô tả bài toán mà chính công ty đang tìm cách giải bằng công cụ dò nguồn gốc.
Dấu chìm trả lời câu hỏi văn bản đến từ đâu, không trả lời câu hỏi nó có đáng tin hay không. Ben Smith, tổng biên tập Semafor, mô tả một nghịch lý trong nghề báo: đi đâu cũng nghe người ta nói họ không tin truyền thông, nhưng mức tiêu thụ tin tức chưa bao giờ cao như hiện nay.
Chữ ký kỹ thuật số trên một đoạn văn không tự làm đoạn văn đó chính xác. Anthropic đang giải phần dễ đo hơn của vấn đề mà Amodei nêu.
Một tòa nhà văn phòng ở trung tâm Oakland, từng là nơi đặt hoạt động siêu máy tính cho Phòng thí nghiệm quốc gia Lawrence Berkeley, đang được xem xét để trở thành trung tâm dữ liệu mới và tổ hợp trí tuệ nhân tạo. Dự án hiện ở giai đoạn xem xét, chưa có quyết định cuối cùng.
Một địa chỉ vốn phục vụ nghiên cứu công chuyển sang phục vụ hạ tầng AI thương mại là thay đổi cư dân khu trung tâm Oakland sẽ thấy trước cả khi họ có ý kiến về mô hình ngôn ngữ nào. Cuộc tranh luận về niềm tin vì thế không chỉ diễn ra trong các bài phỏng vấn.
Khi các công ty AI thuyết phục công chúng rằng họ đáng tin, họ đồng thời đề nghị được mở rộng về mặt vật lý: điện, mặt bằng, những tòa nhà giữa lòng đô thị.
Hai câu chuyện của Anthropic tuần này thuộc tầng khái niệm và tầng công cụ; hồ sơ ở Oakland thuộc tầng giấy phép và quy hoạch, nơi tiếng nói của cư dân địa phương có trọng lượng cụ thể hơn.
Với giáo viên và người làm biên tập, phần đáng theo dõi là dấu chìm của Claude: nếu công cụ dò được phổ biến rộng, việc xác định một đoạn văn bản có do mô hình sinh ra hay không sẽ dễ hơn hiện nay, dù chưa có số liệu công khai về độ chính xác hay cách triển khai.
Với dự án Oakland, mốc kế tiếp là quyết định của thành phố về việc chuyển đổi công năng tòa nhà.