Công nghệ · Phóng sự dài kỳ
Cỗ máy học được cách nói ‘Tôi không biết’
Suốt một thập kỷ, sự tự tin của máy móc là một lỗi mà ta xuất xưởng như một tính năng. Một thay đổi lặng lẽ trong cách huấn luyện đang dạy chúng câu nói hữu ích nhất trong mọi ngôn ngữ.
Suốt một thập kỷ, sự tự tin của máy móc là một lỗi mà ta xuất xưởng như một tính năng. Một thay đổi lặng lẽ trong cách huấn luyện đang dạy chúng câu nói hữu ích nhất trong mọi ngôn ngữ.
Điều đầu tiên mô hình mới làm, khi nó không biết câu trả lời, là thừa nhận điều đó. Nghe có vẻ tầm thường, cho tới khi bạn nhớ rằng trong phần lớn thập kỷ vừa qua, thừa nhận sự thiếu hiểu biết chính là điều duy nhất mà những hệ thống này được tạo ra để không bao giờ làm.
Một mô hình ngôn ngữ được huấn luyện để viết tiếp văn bản, và một đoạn viết tiếp đầy tự tin được chấm điểm cao hơn một đoạn ngập ngừng — thế nên máy móc học cách nói phét. Chúng nói phét trôi chảy, thành từng đoạn hoàn chỉnh, kèm trích dẫn những bài báo không hề tồn tại. Ngành công nghiệp đặt cho lỗi này một cái tên nhẹ nhàng, ảo giác, như thể mô hình đang mơ chứ không phải đang bịa đặt.
Thưởng cho cái nhún vai
Thứ thay đổi không phải kích cỡ của mô hình mà là điều chúng được thưởng. Một bước huấn luyện mới chấm câu ‘Tôi không chắc’ trung thực cao hơn một câu sai đầy tự tin, và chỉ thấp hơn đôi chút so với một câu đúng đầy tự tin. Một điều chỉnh nhỏ với hiệu ứng lớn: cỗ máy giờ có lý do để dè dặt, và hóa ra, dè dặt chính là phần lớn âm hưởng của sự thành thạo.
Một bác sĩ không bao giờ nói ‘Tôi không biết’ không phải là bác sĩ giỏi hơn. Đó là một bác sĩ nguy hiểm hơn.
Những người làm việc với các hệ thống này cả ngày nhận ra trước tiên. Câu trả lời ngắn lại. Chú thích trở nên có thật. Và một loại câu hỏi nhất định — loại chưa có lời giải — bắt đầu quay về với câu trả lời đúng duy nhất, rằng chưa ai biết cả.
Thay đổi ấy thực sự làm gì
Ba chuyển dịch, không cái nào nói về năng lực thô.
Tự tin được hiệu chỉnh
Mô hình giờ báo mức độ chắc chắn của mình, và con số đó bám sát tần suất nó thực sự đúng.
Kiểm tra rẻ hơn
Một câu trả lời dè dặt chỉ cho người đọc biết nên tra ở đâu, nhanh hơn nhiều so với việc bắt lỗi một lời nói dối trôi chảy sau đó.
Chậm gây ấn tượng
Nó trình diễn kém hơn. Một hệ thống nói ‘Tôi không biết’ thua mọi cuộc so kè với hệ thống đoán bạo dạn — cho tới khi các phỏng đoán được kiểm chứng.
Cái giá của sự khiêm tốn
Có một lý do khiến chuyện này mất nhiều thời gian đến vậy, và nó không mang tính kỹ thuật. Sự bất định là quảng cáo tồi. Một mô hình biết dè dặt thì khó đưa vào một mẩu quảng cáo, và công ty đầu tiên xuất xưởng nó một cách trung thực đã hứng chịu một quý bị chê cười trước khi các con số lên tiếng.
Rồi các con số lên tiếng. Với những câu hỏi hệ trọng — y khoa, pháp lý, tài chính — một hệ thống biết rõ ranh giới hiểu biết của chính mình đáng giá hơn một hệ thống đúng nhiều hơn đôi chút rồi sai với niềm tin tuyệt đối ở phần còn lại. Cả ngành, một cách lặng lẽ, giờ đang sao chép cái nhún vai ấy.