Hôm nay, mình mới đọc được tin là diễn đàn StackOverFlow cấm người dùng của họ sử dụng ChatGPT trên diễn đàn này. Lý do StackOverFlow đưa ra là: các câu trả lời được tạo ra bởi ChatGPT có tỷ lệ đúng rất thấp, nhưng cách sử dụng từ ngữ trong câu trả lời lại rất bài bản. Và với số lượng lớn được đẩy lên diễn đàn hàng ngày, chúng khiến cho đội ngũ chuyên gia của diễn đàn này gặp rất nhiều khó khăn trong việc chọn lọc nội dung. Hành động của StackOverFlow làm mình nhớ tới việc mà mô hình Galactica đã gặp phải. Bản demo của mô hình được giới thiệu bởi MetaAI hồi tháng trước, nhưng chỉ sau 3 ngày, đã bị chính Meta gỡ khỏi website. Vấn đề ở ChatGPT và Galactica mà mọi người quan ngại không phải đơn thuần là tính chính xác của nội dung các mô hình này tạo ra, mà là: trong khi chưa chắc đã chính xác, các nội dung được tạo ra lại được trình bày và lập luận một cách bài bản. Việc này dễ dẫn đến hậu quả nghiêm trọng là người dùng hiểu sai, vì người dùng thường không đủ kiến thức chuyên môn để phân biệt thật/giả, hoặc do họ thường lười biếng trong chuyện kiểm chứng lại thông tin. Đây là vấn đề của mô hình ngôn ngữ mà mình nghĩ rằng mọi người dùng đều cần biết. Các mô hình ngôn ngữ lớn như ChatGPT, LaMDA,… chưa thể phân biệt được đúng sai. Việc kiểm chứng nội dung là trách nhiệm của những người sử dụng. Tham khảo: - Temporay policy: Chat GPT is banned https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned - ChatGPT takes the internet by storm, bad poetry and all https://www.afr.com/technology/chatgpt-takes-the-internet-by-storm-bad-poetry-and-all-20221207-p5c4hv - ChatGPT: Why Stack Overflow Banned the Celebrated OpenAI Chatbot https://analyticsindiamag.com/chatgpt-why-stack-overflow-banned-the-celebrated-openai-chatbot/