Đã có thể phân biệt nội dung do ChatGPT viết và do con người viết
CEO Sam Altman của OpenAI (Ảnh: Reuters).
Ngày 1/2, OpenAI, công ty đứng sau chatbot đang làm mưa làm gió thế giới - ChatGTP, cho biết họ đã phát hành một công cụ phần mềm để xác định văn bản do trí tuệ nhân tạo tạo ra.
Những ngày qua, ChatGPT đang thực sự khiến người dùng thế giới phải kinh ngạc với khả năng tạo ra các dạng văn bản như các bài báo, tiểu luận, truyện cười và thậm chí cả thơ. Kể từ khi ra mắt vào tháng 11 năm ngoái, ChatGPT đã trở thành cơn sốt toàn cầu khi đạt 1 triệu người dùng sau tuần đầu ra mắt. Tuy nhiên, khả năng sáng tạo nội dung của ChatGPT cũng đang gây ra tranh cãi cũng như các lo ngại về bản quyền và đạo văn.
Do đó, một công cụ phân biệt nội dung cho AI viết ra là điều cần thiết. AI Classifier là một công cụ ngôn ngữ được đào tạo trên tập dữ liệu - đã được đối chứng giữa văn bản do con người viết và AI viết về cùng một chủ đề, nhằm mục đích phân biệt văn bản được viết bởi AI.
OpenAI cho biết họ sử dụng nhiều nguồn khác nhau để giải quyết các vấn đề như thông tin sai lệch và sự không trung thực trong học thuật.
Tuy vậy, ở chế độ thử nghiệm, OpenAI thừa nhận công cụ của họ chưa đủ độ tin cậy khi làm việc với các văn bản dưới 1.000 ký tự, cũng như văn bản do AI viết nhưng được chỉnh sửa để đánh lừa bộ phân loại.
OpenAI cho biết: “Chúng tôi nhận ra rằng việc xác định văn bản do AI viết là điều quan trọng với các nhà giáo dục và phần quan trọng không kém là nhận ra các giới hạn cũng như tác động của các trình phân loại văn bản do AI tạo ra trong lớp học.”
Như đã nói ở trên, cơn sốt ChatGPT đã kéo theo hàng triệu người dùng cũng như các lo ngại về nội dung trong vấn đề học thuật. Một số trường học ở Mỹ, bao gồm cả thành phố New York, đã cấm chatbot AI vì lo ngại rằng học sinh sẽ sử dụng trình tạo văn bản để gian lận hoặc đạo văn.
OpenAI cho biết họ đang hợp tác với các nhà giáo dục để thảo luận về các khả năng và hạn chế của ChatGPT, đồng thời sẽ tiếp tục nghiên cứu phát hiện văn bản do AI tạo ra.
