OpenAI đã phát hành một công cụ trực tuyến miễn phí được thiết kế để dự đoán liệu một đoạn văn bản được tạo bởi AI hay được viết bởi con người.
Được mệnh danh là “Trình phân loại văn bản AI”, phần mềm này được cung cấp bởi một mô hình ngôn ngữ và đánh giá khả năng một đoạn văn bản được tạo bởi một mô hình AI trên thang điểm năm, từ “rất khó xảy ra” đến “không rõ ràng” đến “có thể .” Chúng tôi đã thử nó trên một số bài báo của chúng tôi từ một thập kỷ trước và một số kền kền có thể tức giận khi biết rằng bài viết của họ được đánh giá là “không rõ ràng nếu đó là do AI tạo ra”.
Công cụ, được công bố vào thứ ba, đã ra mắt vài tháng sau khi khởi động phát động ChatGPT, một chatbot tự động tạo văn bản khi được hướng dẫn, chẳng hạn như trả lời câu hỏi, kể chuyện cười hoặc viết một bài thơ. Trên thực tế, OpenAI đã giúp thúc đẩy sự gia tăng của các bot phát trực tuyến và hiện cung cấp một công cụ nửa vời để phát hiện loại nội dung này.
Các trường học và đại học ở Hoa Kỳ, Pháp và Ấn Độ, ít nhất, đã kể từ đó cấm sinh viên truy cập ChatGPT bằng mạng của họ hoặc gửi bài tiểu luận do phần mềm tạo ra.
Bộ phân loại đôi khi cực kỳ tự tin trong một dự đoán sai
Các chuyên gia cũng lo ngại các mô hình tạo văn bản có thể được sử dụng để phát ra hàng tấn thông tin sai lệch, email lừa đảo, hàng loạt thông tin vô nghĩa tràn ngập trên internet. Một số tổ chức và do đó, các nhà khoa học máy tính đã bắt đầu nghiên cứu các công cụ phân loại của riêng họ để phát hiện nội dung do AI tạo ra.
Trình phân loại văn bản AI của OpenAI không hoàn hảo. “Mục đích sử dụng của chúng tôi đối với Trình phân loại văn bản AI là để thúc đẩy cuộc trò chuyện về sự khác biệt giữa nội dung do con người viết và nội dung do AI tạo ra,” phòng thí nghiệm do Microsoft tài trợ nói.
“Kết quả có thể hữu ích, nhưng không phải là bằng chứng duy nhất, khi quyết định xem một tài liệu có được tạo bằng AI hay không,” tổ chức này cho biết thêm. “Mô hình được đào tạo về văn bản do con người viết từ nhiều nguồn khác nhau, có thể không đại diện cho tất cả các loại văn bản do con người viết.”
Trình phân loại văn bản AI được thiết kế để phát hiện văn bản do máy tạo ra từ nhiều nguồn khác nhau, không chỉ ChatGPT được thổi phồng quá mức của nó. Nó được đào tạo về cả văn bản do AI viết từ 34 mô hình do năm tổ chức xây dựng và văn bản do con người viết được lấy từ internet và lấy từ bộ dữ liệu nội bộ của công ty.
Công cụ này yêu cầu các mẫu văn bản gồm 1,000 ký tự và không hoạt động tốt đối với các ngôn ngữ khác ngoài tiếng Anh. Trưởng bộ phận liên kết của OpenAI Jan Leike nói với Axios dự đoán của nó có thể tạo ra kết quả dương tính giả hoặc âm tính giả.
Trình phân loại thậm chí sẽ không hữu ích đối với những giáo viên đang muốn đánh giá xem học sinh có nộp bài tập do phần mềm như ChatGPT tạo ra hay không. Trình phân loại văn bản AI không đủ nhạy cảm để cho biết câu hoặc đoạn trích nào có thể là tác phẩm của AI, do đó, bất kỳ văn bản nào do máy tính tạo ra và do con người chỉnh sửa đều có thể tránh bị phát hiện.
“Chúng tôi lưu ý rằng mô hình chưa được đánh giá cẩn thận trên nhiều mục tiêu nguyên tắc dự kiến – bao gồm các bài luận của sinh viên, chiến dịch thông tin sai lệch tự động hoặc bảng điểm trò chuyện. Thật vậy, các bộ phân loại dựa trên mạng thần kinh được biết là được hiệu chỉnh kém bên ngoài dữ liệu đào tạo của chúng. Đối với các đầu vào rất khác với văn bản trong tập huấn luyện của chúng tôi, bộ phân loại đôi khi cực kỳ tin tưởng vào một dự đoán sai,” phòng thí nghiệm cảnh báo.
OpenAI cũng là báo cáo khám phá các phương pháp khác để phát hiện văn bản do AI tạo ra, bao gồm cả kỹ thuật đánh dấu chìm có thể được tích hợp vào các sản phẩm trong tương lai của nó.
Đăng ký đã yêu cầu OpenAI cung cấp thêm nhận xét, tốt nhất là không phải do AI tạo ra. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến thức. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2023/01/31/openai_tool_chatgpt_detection/
- 000
- 1
- a
- Giới thiệu
- truy cập
- thêm
- Sau
- AI
- Tất cả
- Giữa
- và
- cách tiếp cận
- bài viết
- Tự động
- tự động
- Axios
- dựa
- giữa
- chương trình
- xây dựng
- Chiến dịch
- cẩn thận
- nhân vật
- chatbot
- ChatGPT
- bình luận
- công ty
- máy tính
- tự tin
- nội dung
- Conversation
- có thể
- dữ liệu
- Ra mắt
- thập kỷ
- Quyết định
- thiết kế
- Phát hiện
- khác nhau
- làm mất thông tin
- tài liệu
- hiệu lực
- Tiếng Anh
- đủ
- Ether (ETH)
- đánh giá
- Ngay cả
- bằng chứng
- dự kiến
- Khám phá
- cực kỳ
- sợ hãi
- nỗi sợ hãi
- Foster
- Nước pháp
- Miễn phí
- từ
- Nhiên liệu
- xa hơn
- tương lai
- tạo ra
- tạo
- Đi
- cái đầu
- giúp đỡ
- đã giúp
- HTTPS
- Nhân loại
- in
- Bao gồm
- Ấn Độ
- nội bộ
- Internet
- IT
- Tháng
- Loại
- nổi tiếng
- phòng thí nghiệm
- Ngôn ngữ
- Ngôn ngữ
- LEARN
- Có khả năng
- tìm kiếm
- nhiều
- Thông tin sai
- kiểu mẫu
- mô hình
- tháng
- mạng
- Thần kinh
- mạng thần kinh
- Cung cấp
- Trực tuyến
- OpenAI
- cơ quan
- tổ chức
- Nền tảng khác
- bên ngoài
- riêng
- hoàn hảo
- Lừa đảo
- mảnh
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- -
- dự đoán
- dự đoán
- Dự đoán
- nguyên tắc
- sản xuất
- Sản xuất
- Sản phẩm
- câu hỏi
- Giá
- phát hành
- đại diện
- đòi hỏi
- Kết quả
- Tăng lên
- Quy mô
- các nhà khoa học
- nhạy cảm
- định
- một số
- nên
- kể từ khi
- So
- Phần mềm
- một số
- nguồn
- bắt đầu
- khởi động
- Sinh viên
- Sinh viên
- trình
- như vậy
- mục tiêu
- ครูผู้สอน
- Sản phẩm
- cung cấp their dịch
- vì thế
- đến
- Tone
- công cụ
- công cụ
- đào tạo
- Hội thảo
- Thứ Ba
- Các trường Đại học
- Tiết lộ
- us
- sử dụng
- nhiều
- khác nhau
- liệu
- cái nào
- CHÚNG TÔI LÀ
- sẽ
- Công việc
- viết
- Sai
- zephyrnet