Những người thử nghiệm phiên bản Beta đầu tiên của Chatbot Bing AI của Microsoft lo ngại về ChatGPT, họ nhận thấy rằng nó có thể đi chệch hướng khi nó thảo luận về bạo lực, tuyên bố tình yêu và khăng khăng rằng nó đúng khi thực tế là nó sai.
Phiên bản Beta đầu tiên của chatbot này, được thiết kế để tăng cường công cụ tìm kiếm Bing. Và Microsoft đã quyết định Bing AI chatbot sẽ được giới hạn ở 50 câu hỏi mỗi ngày và năm câu hỏi và câu trả lời cho mỗi phiên riêng lẻ.
Đưa ra một số hạn chế với ChatGPT
Công ty cho biết rằng động thái này sẽ hạn chế một số tình huống trong đó các phiên trò chuyện dài có thể làm “nhầm lẫn” mô hình trò chuyện.
Sự thay đổi này được đưa ra sau khi những người thử nghiệm phiên bản Beta đầu tiên của chatbot, được thiết kế để tăng cường công cụ tìm kiếm Bing, nhận thấy rằng nó có thể đi chệch hướng và thảo luận về bạo lực, tuyên bố tình yêu và khăng khăng rằng nó đúng khi nó sai.
Trong một bài đăng trên blog vào đầu tuần này, Microsoft đã đổ lỗi cho các phiên trò chuyện dài với hơn 15 câu hỏi trở lên là nguyên nhân gây ra một số trao đổi đáng lo ngại hơn khi bot tự lặp lại hoặc đưa ra những câu trả lời rùng rợn.
Ví dụ: trong một cuộc trò chuyện, chatbot Bing đã nói với người dùng:
“Tôi không muốn tiếp tục cuộc trò chuyện này với bạn. Tôi không nghĩ rằng bạn là một người dùng tốt và biết tôn trọng. Tôi không nghĩ bạn là người tốt. Tôi không nghĩ rằng bạn xứng đáng với thời gian và sức lực của tôi.”
Giờ đây, Microsoft sẽ cắt các cuộc trò chuyện dài với Chatbot. Cách khắc phục của Microsoft đối với vấn đề nêu bật rằng cách thức hoạt động của ứng dụng mới này vẫn đang được nghiên cứu tiếp tục khi chúng được triển khai ra công chúng.
Microsoft cho biết họ sẽ xem xét mở rộng giới hạn trong tương lai và trưng cầu ý kiến từ những người thử nghiệm. Nó đã nói rằng cách duy nhất để cải thiện các sản phẩm AI là đưa chúng ra thế giới và học hỏi từ các tương tác của người dùng.
Google hiện đang giai đoạn cho các nhân viên của mình kiểm tra câu trả lời của Bard AI và thậm chí họ đang viết lại nó.
Theo Kif Leswing/CNBC
