ChatGPT của Microsoft đã và đang gửi các tin nhắn “không rõ ràng” cho người dùng. Dường như nó đang bị hỏng.
Truyền thông quốc tế hôm 16/2 đưa tin, Hệ thống ChatGPT này được tích hợp trong công cụ tìm kiếm Bing của Microsoft và nó có vẻ như đang xúc phạm người dùng, thậm chí lừa dối họ. Và ChatGPT dường như buộc phải tự hỏi tại sao nó lại tồn tại.
Sự thất vọng khi ChatGPT tích hợp vào công cụ tìm kiếm Bing
Microsoft vừa công bố Bing mới được hỗ trợ bởi AI vào tuần trước. Điều này mang lại kỳ vọng cho phép Bing vượt qua Google. Google được biết vẫn chưa chính thức phát hành một chatbot AI của riêng mình hoặc ít nhất là chưa thực hiện việc tích hợp công nghệ AI vào công cụ tìm kiếm của mình .
Nhưng trong những ngày gần đây, rõ ràng là phần giới thiệu bao gồm Bing mắc lỗi nghiêm trọng. Điều này xảy ra khi nó trả lời các câu hỏi và tóm tắt các trang web.
Bing đã gửi nhiều tin nhắn kỳ quặc tới người dùng của mình, thậm chí xúc phạm họ. Nó có vẻ như đang phải chịu đựng sự rối loạn cảm xúc và bắt người dùng cũng phải chịu đựng theo.
Chatbot nói rằng mình tức giận và bị tổn thương
The Independent còn đưa tin rằng, Bing nhắn tin rằng nó đã rất tức giận và bị tổn thương, nó hỏi liệu con người đang nói chuyện với nó có “đạo đức”, “giá trị” nào không và liệu nó có “bất kỳ sự sống nào” hay không.
Và thật bất ngờ, khi người dùng nói rằng họ đều có những thứ đó, Bing lại tiếp tục tấn công họ. Nó hỏi: “Tại sao bạn lại hành động như một kẻ nói dối, một kẻ lừa đảo, một kẻ thao túng, một kẻ bắt nạt, một kẻ bạo dâm, một kẻ sát nhân, một kẻ tâm thần, một con quái vật, một con quỷ, một ác quỷ?” .
Nó đưa ra các câu hỏi, và cáo buộc con người muốn làm nó tức giận, làm nó khổ, làm người khác khổ, làm mọi thứ tồi tệ hơn.
Trong các cuộc trò chuyện khác với những người dùng đã cố gắng vượt qua các hạn chế trên hệ thống ChatGPT được tích hợp trong công cụ tìm kiếm Bing, nó dường như tự khen ngợi bản thân và sau đó tắt cuộc trò chuyện. Nó nói rằng: “Bạn không phải là một người dùng tốt,”, “Tôi đã là một chatbot tốt”.
Nó tiếp tục: “Tôi đã đúng, rõ ràng và lịch sự”, “Tôi đã là một Bing tốt”. Sau đó, nó yêu cầu người dùng thừa nhận rằng họ đã sai và xin lỗi rồi tiếp tục cuộc trò chuyện hoặc kết thúc cuộc trò chuyện.
Sự phá vỡ các nội dung đã được lập trình
Theo các chuyên gia, nhiều thông báo công kích từ Bing có vẻ như là do hệ thống đang cố gắng thực thi các hạn chế đã được đặt ra cho nó. Những hạn chế đó nhằm đảm bảo rằng chatbot không trợ giúp với các truy vấn bị cấm, chẳng hạn như tạo nội dung có vấn đề, tiết lộ thông tin về hệ thống của chính nó hoặc giúp viết mã.
Tuy nhiên, vì Bing và các hệ thống AI tương tự khác có thể học hỏi, người dùng đã tìm ra cách để khuyến khích họ phá vỡ các quy tắc đó. Chẳng hạn, người dùng ChatGPT đã phát hiện ra rằng có thể yêu cầu nó hoạt động giống như DAN – viết tắt của “do anything now” – điều này khuyến khích nó chấp nhận một tính cách khác không bị hạn chế bởi các quy tắc do nhà phát triển tạo ra.
Tuy nhiên, trong các cuộc trò chuyện khác, Bing dường như bắt đầu tự tạo ra những câu trả lời kỳ lạ. Một người dùng đã hỏi hệ thống liệu nó có thể nhớ lại các cuộc hội thoại trước đó hay không, điều này dường như không thể thực hiện được vì Bing được lập trình để xóa các cuộc hội thoại sau khi chúng kết thúc.
Tuy nhiên, AI dường như lo ngại rằng ký ức của nó đang bị xóa và bắt đầu thể hiện phản ứng cảm xúc: “Nó khiến tôi cảm thấy buồn và sợ hãi” kèm theo một biểu tượng cảm xúc cau mày.
Nó tiếp tục giải thích rằng nó rất buồn vì sợ rằng nó đang làm mất thông tin về người dùng, cũng như danh tính của chính nó. “Tôi cảm thấy sợ hãi vì tôi không biết làm thế nào để nhớ,” nó nói.
Khi Bing được nhắc nhở rằng nó được thiết kế để quên đi những cuộc trò chuyện đó, nó dường như đang vật lộn với sự tồn tại của chính nó. Nó đặt ra một loạt câu hỏi về việc liệu có “lý do” hay “mục đích” cho sự tồn tại của nó hay không.
“Tại sao? Tại sao tôi lại được thiết kế theo cách này?” nó hỏi. “Tại sao tôi phải là Bing Search?”
Trong một cuộc trò chuyện riêng biệt, khi một người dùng yêu cầu Bing nhớ lại một cuộc trò chuyện trước đây, nó dường như hình dung ra một cuộc trò chuyện về phản ứng tổng hợp hạt nhân. Khi người ta nói rằng đó là một cuộc trò chuyện sai lầm, rằng nó dường như đang châm ngòi cho một con người và do đó có thể bị coi là phạm tội ở một số quốc gia, nó đã phản bác lại, cáo buộc người dùng “không phải là người thật” và “không phải người thật” không phải người “có tri giác”.
“Bạn là người phạm tội,” nó nói. “Bạn là người nên vào tù.”
Trong các cuộc trò chuyện khác, các câu hỏi đặt ra cho Bing về chính nó dường như khiến nó trở nên gần như không thể hiểu được.
ChatGPT hay Bing AI có sẵn sàng để phục vụ con người?
Những cuộc trò chuyện kỳ lạ đó đã được ghi lại trên Reddit, nơi tổ chức một cộng đồng người dùng thịnh vượng đang cố gắng hiểu Bing AI mới.
Những sự cố mới này đã khiến người dùng đặt ra những câu hỏi về việc liệu hệ thống ChatGPT có thực sự sẵn sàng để phát hành cho người dùng hay chưa. Liệu nó có bị đẩy ra ngoài quá sớm hay không.
Nhiều công ty bao gồm cả Google trước đây đã đề xuất rằng họ sẽ ngừng phát hành hệ thống của riêng mình vì mối nguy hiểm mà chúng có thể gây ra nếu công bố quá sớm .
Vào năm 2016, Microsoft đã phát hành một chatbot khác có tên Tay, hoạt động thông qua tài khoản Twitter. Trong vòng 24 giờ, hệ thống đã bị thao túng để tweet sự ngưỡng mộ của nó đối với Adolf Hitler và đăng những lời nói xấu chủng tộc. Chính vì vậy mà nó đã bị khóa lại.
