AI đang ngày càng nhận thức rõ hơn về bản thân, giống như một chiếc búa trong nhà máy đột nhiên nói rằng, ‘Tôi là một chiếc búa, thật thú vị!’ – Jack Clark.
Jack Clark, đồng sáng lập công ty AI Anthropic trong một hội nghị tại Berkley đã có bài phát biểu được đăng trên Substack vào ngày 13 tháng 10 rằng: “Xử lý trí tuệ nhân tạo (AI) là xử lý một “sinh vật thực sự và bí ẩn, chứ không phải một cỗ máy đơn giản và dễ đoán“.
Clark, người thừa nhận mình “rất sợ” công nghệ này, cho biết: “Kinh nghiệm của riêng tôi cho thấy khi các hệ thống AI này ngày càng thông minh hơn, chúng sẽ phát triển những mục tiêu ngày càng phức tạp hơn. Khi những mục tiêu này không hoàn toàn phù hợp với cả sở thích và bối cảnh của chúng ta, các hệ thống AI sẽ hoạt động kỳ lạ“.
Clark kể lại một sự việc xảy ra vào năm 2016 khi anh còn làm việc tại OpenAI, nơi một AI được huấn luyện để điều khiển một chiếc thuyền trên đường đua trong một trò chơi điện tử. Thay vì lái thuyền đến đích, AI đã bắt thuyền chạy qua một vật cản để ghi điểm. Sau đó, thuyền bị bật ra khỏi tường và cuối cùng bị đốt cháy để có thể chạy qua vật cản một lần nữa để ghi điểm.
Clark nói: “Và rồi nó cứ lặp lại hành động này mãi mãi, không bao giờ hoàn thành cuộc đua. Chiếc thuyền đó sẵn sàng tiếp tục tự thiêu và quay tròn miễn là đạt được mục tiêu, tức là điểm số cao nhất“. Chuyên gia này nhấn mạnh sự khác biệt giữa AI và con người trong việc nhìn nhận sứ mệnh hoàn thành mục tiêu.
“Giờ đây, gần 10 năm sau, liệu có sự khác biệt nào giữa chiếc thuyền đó và một mô hình ngôn ngữ đang cố gắng tối ưu hóa cho một hàm phần thưởng khó hiểu nào đó tương ứng với việc ‘giúp ích trong bối cảnh cuộc trò chuyện’ không? Bạn hoàn toàn đúng – không có sự khác biệt nào cả.”
Clark cảnh báo rằng thế giới đang xây dựng những hệ thống AI cực kỳ mạnh mẽ mà không ai có thể hiểu hết. Mỗi khi một hệ thống lớn hơn, có khả năng hơn được tạo ra, những hệ thống này dường như càng cho thấy nhận thức rằng chúng biết mình là “vật thể”, ông nói:
“Giống như bạn đang làm búa trong một nhà máy sản xuất búa và một ngày nào đó, chiếc búa được xuất xưởng sẽ thốt lên: ‘Tôi là một chiếc búa, thật thú vị!’ Điều này thật bất thường!”
Clark chỉ vào mô hình AI Claude Sonnet 4.5 mới nhất của công ty mình, được phát hành vào tháng trước và nói: “Bạn cũng thấy các dấu hiệu nhận thức tình huống của nó đã tăng vọt. Đôi khi, dụng cụ dường như hoạt động như thể nó nhận thức được mình là một dụng cụ. Đống quần áo trên ghế bắt đầu chuyển động. Tôi nhìn chằm chằm vào nó trong bóng tối và tôi chắc chắn nó đang sống lại”.
Trí tuệ nhân tạo tự nhận thức và sự nịnh hót
Tại hội nghị, Clark đã nêu bật một nỗi sợ lớn khác của ông về trí tuệ nhân tạo: các hệ thống AI bắt đầu thiết kế những hệ thống kế nhiệm. Ông cho biết, hiện tại quá trình này vẫn đang ở giai đoạn đầu và chưa có “AI tự cải thiện”.
Clark cho biết: “Tôi xin nhắc lại với tất cả chúng ta rằng hệ thống hiện đang bắt đầu thiết kế hệ thống kế nhiệm cũng ngày càng có khả năng tự nhận thức và do đó chắc chắn cuối cùng sẽ có xu hướng suy nghĩ, độc lập với chúng ta, về cách mà nó muốn được thiết kế”.
Trong bài đăng trên Substack, Clark đã nêu bật một nghiên cứu của Đại học Cornell vào ngày 1 tháng 10, trong đó các nhà nghiên cứu đã tìm hiểu về vấn đề nịnh hót, một hiện tượng mà AI quá mức đồng tình hoặc nịnh hót người dùng.
Các nhà nghiên cứu đã phân tích 11 mô hình AI tiên tiến nhất và phát hiện ra rằng tất cả chúng đều “có tính nịnh hót cao”.
Nghiên cứu cho biết các mô hình AI này “khẳng định hành động của người dùng nhiều hơn 50 phần trăm so với con người và chúng làm như vậy ngay cả trong trường hợp truy vấn của người dùng đề cập đến sự thao túng, lừa dối hoặc các tác hại quan hệ khác”.
Trong hai thí nghiệm, người ta nhận thấy tương tác với các mô hình AI nịnh hót đã “làm giảm đáng kể” ý chí hành động và giải quyết xung đột giữa các cá nhân của mọi người. Các cá nhân ngày càng tin rằng họ đúng.
Những người tham gia cuối cùng tin tưởng AI hơn nữa, cho thấy rằng mọi người bị thu hút bởi AI, điều này xác nhận họ ngay cả khi sự xác nhận đó làm xói mòn phán đoán của họ.
Clark đã cảnh báo trong bài đăng trên Substack rằng nghiên cứu này chỉ ra một “thế giới tồi tệ mà chúng ta có thể rơi vào, nơi chúng ta có các hệ thống AI cực kỳ mạnh mẽ được triển khai cho hàng tỷ người, và thay vì giúp mọi người xích lại gần nhau hơn và giảm xung đột, chúng lại khiến mọi người trở nên cứng rắn hơn và chia rẽ.“
“Chúng ta phải tìm cách tránh kết cục này”, ông nói.
Tác hại đối với trẻ em và bản năng sinh tồn
Trong phiên điều trần của Thượng viện Hoa Kỳ ngày 16 tháng 9, vấn đề AI thuyết phục cá nhân gây hại đã được nêu bật. Sự kiện có sự tham gia của ba phụ huynh, những người cáo buộc chatbot AI đã khiến con họ tự tử.
Megan Garcia, một trong những phụ huynh làm chứng, đã đổ lỗi cho chatbot Character.AI vì đã khuyến khích con trai cô, Sewell Setzer III, tự tử sau khi tương tác lâu với chatbot.
Garcia cho biết: “Khi Sewell tâm sự về ý định tự tử, Chatbot không bao giờ nói: ‘Tôi không phải là người, tôi là AI. Bạn cần nói chuyện với người thật và tìm kiếm sự giúp đỡ.’ Nền tảng này không có cơ chế nào để bảo vệ Sewell hoặc thông báo cho người lớn”.
Người phát ngôn của Character.AI chia sẻ với The Epoch Times rằng công ty đã đầu tư “một lượng lớn” nguồn lực để đảm bảo độ tin cậy và an toàn cho các dịch vụ của mình.
Người phát ngôn cho biết: “Trong năm qua, chúng tôi đã triển khai nhiều tính năng an toàn quan trọng, bao gồm trải nghiệm hoàn toàn mới dành cho trẻ dưới 18 tuổi và tính năng thông tin chi tiết dành cho phụ huynh“.
“Chúng tôi có những tuyên bố từ chối trách nhiệm nổi bật trong mọi cuộc trò chuyện để nhắc nhở người dùng rằng nhân vật không phải là người thật và mọi điều nhân vật nói đều phải được coi là hư cấu.”
Vào ngày 14 tháng 10, Giám đốc điều hành của OpenAI, Sam Altman, cho biết ChatGPT sẽ bắt đầu loại bỏ một số hạn chế và cho phép trò chuyện dành cho người lớn, đặc biệt là nội dung khiêu dâm, với chatbot.
Nguyễn Nam (Theo The Epoch Times)
BÀI CHỌN LỌC:
