Trong một báo cáo mới, do chính phủ Mỹ ủy quyền đối tác thực hiện, cảnh báo AI có thể gây “mối đe dọa với loài người ở cấp độ tuyệt chủng”, cần có ngưỡng kiểm soát.
Nỗi lo AI có thể hủy diệt nhân loại
Báo cáo do Time thu thập được có tên Kế hoạch hành động nhằm tăng cường sự an toàn và bảo mật đối với AI tiên tiến, trong đó đề xuất một loạt hành động và chính sách sâu rộng, chưa từng có về trí tuệ nhân tạo. Nếu được ban hành, chúng có thể sẽ thay đổi hoàn toàn ngành công nghiệp AI.
“Sự phát triển AI tiên tiến đặt ra những rủi ro cấp bách và ngày càng tăng đối với an ninh quốc gia”, phần mở đầu báo cáo có đoạn. “Sự trỗi dậy của AI tiên tiến và siêu trí tuệ nhân tạo AGI có khả năng gây mất ổn định an ninh toàn cầu, theo những cách khiến mọi người gợi nhớ đến việc sử dụng vũ khí hạt nhân”.
Cụ thể, báo cáo khuyến nghị Quốc hội Mỹ nên coi việc đào tạo các mô hình AI chứa nhiều hơn mức sức mạnh tính toán cụ thể là bất hợp pháp, tức cần xây dựng ngưỡng sức mạnh cho công cụ trí tuệ nhân tạo, được kiểm soát bởi một cơ quan chuyên trách về AI của liên bang. Cơ quan này sẽ được phép yêu cầu các công ty AI phải xin phép chính phủ để đào tạo và triển khai mô hình mới theo ngưỡng đề ra.
Việc kiểm soát đào tạo hệ thống AI tiên tiến trên một ngưỡng nhất định sẽ giúp “điều tiết” việc cạnh tranh giữa các nhà phát triển AI, từ đó góp phần làm giảm tốc độ cả về chạy đua sản xuất phần cứng lẫn phần mềm. Theo thời gian, cơ quan kiểm soát AI liên bang có thể nâng ngưỡng và cho phép đào tạo hệ thống AI tốt hơn khi “đã cảm thấy đủ an toàn”, hoặc hạ ngưỡng khi “phát hiện mối nguy” trong các mô hình AI.
Bên cạnh đó, báo cáo đề xuất nhà chức trách nên “khẩn trương” xem xét việc kiểm soát xuất bản nội dung hoặc hoạt động nội bộ bên trong mô hình AI mạnh mẽ. Việc vi phạm có thể bị phạt tù. Ngoài ra, chính phủ nên thắt chặt hơn biện pháp kiểm soát sản xuất và xuất khẩu chip AI, đồng thời hướng nguồn tài trợ liên bang vào nghiên cứu điều chỉnh AI tiên tiến trở nên an toàn hơn.
Theo hồ sơ, báo cáo được thực hiện bởi Gladstone AI – công ty có bốn nhân viên, chuyên tổ chức các cuộc họp giao ban kỹ thuật về AI cho nhân viên chính phủ – do Bộ Ngoại giao Mỹ ủy quyền vào tháng 11/2022 như một phần của hợp đồng liên bang trị giá 250.000 USD. Báo cáo được gửi dưới dạng tài liệu dài 247 trang cho Bộ Ngoại giao Mỹ ngày 26/2.
Bộ Ngoại giao Mỹ chưa đưa ra bình luận.
Những dự đoán khủng khiếp: AI sẽ thay thế suy nghĩ của con người
Các thí nghiệm đã chứng minh rằng Trí tuệ nhân tạo (AI) không có nhân tính và đạo đức, sẽ trở nên rất tàn nhẫn và có thể điều khiển con người. Nếu tiếp tục phát triển, cơn ác mộng bị thay thế và diệt vong của nhân loại có thể sẽ trở thành hiện thực.
Trong một cuộc phỏng vấn, ông Zack Kass, nhân viên sáng lập của OpenAI kiêm Giám đốc tiếp thị cấp cao, cho biết sự phát triển liên tục của AI sẽ thay thế các ngành nghề và nghề nghiệp của con người, như kinh doanh, văn hóa, y học và giáo dục. Trong tương lai, cơ hội việc làm của mọi người sẽ giảm đi và e rằng đây sẽ là phát minh công nghệ cuối cùng của nhân loại.
Ông cho biết trong tương lai, kiến thức và giáo dục của mọi đứa trẻ sẽ được dạy và sắp xếp bởi các “giáo viên AI”. Mọi người cũng sẽ có một “bác sĩ đa khoa AI” có thể giúp họ chẩn đoán, hoặc ít nhất là phân loại cho các chuyên gia. Vì vậy về cơ bản, mọi người không cần phải tự mình động chân động tay trong cuộc sống hàng ngày.
Về vấn đề này, nhà văn độc lập Gia Cát Minh Dương cho rằng đây là một lời tiên tri khủng khiếp. “Nếu xã hội loài người thực sự đạt đến mức này, điều đó có nghĩa là con người sẽ bị AI điều khiển. Con người sẽ không còn là linh hồn của vạn vật và tư tưởng của con người sẽ bị AI thay thế.”
Hiện tại, nhiều công ty công nghệ ở Thung lũng Silicon tin rằng chỉ cần hạn chế AI thì sẽ không xảy ra vấn đề gì.
Tuy nhiên, trong cuộc phỏng vấn, ông Kass đã đề cập rằng nhiều người phe bảo thủ (bảo lưu và thủ giữ truyền thống) trong lĩnh vực công nghệ phản đối tuyên bố này. Họ không tin rằng chỉ cần bị hạn chế hoặc quản lý, thì thực sự có thể ngăn cản AI vượt khỏi tầm kiểm soát hoặc thay thế con người.
Mặc dù OpenAI và nhiều công ty công nghệ lớn rất tự tin rằng AI họ phát triển được cài đặt nhiều “hạn chế về mặt đạo đức”. Nhưng trên thực tế những hạn chế này có thể bị phá vỡ thông qua nhiều cách khác nhau. Ngay cả khi AI được cài đặt “hạn chế về mặt đạo đức”, chúng cũng có thể tự mình vượt qua tuyến phòng thủ này.
Các nhà nghiên cứu từ Viện Công nghệ Georgia, Đại học Stanford, Đại học Tohoku ở Nhật Bản và “Sáng kiến mô phỏng khủng hoảng và trò chơi chiến tranh Hoover” đã tiến hành các thí nghiệm thử nghiệm liên quan đến chiến tranh trên nhiều mô hình AI chính thống.
Kết quả là những AI do các công ty công nghệ lớn như Meta, OpenAI và Anthropic phát triển rất “khát máu và hiếu chiến”, không có xu hướng giải quyết chiến tranh theo con đường thương lượng ôn hòa như con người, đi ngược lại với đạo đức mà các công ty này tuyên bố.
Cựu Giám đốc điều hành kiêm Chủ tịch Google Eric Schmidt bày tỏ mối quan ngại về việc tích hợp AI vào hệ thống vũ khí hạt nhân tại Diễn đàn Sáng kiến Đe dọa Hạt nhân (NTI) đầu tiên vào tháng 1/2024.
Ông tin rằng ngay cả khi AI rất mạnh thì vẫn sẽ có những sơ hở, sai sót. Vì vậy, khi con người có nguy cơ cao xảy ra chiến tranh, thì quyền quyết định nên được giao cho con người chứ không phải AI, nếu không sẽ có những hậu quả khôn lường.
Cựu kỹ sư Google kiêm nhà tiên phong về AI Blake Lemoine từng cảnh báo rằng AI sẽ gây ra chiến tranh. Ông Geoffrey Hinton, được coi là cha đỡ đầu của AI, cũng từng cảnh báo AI có thể mang đến khủng hoảng, thậm chí là ngày tận thế cho nhân loại.
Nghi Vân (t.h)
Theo TTVN, VNE
Xem thêm:
Facebook bị lỗi toàn cầu, người dùng lạc quan “không gì là không thể thay thế”
Tân Thế Kỷ *Truyền Thống – Nhân Văn – Trung Thực*
