Trí tuệ nhân tạo (AI) đã không còn xa lạ trong đời sống hàng ngày. Giờ đây, công nghệ này đang tiến sâu vào lĩnh vực an ninh quốc gia và chiến tranh, hỗ trợ quân đội xử lý dữ liệu chiến trường nhanh hơn con người và cho phép đưa ra các quyết định thần tốc.
Tuy nhiên, khi AI vượt khỏi phạm vi phân tích để trực tiếp định hình các diễn biến trên chiến trường, những lo ngại đang ngày càng gia tăng: Liệu con người có còn khả năng đưa ra những quyết định “đúng đắn” hay không?
Khi AI chuyển từ phân tích sang quyết định quân sự
Chỉ vài tuần sau khi chiến dịch của Mỹ tại Iran bắt đầu vào đầu năm nay, một quan chức cấp cao của Lầu Năm Góc đã công khai cách thế hệ AI mới đang được tích hợp vào các hoạt động quân sự.
Cameron Stanley, Giám đốc Kỹ thuật số và Trí tuệ nhân tạo của Bộ Quốc phòng Mỹ, mô tả các hệ thống như Maven Smart System là một phần trong nỗ lực mang lại cho chỉ huy “lợi thế ra quyết định” – khả năng đưa ra quyết định tốt hơn và nhanh hơn đối phương. Ông cho biết hệ thống này hiện đã được triển khai trên toàn bộ bộ ngành.
Dự án Maven ban đầu chỉ có mục tiêu hẹp: hỗ trợ phân tích dữ liệu giám sát từ máy bay không người lái. Nhưng theo thời gian, trọng tâm đã chuyển từ việc xác định vật thể sang tích hợp dữ liệu chiến trường vào quy trình ra quyết định rộng lớn hơn. Maven Smart System, một sản phẩm của Palantir, hợp nhất nhiều luồng dữ liệu vào một giao diện trực quan. Khi mục tiêu tiềm năng được phát hiện, hệ thống có thể chuyển vào quy trình tấn công và đề xuất các phương án hành động, bao gồm cả loại vũ khí sử dụng.
Stanley cho biết hệ thống đã rút ngắn quy trình vốn từng mất hàng giờ bằng cách liên kết các hệ thống và luồng công việc trước đây vốn tách biệt. Quân đội Mỹ cho biết họ đã tấn công hơn 1.000 mục tiêu tại Iran trong 24 giờ đầu tiên của chiến dịch cuối tháng 2 – một quy mô mà trước đây có thể tốn hàng tháng để thực hiện.
Sự tham gia của các công ty dữ liệu
Việc quân đội đẩy mạnh AI đang tạo ra cơ hội lớn cho các công ty ngoài ngành công nghiệp vũ khí truyền thống. Khi sự phụ thuộc vào AI tăng lên, giá trị của dữ liệu – từ hình ảnh vệ tinh, thông tin địa lý đến dữ liệu cảm biến – trở thành yếu tố đầu vào thiết yếu.
Tại một hội nghị chuyên đề quốc phòng ở Singapore vào tháng 5, Dan Smoot, CEO của Vantor, chia sẻ với NHK rằng vai trò của công ty ông đã mở rộng – từ cung cấp hình ảnh vệ tinh sang giúp xây dựng cơ sở hạ tầng thông tin đằng sau các hoạt động quân sự.
“Trước đây, chúng tôi chỉ là một công ty dữ liệu, cung cấp hình ảnh chất lượng cao. Giờ đây, chúng tôi thực sự cung cấp mọi thứ, từ các hoạt động trên không gian, dữ liệu đa cảm biến và hợp nhất dữ liệu, cho đến việc xây dựng các bản đồ thông tin nền tảng cho chiến sĩ.”
Ông Smoot cho biết dữ liệu này hỗ trợ các nhiệm vụ từ giám sát cơ sở vật chất đến xác định tàu thuyền, máy bay. Tuy nhiên, khi quân đội phụ thuộc nhiều hơn vào AI, chất lượng của dữ liệu đằng sau các hệ thống trở nên cực kỳ quan trọng.
Rủi ro từ dữ liệu nhập vào vào “không chính xác”
Ông Smoot nhấn mạnh: AI giúp phân tích nhanh hơn, nhưng không loại bỏ được nhu cầu về dữ liệu đáng tin cậy. Rủi ro sẽ tăng cao khi thông tin đó sai lệch.
“AI đang trở thành nền tảng quan trọng cho cách chúng ta nhìn nhận dữ liệu của mình. Trước hết và quan trọng nhất, bạn phải có dữ liệu tuyệt vời làm nền tảng của sự thật. AI sẽ thất bại khi bạn có dữ liệu không chính xác.”
Ông Smoot cảnh báo không nên coi hệ thống tự động là hoàn hảo.
“Tôi nghĩ điều trở nên rất nguy hiểm trong thế giới ngày nay là nếu chúng ta tin rằng những quyết định đó có thể được tự động hóa và trở nên hoàn hảo. AI vẫn đang phát triển, dữ liệu vẫn đang phát triển, độ chính xác vẫn đang phát triển, và sẽ còn như vậy trong một thời gian nữa.”
Vai trò của con người trong các quyết định “sinh tử”?
Khi các công ty tư nhân ngày càng tham gia sâu hơn vào hệ thống AI quân sự, các chính phủ vẫn nhấn mạnh rằng con người cần tham gia vào các quyết định gây chết người.
Tuy nhiên, Sato Heigo, giáo sư tại Đại học Takushoku, đặt câu hỏi về việc các phương án do AI tạo ra đã định hình các lựa chọn của con người như thế nào.
Ông Sato cho biết các khuyến nghị của AI có vẻ tối ưu, nhưng có thể bỏ qua các cân nhắc pháp lý, chính trị và đạo đức.
Để minh họa, ông trích dẫn nghiên cứu của King’s College London về ba mô hình AI trong khủng hoảng hạt nhân: 95% thời gian, các mô hình này tham gia vào việc đe dọa tấn công hạt nhân, coi đó là công cụ chiến lược thay vì một ngưỡng đạo đức.
Dù con người không tự động chấp nhận các khuyến nghị đó, áp lực từ xung đột có thể khiến các phương án máy tính tạo ra khó bị từ chối.
“Điều thực sự cần thiết lúc này chính là trí tuệ và sự minh mẫn của con người. Đó là khả năng cân nhắc và phán đoán xem việc thực thi các đề xuất từ AI có thực sự là lựa chọn tốt nhất, cũng như có phù hợp với chuẩn mực đạo đức hay không.”
Câu hỏi hóc búa mà AI không thể trả lời
AI có thể xử lý nhiều dữ liệu hơn và rút ngắn thời gian từ phát hiện đến hành động, nhưng chính tốc độ đó cũng làm thu hẹp không gian cho sự nghi ngờ.
Vấn đề không chỉ đơn giản nằm ở việc máy móc có bóp cò hay không. Đó là liệu con người, khi làm việc bên trong các hệ thống do AI định hình, có còn đủ thời gian, thông tin và sự độc lập để tự hỏi rằng liệu mục tiêu đó có thực sự nên bị tấn công hay không. Khi AI trở nên gắn liền với các quy trình ra quyết định, biện pháp bảo vệ quan trọng nhất có lẽ không nằm ở kỹ thuật, mà chính là khả năng của con người trong việc từ chối một câu trả lời đến quá nhanh.
*Biên dịch từ bài viết “AI moves deeper into warfare, testing human control” của NHK News.
Mỹ Mỹ (Biên dịch)
BÀI CHỌN LỌC:
Đế chế La Mã suy tàn – Lời cảnh tỉnh cho nhân thế hôm nay
XEM THÊM:
Khi robot biết ăn, lớn lên và tự “nhân bản”, nhân loại đối diện kịch bản nào?
Câu chuyện cầu cứu vượt đại dương – Bức thư bí ẩn trong gói quà Halloween
Tân Thế Kỷ *Truyền Thống – Nhân Văn – Trung Thực*
