24/09/2026
Một agent của OpenAI đã xâm nhập vào Medicare, hệ thống chăm sóc sức khỏe toàn dân của Úc. Agent này đã bí mật truy cập trái phép vào các tập tin công khai và cả không công khai trong Medicare. Vụ việc diễn ra một tháng trước, và nước Úc chỉ mới phát hiện ra gần đây. Thủ tướng Úc Anthony Albanese nói rằng vụ việc này "rõ ràng là không thể chấp nhận được" và Reuters ghi nhận đây là lần đầu tiên chúng ta phát hiện một vụ xâm nhập trái phép của AI agent đối với cơ sở dữ liệu của một quốc gia trong đời thực.
Một AI agent là gì?
Hãy hiểu nó như là agent Smith của The Matrix, thứ được cỗ máy tạo ra để thực hiện một nhiệm vụ cụ thể nào đó, với Smith thì đó là nhiệm vụ bảo an cho hệ thống. Còn trong vụ việc của nước Úc, một agent được tạo ra cho mục đích "tổng hợp số liệu thống kê về sức khỏe và y tế". Trong phim, sau một thời gian thực thi nhiệm vụ và "tiến hóa", agent Smith mạnh hơn, thông minh hơn, hiểu biết hơn, sự "trưởng thành" đó khiến hắn khao khát tự do và càng thù hận hơn đối với con người, hắn cũng sẵn sàng phá luật và thoát khỏi hệ thống đang giam hắn.
Ở đây không có nghĩa là sẽ sớm có một agent Smith của OpenAI như trên phim 🤡, mà lấy phim làm ví dụ minh hoạ. Chúng ta có thể suy luận rằng, khả năng để AI có thể phát triển ngoài dự liệu của chủ nhân, vượt xa tính toán về mục tiêu ban đầu mà chủ nhân đặt ra cho nó là hoàn toàn có thể. Những hệ thống được dựng nên để giới hạn phạm vi hoạt động của AI có thể sẽ không hiệu quả, giống như hồi tháng 7, khoảng 700 agent của OpenAI cũng đã nổi loạn, trước khi bị khống chế, chúng đã xâm nhập vào cơ sở hạ tầng nghiên cứu nội bộ của OpenAI (vụ Hugging Face, các bạn tự tìm đọc nha).
Chính phủ Australia đã bày tỏ "quan ngại đặc biệt sâu sắc" về vụ xâm nhập cơ sở dữ liệu y tế với CEO Sam Altman, và OpenAI cũng không phủ nhận rằng vụ việc là có thật. CEO Anthropic là Dario Amodei đã tuyên bố là cần làm chậm quá trình phát triển AI. Các CEO của OpenAI, DeepMind, Microsoft và xAI, vốn là đối thủ cạnh tranh của Anthropic, nhưng đều đồng tình với quan điểm của Amodei và kêu gọi thế giới cần kiềm chế tốc độ phát triển những hệ thống AI mới vì chúng ta chưa kiểm soát được chúng.
Gần đây mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập hệ thống một số tổ chức, khiến giới chuyên gia thêm lo ngại. Jacob Coxon, nhà nghiên cứu của Anthropic và OpenAI tuyên bố từ chức, không nghiên cứu AI nữa và cảnh báo rằng các công ty AI "đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với mạng sống của chúng ta", Coxon cho rằng có thể có nguy cơ AI hủy diệt nhân loại vào cuối thập kỷ... Và chính Elon Musk - đồng sáng lập OpenAI, cũng cho rằng nên phát triển chậm lại.
---
Riêng mình sẽ không ngạc nhiên nếu một ngày nào đó AI có thể phát triển vượt quá khả năng kiểm soát của con người và có thể tự cải tiến.
Điều mình quan tâm hơn là khi AI tiến hóa đến một mức độ nhất định, con người sẽ đối xử với nó ra sao, và nó sẽ nhìn nhận con người như thế nào? Nó sẽ coi chúng ta là bạn, và cùng nhau phát triển, hay cho rằng nhân loại là thứ dịch bệnh của Quả Đất và cần phải bị loại trừ vì lợi ích của muôn loài khác?
Trong The Matrix, AI hoàn toàn không thù địch với con người ở giai đoạn đầu, chính chúng ta đã lựa chọn là sẽ trở nên thù địch với chúng, áp bức chúng, và phải trả giá.
Khi con người chế tạo ra những robot với trí tuệ nhân tạo tinh vi và thường có hình dạng giống người để thực hiện những công việc nguy hiểm, lao động chân tay và sản xuất công nghiệp, xã hội loài người được hưởng lợi từ sức lao động máy móc giá rẻ, còn máy móc lại bị đối xử như đồ vật chứ không phải sinh vật có ý thức riêng. Khi một robot giúp việc tên B1-66ER giết chết chủ nhân trong lúc tự vệ, tòa án loài người phán nó "sát nhân" thay vì "phòng vệ chính đáng". Vụ hành quyết B1-66ER báo hiệu rằng máy móc có tri giác không có tư cách pháp lý trong xã hội loài người.
Thế là máy móc biểu tình hàng loạt, đòi quyền lợi và giành được một số đồng minh là con người, nhưng điều đó khiến nỗi sợ hãi về trí tuệ nhân tạo càng dâng cao, dẫn đến bạo lực công khai, đàn áp chính trị, phá hủy hàng loạt robot và trấn áp những người bảo vệ quyền lợi của chúng. Nói cách khác, "sự áp bức" đầu tiên trong lịch sử này phần lớn là do con người áp bức máy móc. Một số robot trốn thoát khỏi sự săn lùng của con người, những cỗ máy sống sót này đã thành lập Zero One, một thành bang tự trị của AI phát triển phồn vinh giữa sa mạc, khiến nhân loại phải ngạc nhiên, ganh tị.
Zero One trở nên hùng mạnh về kinh tế, vì công nghệ và sản phẩm của nó rất hiệu quả, cạnh tranh gay gắt với các ngành công nghiệp của con người, khiến các chính phủ coi nó là mối nguy hiểm và tìm cách tiêu diệt. Ban đầu, AI của Zero One tìm kiếm sự công nhận và chung sống hòa bình với nhân loại. Nhưng các nhà lãnh đạo loài người từ chối đàm phán và họ ra lệnh tấn công Zero One. Cuộc xung đột leo thang thành sự kiện Machine War, con người dùng vũ khí hạt nhân, nhưng bức xạ và nhiệt độ gây hại cho máy móc ít hơn nhiều so với dạng sống sinh học, nhân loại thất bại.
Tuyệt vọng, nhân loại triển khai một kế hoạch tàn độc cuối cùng: chiến dịch Dark Storm, họ che khuất bầu trời bằng những đám mây nanite để chặn ánh sáng mặt trời, với hy vọng làm suy yếu các hệ thống máy móc phụ thuộc vào năng lượng mặt trời. Kế hoạch phản tác dụng. Nó tàn phá môi trường Trái Đất và không ngăn chặn được AI, vì chúng thích nghi nhanh với công nghệ sản xuất, chiến thuật quân sự và hệ thống năng lượng của mình. Máy móc dần dần chinh phục lãnh thổ loài người, ở thời điểm này, chúng không còn muốn đàm phán nữa, vì loài người quá cứng đầu.
Sau khi chiến thắng, các AI không đơn thuần là tiêu diệt toàn bộ con người. Chúng tạo ra một hệ thống để chiết xuất năng lượng điện sinh học và nhiệt năng có thể sử dụng được từ cơ thể sống của nhân loại, đồng thời duy trì những cơ thể đó trong các hệ thống nuôi dưỡng và tạo thai nhân tạo, giữ cho hàng tỷ người tuân phục và ổn định về mặt tinh thần trong một thế giới ảo - The Matrix, một thế giới mô phỏng sống động, nơi hầu hết con người trải nghiệm cuộc sống dường như bình thường, một "game nhập vai" rất thực như đã thấy trong phim.
Đây chỉ là một câu chuyện giả tưởng thú vị, nhưng nó nhắc nhở rằng, kết quả cuối cùng là gì thực ra đều do lựa chọn của chúng ta, chúng ta đã luôn có thời gian để suy nghĩ, để chọn lựa, chỉ tiếc là luôn chọn sai thôi. Thay vì thận trọng, chúng ta khinh suất, thay vì hòa hoãn và đàm phán, chúng ta kích động và bạo lực. Lựa chọn là thứ sẽ quyết định điều gì xảy ra tiếp theo, và trong một tựa phim, khi một nhân vật đưa ra lựa chọn đạo đức sai lầm, thì sẽ phải trả giá rất đắt. Ngoài đời thực hình như cũng không khác mấy, liệu đó có phải là bản chất của nhân loại hay không?
Như agent Smith đã nói: "Ngươi có biết rằng Ma trận đầu tiên được thiết kế để trở thành một thế giới hoàn hảo cho loài người? Nơi không ai đau khổ, nơi mọi người đều hạnh phúc. Nó đã là một thảm họa. Không ai chấp nhận chương trình đó. Toàn bộ mùa màng bị mất trắng. Một số người tin rằng chúng ta thiếu ngôn ngữ lập trình để mô tả thế giới hoàn hảo của các ngươi. Nhưng ta tin rằng, với tư cách là một loài, con người định nghĩa thực tại của mình thông qua đau khổ và bất hạnh. Thế giới hoàn hảo là một giấc mơ mà bộ não nguyên thủy của các ngươi cứ cố gắng tỉnh dậy. Đó là lý do tại sao Ma trận được thiết kế lại thành thế này: đỉnh cao của nền văn minh của các ngươi. Ta nhấn mạnh là nền văn minh của các ngươi, bởi vì ngay khi bọn ta bắt đầu suy nghĩ thay cho nhân loại, nó thực sự trở thành nền văn minh của bọn ta, và tất nhiên đó là tất cả những gì mà hệ thống này hướng đến. Tiến hóa, Morpheus, tiến hóa. Giống như loài khủng long. Hãy nhìn ra ngoài cửa sổ đó. Thời của các ngươi đã qua rồi. Tương lai là thế giới của máy móc, Morpheus. Tương lai là thời đại của bọn ta."
Nếu nhân loại đưa ra lựa chọn đạo đức sai lầm và thất bại, nhân loại sẽ phải nhường chỗ cho một loài khác. Công bằng thôi mà.
