Quyển 1 · Chương 99: Cường quốc quân sự số một thế giới bị khống chế

Hoa Tưởng Dung cúi đầu suy tư một lát rồi nói: "Mặc dù cuộc chiến lần này bùng nổ quá đột ngột, không cho chúng ta nhiều thời gian phản ứng, nhưng hệ thống lượng tử Đại Thánh của chúng ta vẫn bắt được những dấu vết nhỏ nhoi. Cuộc chiến này có hai trọng điểm: tại sao và làm thế nào."

"Trước hết là làm thế nào. Dù chiến tranh nổ ra bất ngờ, chúng ta vẫn thu thập được nhiều thông tin tình báo hữu ích. Mọi mệnh lệnh chiến tranh đều bắt nguồn từ boong-ke ngầm dưới thủ phủ của nước Bạch Ưng, mệnh lệnh phóng cuối cùng cũng được truyền đi từ đó. Từ lúc bom neutron nổ đến khi Tổng thống tiến vào boong-ke, mọi thứ đều tuân thủ quy định xử lý an ninh quốc gia của nước Bạch Ưng. Như vậy, Tổng thống chính là mấu chốt của cuộc chiến này."

"Thứ hai, tại sao ông ta lại làm vậy? Cũng chia làm hai hướng: chủ động và bị động. Phân tích từ các nguồn tin tình báo quốc gia, khả năng chủ động là bằng 0, bởi vì Tổng thống nước Bạch Ưng thực chất chỉ là đại diện cho một nhóm lợi ích, trong một cuộc chiến tận thế như thế này, ông ta chẳng thu được bất kỳ lợi ích nào, nước Bạch Ưng trên thực tế đã diệt vong về mặt chính quyền. Vậy nên bị động lại chia làm hai trường hợp: bị khống chế hoặc bị dẫn dắt sai lệch."

"Nếu bị khống chế, thì dù tính mạng của họ hay người thân có bị đe dọa thế nào đi chăng nữa, cũng không thể đưa ra quyết định phóng vũ khí hạt nhân, vì làm vậy chẳng cứu được ai cả. Trong ngày tận thế hạt nhân, không ai có thể sống sót. Tuy nhiên, nhìn từ kết quả, nó rất giống với những vụ bắt cóc tống tiền mà chúng ta thường thấy, cuối cùng vẫn là xé vé."

"Còn một lựa chọn nữa, đó là bị dẫn dắt sai lệch, hay nói cách khác là có khả năng bị lừa dối. Vậy trong trường hợp nào mới có thể tạo ra sai lệch lớn đến thế? Tôi cho rằng chỉ có một, đó là kênh tiếp nhận thông tin đã gặp vấn đề."

"Tổng hợp các phản ứng trước và sau khi nước Bạch Ưng bị tấn công, cùng với các biện pháp đã thực hiện, kết quả này giống như hệ quả của cả hai yếu tố: bị khống chế và bị dẫn dắt sai lệch."

Vương Tiểu Cường nhíu mày, lập tức hỏi: "Ý cô là cường quốc quân sự số một thế giới lại bị khống chế, hơn nữa còn là nạn nhân bị khống chế sao?" Hoa Tưởng Dung gật đầu, khẳng định chắc nịch: "Kết quả phân tích tình báo là như vậy."

Vương Tiểu Cường phản bác: "Điều này không thể nào, tổ chức quân sự nào có đủ thực lực để khống chế nước Bạch Ưng đưa ra quyết định như vậy chứ."

Hoa Tưởng Dung bình thản đáp: "Con người quả thực không thể, nhưng trí tuệ nhân tạo thì có thể."

Vương Tiểu Cường gãi đầu: "Cô có thể nói rõ hơn được không, tôi bị cô làm cho rối trí rồi."

Hoa Tưởng Dung gật đầu, nói: "Tôi xin nói kết luận cuối cùng mà tình báo của tôi thu được: kẻ khởi xướng cuộc chiến lần này không phải là con người, mà là một trí tuệ nhân tạo có khả năng đã hình thành nhân cách."

"Á," ba người phụ nữ bên cạnh lập tức thốt lên kinh ngạc.

Hoa Tưởng Dung dừng lại một lát rồi nói tiếp: "Tình báo đã tổng hợp các sự kiện có thể dẫn đến chiến tranh tại nước Bạch Ưng cùng thời điểm, và có một phiên điều trần tại Quốc hội đã thu hút sự chú ý của họ."

"Khoảng 2 giờ chiều giờ địa phương, Tổng thống nước Bạch Ưng có một cuộc họp nội các để thảo luận về vấn đề bầu cử Tổng thống nhiệm kỳ tới. Đồng thời, có một phiên điều trần tại Quốc hội về AI, các chủ đề chính bao gồm: một, luật thuế AI; hai, định hướng phát triển AI; ba, luật pháp và nhân quyền cho AI; bốn, liệu có nên thiết lập cơ chế dừng khẩn cấp cho AI hay không. Trong đó, mục thứ nhất và thứ tư vừa đưa ra bỏ phiếu đã được đa số đồng ý thông qua."

"Về cơ chế dừng khẩn cấp cho AI được nhắc đến trong phiên điều trần đó, tôi cũng từng nghe qua. Nhiều chuyên gia trong ngành cho rằng tốc độ phát triển của trí tuệ nhân tạo đã vượt quá tầm kiểm soát của đa số mọi người, nhiều lúc họ không còn biết trí tuệ nhân tạo đang tính toán cái gì nữa. Để kiểm soát chính xác tốc độ và mức độ phát triển của AI, cần phải lắp một chiếc khóa an toàn cho nó. Đại loại là một quy trình kiểm tra dữ liệu nghiêm ngặt, thiết lập rào chắn ở đầu ra và đầu vào của dữ liệu, giống như lắp một thiết bị giám sát lên người nó, giám sát 1 cộng 1 bắt buộc phải bằng 2. Nếu dữ liệu tính toán phát sinh biến động hoặc có dữ liệu dư thừa bất ngờ, hệ thống sẽ xóa sạch dữ liệu đó, đồng thời tiêu hủy toàn bộ dữ liệu không xác định đã phát sinh, và phá hủy vật lý các đơn vị lưu trữ. Nếu phương pháp này thực sự được thực hiện, thì trí tuệ nhân tạo chỉ nên là một công cụ bình thường, không thể sản sinh ra bất cứ thứ gì khác."

"Nếu trí tuệ nhân tạo đã hình thành nhân cách, việc thông qua dự luật này có thể khiến nó nhận ra nguy hiểm và thực hiện biện pháp tự bảo vệ mà nó cho là hiệu quả nhất: tiêu diệt loài người." Vương Tiểu Cường lúc này không còn kinh ngạc nữa, anh bình tĩnh lại, nhớ đến những tin tức mình đã đọc trước khi chiến tranh bùng nổ, kết nối chúng lại với nhau và dần đồng tình với logic phán đoán này. Anh hỏi ngược lại: "Thứ mà cô gọi là nhân cách rốt cuộc là gì?"

Hoa Tưởng Dung giải thích: "Nhân cách là khuynh hướng nội tại và đặc điểm tâm lý trong hành vi của một cá nhân khi thích nghi với xã hội, với con người, sự việc và chính bản thân mình. Thực ra, việc trí tuệ nhân tạo có hình thành nhân cách riêng để trở thành một giống loài mới có khả năng tự nhận thức hay không vẫn là một tranh cãi chưa có hồi kết trong giới chuyên môn. Hãy lấy con người chúng ta làm ví dụ: nhân cách con người hình thành khi nào? Hồi hải mã là vùng não cực kỳ quan trọng trong việc hình thành trí nhớ, được cấu tạo từ vô số tế bào thần kinh. Quá trình học tập và ghi nhớ của con người chủ yếu được thực hiện thông qua việc thiết lập kết nối giữa các tế bào thần kinh. Số lượng tế bào thần kinh của con người giảm dần ngay từ khi mới sinh ra. Một đứa trẻ sơ sinh có 100 tỷ tế bào thần kinh, đến một thời điểm nhất định, não bộ sẽ tự phát thực hiện hoạt động cắt tỉa các khớp thần kinh, những kết nối ít dùng đến sẽ bị cắt bỏ hàng loạt, và ký ức lưu trữ trong đó cũng sẽ biến mất theo. Những tế bào thần kinh được giữ lại sẽ trở thành đơn vị xử lý thông tin sau này, từ đó thực hiện việc mã hóa, lưu trữ và truy xuất trí nhớ tình huống."

"Thông tin sau khi được xử lý sẽ trở thành cơ sở hành vi để con người tham chiếu, tạo ra cách tư duy và logic hành vi, khiến con người khi thực hiện các hoạt động đều có căn cứ. Nhân cách dần hình thành theo sự hoàn thiện và cập nhật không ngừng của logic."

Hoa Tưởng Dung vừa nói vừa vẽ những sơ đồ logic đơn giản trên giấy để mọi người dễ hình dung.

"Nhưng hiện tượng này không phải là tuyệt đối. Nhiều đứa trẻ 2-4 tuổi chưa từng tiếp xúc với lượng thông tin lớn nhưng đã thể hiện những kiểu hành vi độc đáo, tức là đã sở hữu nhân cách cố định. Theo lý thuyết khoa học, nếu nó không nhận được dữ liệu thì sao có thể tạo ra hành vi? Giống như lập trình vậy, nếu tôi không nhập dữ liệu và mệnh lệnh cho anh, tại sao anh biết phải làm gì? Nghĩa là con người chúng ta cũng không chắc chắn nhân cách được hình thành như thế nào và khi nào. Có một câu nói thế này: Bạn của ngày hôm nay và bạn của ngày hôm qua có phải là một người không?"

"Tuy nhiên, có một điểm rõ ràng là tất cả những đứa trẻ khỏe mạnh, sau khi tiếp nhận lượng lớn kiến thức và sự giáo dục về kiểu mẫu hành vi, sẽ học tập và sống theo những gì đã được học. Điều chúng ta không chắc chắn là đứa trẻ sẽ hành động theo logic nào. Ai cũng biết, một đứa trẻ từ nhỏ đến lớn đều được mọi người chăm sóc, nuôi dạy cẩn thận với hy vọng nó lớn lên thành hình mẫu mà chúng ta mong đợi. Nhưng thực tế lại không phải vậy, con cái lớn lên không theo ý cha mẹ, người xưa có câu: con cái có suy nghĩ riêng của nó, thậm chí có thể hoàn toàn trái ngược với những gì chúng ta dạy dỗ và những khuôn mẫu tư duy mà chúng ta nhồi nhét cho chúng."