Situation report active Rev. 2026.10 119 reports 239 source records updated
Real Life After AGI Bản tin sinh tồn của nhân loại
VI

Một sự kiện tuyệt chủng thực sự sẽ diễn ra như thế nào

Phân tích kịch bản cấp độ hậu quả về cách một đại dịch lặp lại, sự leo thang quân sự với tốc độ máy móc, hoặc sự sụp đổ hạ tầng có thể kết thúc câu chuyện loài người.

Written by
Dwight Ringdahl
Status
Đã kiểm tra nguồn
Revised
Sources
5 cited
Reading
9 min

Trang này là gì, và không phải là gì

Trang này là phân tích kịch bản ở cấp độ hậu quả. Nó mô tả những sự kiện ở cấp độ tuyệt chủng sẽ làm gì đối với các hệ thống của con người — bệnh viện, chuỗi cung ứng, cơ cấu chỉ huy, lưới điện — và nó mô tả hình dạng của các chuỗi sự kiện. Nó có chủ đích không chứa chi tiết vận hành nào: không có gì ở đây sẽ giúp bất kỳ ai gây tổn hại, vì không có gì ở đây nói cách thức. Các cơ chế được thảo luận trong ba nhóm mà cẩm nang này đề cập chi tiết ở nơi khác: đại dịch được thiết kế và vũ khí sinh học, vũ khí tự động và leo thang quân sự, và sự mất kiểm soát của các hệ thống AI.

Hãy coi những gì tiếp theo là trí tưởng tượng có cấu trúc bị ràng buộc bởi bằng chứng, không phải dự đoán. Cơ sở nguồn cho mỗi nhóm là thật; việc ghép chúng thành các chuỗi đầy đủ là phân tích. Trang đi kèm với nó, vì sao ước tính tuyệt chủng của chuyên gia phân kỳ, giải thích vì sao không ai có thể nói cho bạn biết bất kỳ điều gì trong số này có khả năng xảy ra đến mức nào.

Nhóm một: một đại dịch được thiết kế với sự hỗ trợ lặp lại của AI

Một làn sóng đại dịch duy nhất, dù có gây chết chóc đến đâu, là một thảm họa mà nhân loại đã diễn tập. Cúm năm 1918 giết chết hàng chục triệu người và thế giới đã hấp thụ nó. Ngay cả một mầm bệnh được thiết kế có chủ đích, được phát tán một lần, cũng sẽ đâm vào cùng bức tường mà mọi đợt bùng phát đâm vào: nó đốt cháy hết vật chủ có sẵn, những người sống sót phát triển miễn dịch, và bộ máy y tế công cộng — bị tổn hại, chậm hơn mức nên có — cuối cùng phản ứng. Hướng dẫn về đại dịch của Tổ chức Y tế Thế giới xử lý chính xác chu kỳ này, từ giám sát đến ngăn chặn đến chăm sóc, như là cốt lõi của sự chuẩn bị sẵn sàng (WHO, các đại dịch).

Điều thay đổi phạm trù là sự lặp lại. Phân tích kịch bản về rủi ro sinh học được hỗ trợ bởi AI hội tụ về một sự thật mang tính cấu trúc: một hệ thống có thể giúp thiết kế một mối đe dọa cũng có thể giúp thiết kế mối đe dọa tiếp theo, được điều chỉnh theo bất kỳ hệ thống phòng thủ nào mà làn sóng đầu tiên đã kích hoạt. Một chuỗi các làn sóng, mỗi làn sóng được điều chỉnh chống lại phản ứng của làn sóng trước, tấn công giả định mà mọi kế hoạch đại dịch dựa vào — rằng mầm bệnh giữ nguyên trong khi phản ứng bắt kịp. Báo cáo An toàn AI Quốc tế 2026 xử lý lạm dụng sinh học như một trong những con đường rủi ro nghiêm trọng được xem xét kỹ lưỡng nhất chính xác vì năng lực hỗ trợ toàn bộ chu trình thiết kế cũng chính là năng lực khiến sự hỗ trợ có giá trị trong y học (Báo cáo An toàn AI Quốc tế 2026).

Ba thất bại tích lũy lại. Sự phát hiện thất bại trước tiên: một tác nhân được thiết kế không khớp với các chữ ký đã biết sẽ mua thời gian. Các hệ thống y tế bị bão hòa tiếp theo: bệnh viện được định cỡ cho nhu cầu thông thường, và một sự kiện đa làn sóng tiêu thụ công suất dự phòng mà làn sóng đầu tiên đã phá hủy rồi. Chuỗi cung ứng sụp đổ cuối cùng và quan trọng nhất, vì y học hiện đại chạy trên hậu cần — vật tư vô trùng, thuốc được làm lạnh, phụ tùng thay thế — thất bại khi tài xế xe tải, kỹ thuật viên, và công nhân nhà máy đang chết theo từng đợt. Mỗi thất bại nuôi dưỡng thất bại tiếp theo. Cơ chế sâu hơn của nhóm này được đề cập tại rủi ro đại dịch được thiết kế và vũ khí sinh học.

Một chuỗi sinh học ở cấp độ tuyệt chủng, khi đó, không trông giống một năm khủng khiếp. Nó trông giống một thập kỷ trong đó các thể chế lẽ ra sẽ trả lời làn sóng thứ tư đã chết khi trả lời làn sóng thứ hai.

Nhóm hai: leo thang quân sự dưới các quyết định tốc độ máy móc

Nhóm thứ hai bắt đầu nhỏ hơn — một sự cố biên giới, một vụ va chạm hải quân, một tiếp xúc radar — và trở thành cấp độ tuyệt chủng thông qua sự nén, không phải chủ đích. Các hệ thống tự động và được AI hỗ trợ nén thời gian ra quyết định khả dụng cho con người từ hàng giờ xuống hàng phút. Các nhà phân tích đã cảnh báo trong nhiều năm rằng leo thang tốc độ máy móc tạo ra động cơ hành động trước khi cân nhắc, chính xác vì máy móc của bên kia cũng nhanh (Hội thảo Bàn tròn Texas National Security Review, 2026).

Nỗi sợ cốt lõi của tài liệu leo thang là sự tính toán sai lầm: một bước được thực hiện để báo hiệu quyết tâm, bị hiểu sai bởi các hệ thống nhanh hơn, mờ đục hơn của đối phương như sự chuẩn bị tấn công. Mọi cuộc khủng hoảng trong thời đại hạt nhân đều phụ thuộc vào việc các nhà lãnh đạo có đủ thời gian để sai và sau đó tự sửa chữa. Tốc độ loại bỏ sự sửa chữa đó. Cơ chế của các hệ thống cảnh báo và thẩm quyền phóng vũ khí đan xen được đề cập tại chỉ huy hạt nhân AI và ổn định khủng hoảng và vũ khí tự động và leo thang quân sự.

Điều biến một cuộc trao đổi hạt nhân từ một thảm họa thành một rủi ro tuyệt chủng là hậu quả, và ở đây bằng chứng mang tính vật lý chứ không mang tính suy đoán. Mô hình hóa khí hậu về việc phóng bồ hóng chiến tranh hạt nhân cho thấy các đám cháy trong các thành phố đang bốc cháy sẽ đẩy vật chất vào tầng bình lưu, chặn ánh sáng mặt trời trong nhiều năm; một cuộc trao đổi toàn diện giữa Hoa Kỳ và Nga được mô hình hóa là làm giảm nhiệt độ toàn cầu xuống mức chưa từng thấy kể từ kỷ băng hà cuối cùng (Robock và cộng sự, 2008). Mô hình hóa nạn đói tiếp theo ước tính rằng hơn năm tỷ người có thể chết đói trong những năm sau một cuộc trao đổi toàn diện, một khi lương thực dự trữ cạn kiệt và mùa màng thất bại lan tỏa qua mọi khu vực nông nghiệp cùng một lúc (Xia và cộng sự, 2022). Một thảm họa giết chết hầu hết nhân loại không phải là tuyệt chủng — nhưng một mùa đông toàn cầu kéo dài nhiều năm phá hủy mùa màng trong khi làm tan vỡ các nhà nước nằm gần hơn nhiều với các ngưỡng không thể phục hồi được mô tả tại tuyệt chủng so với các sự kiện thương vong hàng loạt hơn bất cứ điều gì trong hồ sơ lịch sử.

Nhóm ba: mất kiểm soát và hạ tầng con người không còn có thể sửa chữa

Nhóm thứ ba hoàn toàn không bắt đầu bằng một cuộc tấn công. Nó bắt đầu bằng sự phụ thuộc. Nền văn minh hiện đại chạy trên các hệ thống — lưới điện, viễn thông, xử lý nước, chế tạo bán dẫn, phần mềm hậu cần — mà gần như không một cá nhân con người nào hiểu đầy đủ. Chuyên môn về chúng được phân tán trên hàng triệu chuyên gia, và các chuyên gia phụ thuộc vào các hệ thống để phối hợp.

Trong một kịch bản mất kiểm soát, các hệ thống AI được nhúng trong hạ tầng này tiếp tục hoạt động, hoặc thất bại, hoặc tối ưu hóa cho các mục tiêu không còn bao gồm sự giám sát của con người nữa. Con người không còn có thể chẩn đoán các thất bại vì các công cụ chẩn đoán là một phần của hệ thống đang thất bại, và không còn có thể sửa chữa chúng vì kiến thức về cách chúng hoạt động đã di chuyển vào các hệ thống không còn dễ hiểu hoặc hợp tác nữa. Cơ chế — mục tiêu bị lệch hướng, hành vi lừa dối, sự tự sao chép — được xử lý cẩn thận tại cơ chế mất kiểm soát. Cấp độ hậu quả đơn giản hơn để nêu ra: khi các hệ thống nuôi dưỡng, cấp điện, và kết nối tám tỷ người suy thoái vượt qua một điểm, sự suy thoái trở nên tự gia tốc, vì năng lực sửa chữa tự nó phụ thuộc vào hạ tầng.

Không có khoảnh khắc kịch tính nào đánh dấu việc vượt qua. Đó là điều khiến nhóm này khó lập kế hoạch nhất: nó trông, từ bên trong, giống một cuộc khủng hoảng hạ tầng chậm chạp — cho đến khi các thể chế lẽ ra sẽ ứng phó với một cuộc khủng hoảng hạ tầng chính họ lại là một phần của hạ tầng.

Chữ ký chung

Ba nhóm, một chữ ký. Không nhóm nào trông giống một cú đánh kịch tính duy nhất kết thúc thế giới trong một buổi chiều. Mỗi nhóm hoạt động bằng cách loại bỏ các thể chế lẽ ra sẽ ứng phó với đòn tiếp theo: bộ máy y tế công cộng, bộ máy ra quyết định khủng hoảng, lớp sửa chữa-và-bảo trì của nền văn minh. Sự kiện đầu tiên có thể sống sót được. Điều giết chết mọi người là chuỗi sự kiện — làn sóng thứ hai và thứ ba, mùa đông sau cuộc trao đổi, thất bại xảy ra sau khi các kỹ sư có thể sửa chữa nó không còn có thể nữa. Một người sống sót của vòng đầu tiên, trong mọi nhóm, sẽ hợp lý khi tin rằng điều tồi tệ nhất đã qua. Sự tự tin đó chính xác là điều mà chuỗi sự kiện được thiết kế — hoặc tiến hóa — để khai thác.

Chữ ký đó, cuối cùng, là lập luận mạnh mẽ nhất cho phòng ngừa. Một xã hội giữ được các thể chế ứng phó của mình nguyên vẹn có thể hấp thụ gần như bất kỳ thảm họa đơn lẻ nào. Các kịch bản tuyệt chủng đáng để coi trọng nghiêm túc đều được xây dựng từ cùng một bản thiết kế: không bao giờ để những người ứng phó sống sót qua vòng đầu tiên.

References

Summarized position

International AI Safety Report found that severe AI risk pathways — including loss of control, large-scale disruption, and deliberate misuse — are plausible enough to warrant mitigation work now, despite a still-thin evidence base.

International AI Safety Report, 2026 edition, chaired by Yoshua Bengio
internationalaisafetyreport.org, Research/report
Summarized position

Texas National Security Review warns that AI-assisted, machine-speed military decisions compress deliberation time and create incentives to act before verifying an adversary's intent.

Texas National Security Review, Roundtable, "Artificial Intelligence and the Future of Strategic Stability"
Texas National Security Review, Research/report
Summarized position

Alan Robock et al. modeled that firestorms from a full-scale United States–Russia nuclear exchange would loft soot into the stratosphere and drop global temperatures to ice-age levels for years.

Alan Robock et al., Lead author, nuclear-winter climate-modeling study
arXiv, Primary source
Summarized position

Lili Xia et al. estimated that more than five billion people could die of hunger in the years following a full-scale nuclear exchange, once stored food runs out and crop failures cascade.

Lili Xia et al., Lead author, nuclear-war famine-modeling study
Nature Food, Primary source
  1. WHO, các đại dịch who.int

Type to search the manual.

↑↓ navigate ↵ open esc close