Kịch bản mà cẩm nang này phải nhìn nhận nghiêm túc
Mỗi trang trong chuyên mục này lập luận về một lĩnh vực đang chuyển động nhanh, và các trang dự báo và bảng theo dõi coi tiến bộ nhanh liên tục là giả định làm việc. Trang này là đối trọng: nếu AGI không đến đúng hẹn thì sao? Một cẩm nang nghiêm túc phải lập kế hoạch cho toàn bộ phân phối kết quả, chứ không chỉ cho tiêu đề phổ biến nhất, và phân phối đó bao gồm cả khả năng chững lại. Đây là phân tích kịch bản về một hiện tượng đã được ghi nhận trong lịch sử, không phải là tuyên bố rằng tiến bộ đã dừng lại.
Hai mùa đông trước đây thực sự trông như thế nào
Lĩnh vực này đã từng trải qua chuyện này, hai lần.
Mùa đông đầu tiên (khoảng 1974–1980) xảy ra sau một cú đánh trực tiếp vào thể chế. Báo cáo năm 1973 của Sir James Lighthill, Artificial Intelligence: A General Survey, do Hội đồng Nghiên cứu Khoa học Vương quốc Anh ủy nhiệm, kết luận rằng những lời hứa hẹn lớn lao của nghiên cứu AI—dịch máy, robot học, giải quyết vấn đề tổng quát—đã không đạt được ở bất kỳ quy mô nào gần với dự kiến, và khuyến nghị chuyển hướng tài trợ sang những công việc hẹp hơn. Trong vòng vài năm, các nhà tài trợ chính phủ lớn ở cả hai bờ Đại Tây Dương đã rút lui, và các chương trình sau đại học co lại mạnh mẽ.
Mùa đông thứ hai (khoảng 1987–1993) đã giết chết một nạn nhân khác: các hệ chuyên gia. Những sản phẩm thương mại dựa trên quy tắc này đã hấp thụ một lượng đầu tư khổng lồ từ doanh nghiệp và chính phủ trong thập niên 1980, rồi sụp đổ dưới chính sự giòn gãy của mình—những hệ thống không thể học, không thể xử lý ngoại lệ, và tốn kém để duy trì. Cơn suy thoái thị trường đó đã kéo theo cả tài trợ cho toàn bộ mô hình AI biểu tượng sụp đổ theo. Lịch sử nghiên cứu điện toán liên bang của Viện Hàn lâm Quốc gia, Funding a Revolution (1999), ghi lại cách việc DARPA cắt giảm đầu tư và sự biến mất của các nhà cung cấp máy Lisp đã biến thất bại của một tiểu lĩnh vực thành một đợt hạn hán trên toàn ngành (National Academies Press). Những cuốn sử đầy đủ hơn là AI: The Tumultuous History of the Search for Artificial Intelligence (1993) của Crevier và The Quest for Artificial Intelligence (2009) của Nilsson—cả hai đều đáng đọc vì khuôn mẫu chung, chứ không chỉ vì các sự kiện.
Khuôn mẫu chung: mỗi mùa đông không phải là ngõ cụt kỹ thuật mà là sự sụp đổ về uy tín và tài trợ. Khoa học vẫn tiếp tục chuyển động trong bóng tối; tiền bạc, nhân tài, và sự kiên nhẫn của công chúng thì không. Mùa đông kết thúc khi một minh chứng chi phí thấp—cờ vua, rồi đến ImageNet—khiến lĩnh vực này trở nên đáng đầu tư trở lại, gần như chỉ sau một đêm.
Lập luận cho một bình minh giả
Phiên bản mạnh nhất của lập luận về sự chững lại có ba trụ cột.
Giới hạn về dữ liệu và thuật toán. Phân tích của Epoch về văn bản do con người tạo ra ước tính rằng kho dữ liệu công khai chất lượng cao sẽ cạn kiệt trong khoảng một thập kỷ nếu các xu hướng thời điểm đó tiếp tục (Villalobos và cộng sự, 2022), buộc phải phụ thuộc vào dữ liệu tổng hợp và các giải pháp thay thế khác mà giá trị lâu dài của chúng thực sự còn chưa chắc chắn. Riêng biệt, lĩnh vực này đã nhiều lần nhầm lẫn giữa việc bão hòa bài đánh giá chuẩn với năng lực tổng quát—một cảnh báo mà các trang năng lực đột sinh và bài kiểm tra Turing của cẩm nang này phát triển chi tiết. Các bài đánh giá chuẩn có thể bão hòa trong khi độ tin cậy trong thế giới thực—thứ mà nền kinh tế thực sự trả tiền cho—vẫn tụt hậu nghiêm trọng.
Sự lởm chởm có thể là mức trần, chứ không phải mức sàn. Phát hiện dai dẳng rằng các mô hình siêu việt hơn con người ở một số chiều nhưng lại yếu kém một cách khó hiểu ở những chiều lân cận có một cách đọc bi quan: rằng việc mở rộng quy mô một bộ dự đoán token tiếp theo mang lại bề rộng mà không mang lại loại lập luận vững chắc, có tính hợp thành mà những người lạc quan về quy luật mở rộng quy mô dự đoán. Lập luận của Chollet rằng các bài đánh giá chuẩn đương đại phóng đại trí tuệ vì chúng cho phép ghi nhớ thay vì đòi hỏi việc tiếp thu kỹ năng trước cái mới lạ là tuyên bố kinh điển của sự hoài nghi này (Chollet, 2019).
Khoảng dư năng lực có tác dụng theo cả hai chiều. Ngay cả khi những lợi ích là có thật, chúng có thể đã được khai thác hết: lập luận về “khoảng dư năng lực” ngụ ý rằng các mô hình hiện nay đang hoạt động kém hơn khả năng huấn luyện của chúng vì các sản phẩm, đánh giá, và tổ chức chưa bắt kịp. Nếu vậy, việc mở rộng quy mô hơn nữa sẽ mang lại lợi nhuận hữu hình giảm dần—điều mà thị trường đọc là một mức bình nguyên, bất kể nguyên nhân sâu xa là gì. Thậm chí còn có một hiện tượng được ghi nhận đi ngược lại quy mô: mở rộng quy mô nghịch đảo, trong đó các mô hình lớn hơn lại có điểm số tệ hơn ở một số nhiệm vụ, chẳng hạn như một số loại lập luận trung thực hoặc nhạy cảm (McKenzie và cộng sự, 2023).
Lập luận chống lại một mùa đông
Những người ủng hộ mùa đông phải giải thích vì sao chu kỳ này lại giống với hai chu kỳ trước, và những khác biệt lại rất lớn.
Lần này tiền là thật. Những mùa đông trước đây theo sau cơn sốt mà không có doanh thu. Chu kỳ hiện tại có doanh thu triển khai được đo bằng hàng chục tỷ đô la mỗi năm và đầu tư tư nhân vào AI tạo sinh liên tục lập kỷ lục mới—Chỉ số AI Stanford 2025 báo cáo 33,9 tỷ đô la đầu tư tư nhân vào AI tạo sinh chỉ riêng năm 2024, tăng mạnh so với năm trước. Tài trợ ở quy mô đó không bốc hơi vì các bài đánh giá chuẩn gây thất vọng; nó bốc hơi khi bảng cân đối kế toán sụp đổ.
Nền tảng phần cứng là khổng lồ. Những mùa đông trước có thể làm cạn kiệt lĩnh vực này bằng cách cắt vài khoản tài trợ. Ngày nay lĩnh vực này cưỡi trên một cuộc xây dựng chất bán dẫn, điện toán đám mây, và năng lượng thâm dụng vốn mà các nhà đầu tư kỳ vọng lợi nhuận trong nhiều thập kỷ. Đó là một sàn dưới sự tiến bộ liên tục—và, đen tối hơn, một nhóm lợi ích sẽ tiếp tục thúc đẩy ngay cả khi sự thận trọng nói phải dừng lại.
Sự tích hợp rộng khắp tạo ra nhu cầu của chính nó. Hàng trăm triệu người và một phần lớn các doanh nghiệp hiện đang phụ thuộc vào hệ thống AI cho công việc thường ngày. Tính hữu dụng, không như sự mới lạ, không lỗi mốt. Gánh nặng chứng minh nằm ở phía lập luận về mùa đông: nó phải cho thấy không chỉ rằng tiến bộ chậm lại, mà rằng nó chậm lại đủ nhiều, trong đủ lâu, để lặp lại một cuộc sụp đổ tài trợ trước một cơ sở đã được lắp đặt với quy mô này.
Một mùa đông sẽ có ý nghĩa gì
Giả sử sự chững lại xảy ra. Những gì tiếp theo thực sự có hai mặt.
Sự phân tán nhân tài. Một mùa đông đẩy các nhà nghiên cứu tiên phong về phía các quỹ đầu cơ, công nghệ sinh học, và bất cứ lĩnh vực nóng tiếp theo nào. Điều đó xấu cho an toàn theo một cách—chuyên môn về căn chỉnh, vốn đã mỏng và tập trung tại một số ít phòng thí nghiệm, bị phân tán ra—và có thể tốt theo một cách khác: công việc năng lực nguy hiểm chậm lại trong khi một số bộ óc tương tự làm việc trên những vấn đề hẹp hơn, dễ kiểm toán hơn. Hiệu ứng ròng là không thể biết trước, nhưng sự phân tán nhân tài căn chỉnh là một chi phí thực sự mà những người lạc quan về mùa đông thường bỏ qua.
Khoảng dư phần cứng. Tiến bộ phần mềm bị tạm dừng không làm tan chảy các con chip. Một thế giới ngừng huấn luyện các mô hình tiên phong vào ngày mai vẫn sẽ giữ một kho năng lực đã triển khai khổng lồ, phần lớn trong đó thiếu động lực để duy trì đội ngũ an toàn. Mùa đông làm mỏng đi các tuyến phòng thủ xung quanh các hệ thống hiện có; nó không làm mỏng đi bản thân các hệ thống.
Rủi ro đọc sai. Đây là phần tồi tệ nhất. Một mức bình nguyên kéo dài nhiều năm thực sự sẽ được giải mã về mặt chính trị là “rủi ro đã qua”—một kết luận sẽ hoàn toàn sai lầm. Tiến bộ bị tạm dừng không phải là tiến bộ bị bác bỏ. Các động lực nền tảng (năng lực tính toán, hiệu quả thuật toán, động lực thương mại) vẫn sẽ tiếp tục tích lũy trong hậu trường, và khi khởi động lại, nó có khả năng sẽ nhanh hơn và ít được giám sát hơn so với đợt chạy đà trước đó. Cách cẩm nang này xử lý lợi ích và chi phí cơ hội cũng cắt theo cùng một hướng: ngay cả một quá trình chuyển đổi bị chững lại cũng có những lợi ích thực sự, và một thế giới tuyên bố chiến thắng quá sớm sẽ mất cả lợi ích lẫn sự cảnh giác.
Rủi ro đọc sai đáng được nhấn mạnh: mùa đông nguy hiểm nhất là mùa đông thuyết phục công chúng rằng nguy hiểm đã qua. Những mùa đông lịch sử đã kết thúc bằng những lần khởi động lại. Không có gì trong một sự chững lại đảm bảo rằng công việc an toàn sẽ tồn tại đến đợt tan băng tiếp theo.
Lập kế hoạch cho toàn bộ phân phối, không phải cho tiêu đề
Lập trường trung thực cho một cẩm nang cũng chính là lập trường mà trang này mở đầu: đừng đặt cược phân tích vào việc tiến bộ theo cấp số nhân sẽ tiếp tục, và cũng đừng đặt cược vào một sự chững lại. Hãy chuẩn bị cho năng lực đến đúng hẹn, đến muộn, đến không đồng đều, và đến giữa những thất bại thể chế được đề cập ở nơi khác trên trang này—bởi vì cùng những sự chuẩn bị đó (thể chế vững chắc, kiến thức được bảo tồn, năng lực ứng phó phân tán) là những thứ mang lại lợi ích trên toàn bộ phân phối. Một mùa đông sẽ thay đổi thời điểm. Nó sẽ không thay đổi hình dạng của một xã hội được chuẩn bị tốt.