Hai ý nghĩa thường bị trộn lẫn
Một năng lực AI có thể “đột sinh” theo ít nhất hai nghĩa. Theo nghĩa rộng, một mô hình thể hiện hành vi hữu ích không phải là một mục tiêu huấn luyện chuyên biệt, rõ ràng cho nhiệm vụ đó. Một mô hình ngôn ngữ được huấn luyện chủ yếu để dự đoán token có thể dịch, viết mã, tóm tắt luật, hoặc giải một số bài toán số học. Những khả năng đó có thể xuất hiện vì dữ liệu huấn luyện và mục tiêu thưởng làm nảy sinh các mẫu hình nội bộ có thể tái sử dụng.
Theo nghĩa mạnh hơn, đột sinh có nghĩa là một năng lực xuất hiện đột ngột khi quy mô tăng lên: các mô hình nhỏ hơn thất bại, rồi một mô hình lớn hơn đột nhiên thành công. Một bài báo năm 2022 được thảo luận rộng rãi đã báo cáo các ví dụ về những bước nhảy như vậy trên nhiều họ mô hình và nhiệm vụ (Wei và cộng sự, 2022). Sự phân biệt này quan trọng. Sự tồn tại của năng lực không được lên kế hoạch trước đã được thiết lập vững chắc; liệu một năng lực được đo lường có trải qua một sự gián đoạn thực sự hay không phụ thuộc vào thước đo, dữ liệu, và cách lấy mẫu.
Không nghĩa nào ngụ ý ý thức, ý định, hay phép màu. Các hệ thống phức tạp có thể có được các biểu diễn đa dụng mà không cần một nhà thiết kế viết một mô-đun cho mỗi công dụng. Câu hỏi khoa học là hành vi thay đổi như thế nào theo huấn luyện và thiết kế hệ thống, và chúng ta có thể dự đoán trước điều đó tốt đến mức nào.
Vì sao một số bước nhảy là hiện tượng do cách đo lường
Giả sử độ chính xác số học của một mô hình tăng dần từ 20 lên 30 rồi lên 40%. Một bài đánh giá chuẩn chỉ trao một điểm khi độ chính xác vượt quá 35% sẽ hiển thị 0, 0, rồi 1—một sự gián đoạn được tạo ra bởi cách chấm điểm. Hiệu ứng tương tự xảy ra khi chấm điểm khớp chính xác không cho điểm cho một câu trả lời gần đúng hoặc khi một nhiệm vụ đòi hỏi nhiều kỹ năng con và thất bại nếu thiếu bất kỳ kỹ năng nào.
Schaeffer, Miranda, và Koyejo đã phân tích lại các trường hợp đã báo cáo và cho thấy rằng nhiều bước chuyển đột ngột trở nên trơn tru khi được đo bằng các thước đo liên tục, phi tuyến, hoặc nhạy cảm với lỗi (“Are Emergent Abilities of Large Language Models a Mirage?”). Điều này không chứng minh rằng những sự gián đoạn thực sự không bao giờ xảy ra. Nó cho thấy rằng một biểu đồ bài đánh giá chuẩn không thể thiết lập một sự gián đoạn mà không loại trừ được các hiệu ứng thước đo, lấy mẫu thưa, và sự khác biệt giữa các họ mô hình.
Quy mô cũng không phải là biến số duy nhất thay đổi. Các mô hình lớn hơn có thể sử dụng dữ liệu, công thức huấn luyện, bộ token hóa, tinh chỉnh chỉ dẫn, công cụ, hoặc ngân sách suy luận khác nhau. Việc so sánh các sản phẩm có tên gọi cụ thể có thể nhầm lẫn một cải tiến kỹ thuật ở cấp độ hệ thống với một ngưỡng tham số thuần túy. Các nhà nghiên cứu cần các chuỗi mở rộng quy mô có kiểm soát, các điểm kiểm tra dày đặc, và nhiều thước đo để xác định cơ chế.
Điều gì vẫn thực sự khó dự đoán
Ngay cả sự cải thiện trơn tru bên dưới cũng có thể tạo ra một ngưỡng có hậu quả. Một tác nhân an ninh mạng chuyển từ 40 lên 60% thành công có thể vượt qua điểm mà tại đó việc triển khai trở nên có lợi về kinh tế. Khả năng của một mô hình kết nối các kỹ năng con yếu riêng lẻ có thể mở khóa một quy trình làm việc. Các hệ thống bên ngoài có thể khuếch đại những cải tiến nhỏ: công cụ cung cấp hành động, bộ nhớ mở rộng ngữ cảnh, và việc lấy mẫu lặp lại tìm ra một câu trả lời thành công.
Các nhà phát triển cũng không thể kiểm tra toàn diện mọi nhiệm vụ có thể có. Các mô hình được huấn luyện trên dữ liệu rộng và được triển khai đến hàng triệu người dùng, những người khám phá ra các ứng dụng và thất bại mà những người đánh giá không hình dung ra. Do đó một năng lực có thể gây bất ngờ cho phòng thí nghiệm ngay cả khi nó phát triển dần dần. Sự bất ngờ có thể phản ánh sự đo lường hạn chế hơn là một sự thay đổi pha sắc bén về mặt toán học, nhưng nó vẫn quan trọng về mặt vận hành.
Báo cáo An toàn AI Quốc tế 2026 nhấn mạnh rằng các đánh giá tiên phong có thể có tính hợp lệ bên ngoài hạn chế và nhanh chóng trở nên lỗi thời khi các hệ thống và giàn giáo thay đổi (Báo cáo An toàn AI Quốc tế 2026). Đó là một tuyên bố về sự không chắc chắn thực tiễn, không phải bằng chứng rằng mọi hành vi đáng lo ngại sẽ xuất hiện một cách tự phát.
Năng lực không phải là khuynh hướng
Một mô hình có thể có năng lực thực hiện một hành động khi được nhắc lệnh có chủ đích mà không nhất thiết có xu hướng tự mình thực hiện điều đó. Phân tích an toàn nên tách biệt năng lực—liệu hệ thống có thể làm được điều gì đó hay không—khỏi khuynh hướng—liệu nó có xu hướng làm điều đó trong các điều kiện liên quan hay không. Một mô hình có thể tạo ra một kế hoạch lừa dối trong một tình huống nhập vai không vì thế mà cho thấy nó theo đuổi sự lừa dối trong quá trình triển khai. Ngược lại, một khuynh hướng đo lường được thấp có thể phản ánh một đánh giá không tạo ra được tác nhân kích hoạt đúng.
Sự phân biệt tương tự cũng áp dụng cho nhận thức tình huống, né tránh biện pháp bảo vệ, tự bảo tồn, và hành vi chiến lược. Đây là những chủ đề nghiên cứu tích cực và các thành phần mô hình mối đe dọa tiềm năng. Việc nói rằng chúng chắc chắn sẽ xuất hiện chỉ vì dịch thuật hay số học đã xuất hiện là không chính xác. Bằng chứng nên xác định mô hình được thử nghiệm, lệnh nhắc, môi trường, tần suất, và các cách giải thích thay thế.
Ngôn ngữ nhân cách hóa làm tăng thêm sự nhầm lẫn. Các mô hình có thể tạo ra những phát biểu về việc muốn sống sót vì ngôn ngữ tương tự xuất hiện trong dữ liệu huấn luyện của chúng hoặc vì tương tác đó khen thưởng một vai diễn. Văn bản như vậy là hành vi đáng để điều tra; nó không phải là sự tiếp cận trực tiếp đến một mục tiêu nội bộ ổn định. Các tuyên bố về động cơ đòi hỏi bằng chứng mạnh mẽ hơn là các trích dẫn từ một cuộc trò chuyện.
Vì sao đột sinh vẫn liên quan đến an toàn
Bài học an toàn hợp lý không phải là “bất cứ điều gì cũng có thể đột nhiên xảy ra.” Đó là việc huấn luyện rộng tạo ra nhiều hành vi hơn những gì các nhà thiết kế liệt kê rõ ràng, và việc đánh giá hiện tại cung cấp độ bao phủ không đầy đủ. Điều đó biện minh cho việc thử nghiệm theo giai đoạn, giám sát, và phòng thủ theo chiều sâu. Nó cũng cảnh báo chống lại việc giả định rằng sự vắng mặt trên một bài đánh giá chuẩn có nghĩa là vắng mặt dưới mọi giàn giáo hoặc lệnh nhắc.
Đánh giá nên bắt đầu ngay trong quá trình huấn luyện, sử dụng các điểm kiểm tra để đo lường xu hướng trước khi đợt chạy cuối cùng hoàn tất. Các đội có thể duy trì các bộ đánh giá cho rủi ro an ninh mạng, hỗ trợ sinh học, thuyết phục, tính tự chủ, và kiểm soát mô hình, đồng thời bổ sung việc kiểm thử đối kháng mở để tìm ra hành vi không lường trước. Các bài kiểm tra riêng tư làm giảm sự nhiễm bẩn; các đánh giá viên bên ngoài làm giảm điểm mù thể chế. Báo cáo sự cố sau triển khai nắm bắt những thất bại mà các nhiệm vụ phòng thí nghiệm bỏ sót.
Các chính sách ngưỡng nên phản ứng với năng lực đã được chứng minh mà không đòi hỏi sự đồng thuận triết học về đột sinh. Nếu một hệ thống có thể hạ thấp đáng kể các rào cản đối với một tổn hại nghiêm trọng, các biện pháp bảo vệ liên quan nên được áp dụng bất kể đường cong đó trơn tru hay đột ngột. Nếu bằng chứng yếu, báo cáo nên nêu rõ sự không chắc chắn thay vì âm thầm coi một hành vi giả định là đã được quan sát.
Khả năng dự đoán có nhiều tầng lớp
Một số thuộc tính mô hình có thể dự đoán được hơn những thuộc tính khác. Độ mất mát tổng hợp trên một phân phối dữ liệu thường tuân theo các quy luật mở rộng quy mô trơn tru. Hiệu suất trên một bài đánh giá chuẩn ổn định có thể dự đoán được trong một phạm vi giới hạn. Thành công trong một môi trường lộn xộn phụ thuộc vào công cụ, độ tin cậy, và các tương tác khó mô hình hóa hơn. Tác động xã hội bổ sung thêm sự chấp nhận, động lực, thể chế, và đối thủ, khiến nó càng khó hơn.
Cấp bậc này ngăn ngừa một lỗi suy luận phổ biến: độ mất mát huấn luyện có thể dự đoán được không làm cho mọi năng lực hạ nguồn có thể dự đoán được, nhưng hành vi hạ nguồn đáng ngạc nhiên cũng không làm mất hiệu lực các quy luật mở rộng quy mô. Các nhà nghiên cứu có thể dự báo một mức trung bình trong khi vẫn không chắc chắn về các thất bại hiếm hoặc các nhiệm vụ cụ thể.
Khả năng diễn giải cuối cùng có thể cải thiện các dự báo bằng cách phơi bày các biểu diễn hoặc cơ chế trước khi chúng thể hiện rõ ràng trong hành vi. Tuy nhiên hiện nay, các phương pháp diễn giải cung cấp bằng chứng một phần hơn là một bản đọc hoàn chỉnh về những gì một mô hình “biết” hoặc sẽ làm. Đánh giá hành vi và kiểm soát trong thế giới thực vẫn cần thiết.
Cách đọc một tuyên bố về đột sinh
Hãy hỏi điều gì đã thay đổi trong sự so sánh: tham số, năng lực tính toán, dữ liệu, mục tiêu huấn luyện, công cụ, hay cách nhắc lệnh. Xem xét liệu thước đo có liên tục hay không, liệu có tồn tại các điểm kiểm tra trung gian hay không, và liệu các thanh không chắc chắn có chồng lấp nhau hay không. Kiểm tra liệu nhiệm vụ có nằm trong dữ liệu huấn luyện hay không và liệu các nhà nghiên cứu độc lập có tái lập được kết quả hay không. Quan trọng nhất, hãy phân biệt “bất ngờ đối với các tác giả” với “gián đoạn về mặt khoa học.”
Năng lực đột sinh là một khái niệm hữu ích khi được sử dụng cẩn thận. Các mô hình được huấn luyện rộng thực sự có được những khả năng mà không kỹ sư nào chỉ định từng cái một. Một số năng lực chỉ trở nên rõ ràng sau khi các hệ thống vượt qua các ngưỡng thực tiễn. Nhưng nhiều vách đá nổi tiếng một phần là hiện tượng của cách chúng ta chấm điểm hành vi. Kết luận chính xác không phải là đột sinh là một ảo tưởng cũng không phải là quy mô triệu hồi bất kỳ năng lực nào một cách khó lường. Đó là việc phát triển năng lực chỉ mới được hiểu một phần, các lựa chọn đo lường quan trọng, và chính sách an toàn nên vững chắc trước cả sự thay đổi dần dần lẫn bất ngờ.