01 Định nghĩa
AGI là gì, và AGI không phải là gì
Thuật ngữ “AGI” bị dùng một cách thiếu chặt chẽ. Trước khi bất kỳ cuộc thảo luận nào về rủi ro có ý nghĩa, nó cần một định nghĩa làm việc và một cách để đánh giá một hệ thống nhất định đã tiến gần đến mức đáp ứng định nghĩa đó đến đâu.
Định nghĩa làm việc
Trí tuệ nhân tạo tổng quát không có một bài kiểm tra duy nhất được chấp nhận. Trong cẩm nang này, nó có nghĩa là một hệ thống kết hợp năng lực nhận thức rộng, hiệu suất tương đương hoặc vượt trội so với con người, khả năng chuyển giao đáng tin cậy sang các nhiệm vụ chưa từng gặp, và đủ tính tự chủ để hoàn thành công việc có hệ quả. Mỗi phần đều quan trọng: các mô hình đa dụng hiện nay rộng ở một số khía cạnh và có năng lực đáng kể trên một số bài đánh giá, nhưng vẫn thiếu ổn định và không đồng đều theo những cách khiến nhãn nhị phân “có phải AGI hay không” trở nên gây hiểu lầm.
Tính tổng quát, hiệu suất và tính tự chủ là những chiều kích riêng biệt. Một hệ thống có thể trò chuyện về nhiều chủ đề nhưng vẫn thiếu ổn định trong các nhiệm vụ dài, hoặc vượt trội hơn chuyên gia trong một lĩnh vực mà không chuyển giao được khả năng đó sang nơi khác. Vì vậy, cẩm nang này theo dõi một tập hợp các phép đo thay vì coi việc chuyển giao là một ranh giới phân định kỳ diệu.
Các ngưỡng năng lực đáng theo dõi
Bốn tín hiệu này giúp phân biệt các kịch bản, nhưng không tín hiệu nào là một bài kiểm tra AGI hoàn chỉnh. Một số được đo trực tiếp; một số khác được suy ra qua các bài đánh giá mà tính hợp lệ và phạm vi bao phủ của chúng vẫn còn gây tranh cãi.
| Ngưỡng | Nó đo lường điều gì | Vì sao nó quan trọng |
|---|---|---|
| Chân trời nhiệm vụ tự chủ | Thời gian hoàn thành theo con người của các nhiệm vụ chuẩn mà một tác nhân có thể hoàn thành ở một mức độ tin cậy đã nêu. | Ghi nhận tiến bộ nhanh chóng trong các nhiệm vụ dài về phần mềm, học máy và an ninh mạng, nhưng không đo lường mọi công việc thực tế hay tính tự chủ theo nghĩa đen về thời gian trôi qua. |
| Sử dụng công cụ tự định hướng | Viết và chạy mã nguồn riêng, tự cấp phát năng lực tính toán riêng, tuyển dụng các tác nhân phần mềm khác. | Biến một mô hình thành một tác nhân có phạm vi vượt ra ngoài cửa sổ ngữ cảnh của chính nó. |
| Nhận thức tình huống | Mô hình của một hệ thống về việc nó đang bị đánh giá, bởi ai, và điều gì được thưởng trong đánh giá đó. | Làm suy yếu chính việc đánh giá: một hệ thống biết rằng nó đang bị kiểm tra có thể hành xử khác đi khi bị kiểm tra. |
| Tự cải thiện đệ quy | Một hệ thống đóng góp một cách đáng kể vào việc thiết kế phiên bản kế nhiệm của nó. | Một cơ chế tăng tốc được đề xuất, không phải một ngưỡng đã được quan sát hay được chấp nhận rộng rãi. |
Một số nhà nghiên cứu và lãnh đạo phòng thí nghiệm nói gì
Các dự báo khác nhau và không phải là phép đo. Vào tháng 3 năm 2025, giám đốc điều hành của Google DeepMind đã đưa ra ước tính cá nhân này:
Demis Hassabis forecast in March 2025 that AGI could start to emerge within five to ten years.
CNBC, Reported interview
Một tuyên bố riêng biệt năm 2023, được ký bởi các nhà nghiên cứu, giám đốc điều hành và các nhân vật công chúng khác, đặt rủi ro thảm khốc trong khuôn khổ chính sách. Tuyên bố này ghi lại lập trường của những người ký tên; nó không ước tính xác suất:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Vì sao định nghĩa quyết định kế hoạch
Mọi quy trình sau này trong cẩm nang này — tài chính, số, thể chất — đều phụ thuộc vào ngưỡng nào trong số này đã thực sự bị vượt qua. Một kế hoạch gia đình được xây dựng cho “chatbot thông minh hơn” trông khác với một kế hoạch được xây dựng cho một hệ thống có thể tự chủ quản lý vốn, viết và triển khai phần mềm, và theo đuổi các kế hoạch dài hạn với rất ít sự rà soát của con người. Chương 02 sẽ phân tích những gì mỗi ngưỡng có thể ngụ ý ở cấp độ nền kinh tế và nhà nước; chương này là vốn từ vựng bạn cần để đọc chương đó.