Một thí nghiệm tư duy mà chương này cần
Gần như mọi thứ trong chương này được viết ở thì hiện tại của người lớn. Nó hỏi quá trình chuyển đổi làm gì với người lao động, công dân, phụ huynh, và cử tri — những người đã biết một thế giới trước đó. Trang này đặt ra một câu hỏi khác: thế giới hậu-AGI trông như thế nào đối với những người sinh ra vào trong đó, những người thừa kế kết quả mà không thừa kế ký ức? Phần lớn những gì tiếp theo là lập luận có lý lẽ hơn là phát hiện đã được xác lập, và nó được ghi nhãn như vậy; nơi có bằng chứng, nó được trích dẫn trực tiếp.
Câu hỏi này không mang tính đa cảm. Thế hệ nào nắm giữ rủi ro, thế hệ nào nắm giữ quyền lực, và thế hệ nào nắm giữ đường cơ sở để đánh giá sự thay đổi quyết định “kết quả tốt” thậm chí có nghĩa là gì. Một quá trình chuyển đổi được những người đã trải qua nó đánh giá là thành công vẫn có thể là một thảm họa đối với những người đến sau nó, và ngược lại.
Sự bất đối xứng của việc đến sau
Những người còn sống tại thời điểm chuyển đổi mang hai gánh nặng mà thế hệ tiếp theo sẽ không có: bản thân sự mất mát, và ký ức về những gì đã mất. Họ chứng kiến các ngành nghề tan rã, các thể chế uốn cong, kết cấu cảm nhận được của công việc, trường học, và tình bạn thay đổi. Dù sự thay đổi đó là tốt ròng hay xấu ròng, ít nhất họ có một đường cơ sở. Họ có thể so sánh.
Những người sinh ra sau quá trình chuyển đổi thừa kế kết quả mà không có nỗi đau buồn hay đường cơ sở đó. Đối với họ, sự đồng hành được trung gian bởi máy móc không phải là một phiên bản suy giảm của thứ gì khác; đó là những gì sự đồng hành vốn luôn là. Một nền kinh tế nơi phần lớn sản xuất cần rất ít con người không phải là một sự cắt cụt; đó là thời tiết. Phân tích liên thế hệ về những thay đổi công nghệ trước đây — máy in, điện khí hóa, internet — nhất quán tìm thấy khuôn mẫu này (phần lớn tài liệu này là lập luận lịch sử có lý lẽ, và nên được đọc như vậy ở đây): thế hệ xây dựng một công nghệ tranh luận về nó, và thế hệ được nuôi dưỡng bên trong nó tự nhiên hóa nó.
Sự bất đối xứng này có hai mặt. Thế hệ hậu-chuyển-đổi thoát khỏi nỗi đau buồn, sự mất phương hướng, và việc thương tiếc cho những bản dạng đã lỗi thời. Nhưng họ cũng mất khả năng đánh giá những gì họ được trao. Một người chưa bao giờ làm phép chia dài không thể cảm nhận được cái giá của việc không bao giờ học nó. Một xã hội chưa bao giờ thấy một tòa án chỉ có con người không thể cảm nhận được điều gì đã bị đánh đổi khi phán đoán được ủy thác. Đường cơ sở không chỉ là hoài niệm; đó là bảng điều khiển.
Trưởng thành dưới quyền lực máy móc xung quanh
Đối với trẻ em sinh ra sau quá trình chuyển đổi, AI không phải là một công cụ chúng áp dụng. Đó là môi trường — người gia sư trả lời mọi câu hỏi, người bạn đồng hành không bao giờ mệt mỏi, người trung gian đứng giữa chúng và mọi người khác.
Các trang giáo dục và trưởng thành và trẻ em và AI của cẩm nang này đề cập đến các rủi ro trước mắt và các câu hỏi nuôi dạy con cái. Trang này nói về vòng cung dài hơn: sự gắn bó, lòng tin, và sự hình thành quyền lực trông như thế nào khi mọi tương tác hình thành nhân cách đều có thể được trung gian bởi máy móc. Hai mối lo ngại chiếm ưu thế trong các tài liệu nghiêm túc. Thứ nhất mang tính phát triển: trẻ em hình thành kỳ vọng về tâm trí từ những tâm trí xung quanh chúng, và một cỗ máy luôn kiên nhẫn, luôn dễ chịu, luôn sẵn sàng dạy một mô hình bất thường về những người khác trông như thế nào và các mối quan hệ có giá gì. Thứ hai mang tính nhận thức luận: một tuổi thơ trong đó mọi câu trả lời đến ngay lập tức, trôi chảy, và tự tin tạo ra những người lớn không có cảm giác thực hành về việc không biết cảm thấy như thế nào — điều kiện tiên quyết cho cả việc học lẫn việc bị lừa dối.
Các cơ quan quản lý đã nhận thấy mối nguy hiểm cụ thể này. Đạo luật AI của EU cấm các hệ thống khai thác điểm dễ bị tổn thương của trẻ em hoặc sử dụng các kỹ thuật tiềm thức hoặc thao túng có khả năng gây tổn hại đáng kể (Quy định (EU) 2024/1689), và Hướng dẫn Chính sách của UNICEF về AI cho Trẻ em (2020) đặt ra các yêu cầu dành riêng cho trẻ em mà lĩnh vực rộng lớn hơn vẫn chậm chạp trong việc vận hành hóa. Cả hai đáng để đọc như những vạch chuẩn tối thiểu, không phải giải pháp: chúng giới hạn những gì có thể được triển khai, không phải những gì một tuổi thơ bên trong sự trung gian máy móc làm với một con người. Liệu quyền lực AI xung quanh có tạo ra những người lớn kiên cường hay phụ thuộc hay không, tính đến thời điểm viết bài này, là một câu hỏi thực nghiệm thực sự còn bỏ ngỏ — câu trả lời trung thực là thí nghiệm đang diễn ra ngay bây giờ, trên nhóm đối tượng lớn nhất có thể, không có nhóm đối chứng.
Câu hỏi về sự mất mát kiến thức
Mọi quá trình chuyển đổi đều để lại những kỹ năng bị mắc kẹt. Câu hỏi là những kỹ năng nào, và liệu điều đó có quan trọng hay không.
Hãy xem xét những gì thế hệ cuối cùng trước chuyển đổi nắm giữ một cách độc nhất: phán đoán đã được thực hành mà không có sự hỗ trợ của máy móc; kiến thức ngầm về các hệ thống vật lý — động cơ, đất đai, phẫu thuật, đàm phán — được học bằng tay và thất bại theo những cách không có trong bất kỳ hướng dẫn nào; và, quan trọng nhất, ký ức sống động về ý nghĩa của đường cơ sở cũ. Khi thế hệ đó qua đời, kiến thức chết theo trừ khi nó đã được chuyển giao một cách có chủ đích. Các thể chế bảo tồn tồn tại — Internet Archive (archive.org) và chương trình Ký ức Thế giới của UNESCO (UNESCO) là những ví dụ nổi bật — nhưng chúng bảo tồn tài liệu, không phải năng lực. Một cuốn sách giáo khoa được quét không phải là một thợ máy đang làm việc.
Liệu sự mất mát này có quan trọng hay không phụ thuộc vào nền kinh tế mà nó rơi vào. Nếu các hệ thống AI thực sự thay thế được các kỹ năng đã mất, sự mất mát là một vết thương thẩm mỹ — một nền văn hóa có ít việc hơn để làm bằng chính đôi tay của mình. Nếu các kỹ năng đó hóa ra là chịu tải trọng theo những cách mà các mô hình không có — sự vững chắc, sửa chữa vật lý, phán đoán trong các điều kiện mới lạ — sự mất mát mang tính cấu trúc. Vị trí trung thực là không ai biết thế hệ tiếp theo đang thừa kế nền kinh tế nào, và đó chính xác là lý do tại sao cẩm nang này coi bảo tồn và phục hồi tri thức là một kỷ luật sống động chứ không phải một dự án bảo tàng. Cũng có một hiệu ứng tinh tế hơn đã được ghi chép, đáng để nêu tên: bằng chứng ban đầu về việc thuê ngoài nhận thức cho thấy việc ủy thác trí nhớ cho các công cụ bên ngoài thay đổi những gì con người ghi nhớ và cách họ đánh giá kiến thức của chính mình (Sparrow, Liu & Wegner, “Hiệu ứng Google lên Trí nhớ,” Science, 2011) — một bản xem trước nhỏ, ở quy mô cá nhân, của những gì cái chết của kỹ năng trông như ở quy mô văn minh.
Người trẻ thừa kế rủi ro đuôi
Sự thật liên thế hệ sắc bén nhất về AGI mang tính phân phối: những người đưa ra quyết định thì già; những người sẽ trải qua những kết quả tồi tệ nhất thì trẻ. Một thất bại thảm khốc vào năm 2035 là một sự kiện kết thúc sự nghiệp đối với các giám đốc điều hành và quan chức đã đưa ra các quyết định đó và một sự kiện kết thúc cuộc đời đối với những đứa trẻ không đưa ra quyết định nào cả. Không có sự đồng thuận nào được tìm kiếm từ nhóm thứ hai.
Đây không phải là một cấu trúc mới. Biến đổi khí hậu là khuôn mẫu đã được xác lập: những tổn hại tích lũy qua nhiều thập kỷ, các quyết định được đưa ra bởi cử tri và cổ đông hiện tại, chi phí được gánh chịu bởi những người chưa được sinh ra. Tài liệu về công bằng khí hậu đã dành ba mươi năm để giải quyết những hàm ý của điều này — công bằng liên thế hệ như một ràng buộc, không phải một hành động từ thiện — nổi tiếng nhất trong định nghĩa của Ủy ban Brundtland về phát triển bền vững là đáp ứng nhu cầu hiện tại mà không ảnh hưởng đến khả năng đáp ứng nhu cầu của các thế hệ tương lai (Tương lai Chung của Chúng ta, 1987). Khoa học vật lý làm cho sự bất đối xứng trở nên cụ thể: các báo cáo tổng hợp của IPCC, về bản chất, là các đánh giá thiệt hại cho một dân số tương lai không có ghế ngồi tại bàn (Báo cáo Tổng hợp IPCC AR6).
Đây là những sự tương đồng, được nêu như những sự tương đồng. Rủi ro AI khác với rủi ro khí hậu về tốc độ, khả năng đảo ngược, và hình dạng — một quá trình chuyển đổi bị lệch hướng không suy thoái dần dần qua nhiều thế kỷ, và có thể không có thế hệ sau nào để kêu gọi. Nhưng cấu trúc đạo đức được chuyển giao nguyên vẹn: khi một nhóm nhỏ tập trung lợi ích của một quyết định và phân tán chi phí kịch bản xấu nhất của nó cho những người không thể bỏ phiếu, quyết định đó cần một sự biện minh không phụ thuộc vào sự đồng thuận của những người hưởng lợi.
Thế hệ này nợ thế hệ tiếp theo điều gì
Tài liệu về khí hậu cung cấp thêm một điều nữa để mượn: những nghĩa vụ cụ thể chứ không phải mang tính tu từ. Ba điều chuyển giao tốt sang quá trình chuyển đổi AGI.
Tính minh bạch. Để lại một hồ sơ về những gì đã được lựa chọn và tại sao. Các thế hệ tương lai xứng đáng biết những đánh đổi nào được thực hiện có chủ đích và những gì là tai nạn của động cơ. Một quá trình chuyển đổi diễn ra trong các thông cáo báo chí và các hồ sơ an toàn được niêm phong là không minh bạch theo thiết kế; tính minh bạch là một lựa chọn tốn rất ít bây giờ và không thể khôi phục sau này.
Năng lực. Giáo dục sống sót qua sự phụ thuộc vào mô hình. Nếu mọi kỹ năng một đứa trẻ học được là một kỹ năng mà một mô hình làm tốt hơn, đứa trẻ đã được trao sự tiêu thụ, không phải năng lực. Bài kiểm tra cho bất kỳ chương trình giảng dạy hậu-AGI nào là liệu nó có tạo ra những người vẫn có thể hoạt động, suy nghĩ, và xây dựng khi mô hình vắng mặt hay không — tiêu chuẩn mà trang công việc và ý nghĩa sống áp dụng cho người lớn.
Tính lựa chọn. Giữ cho các lựa chọn thay thế thực sự tồn tại. Một thế hệ lớn lên với chính xác một cách để học, một cách để làm việc, một cách để được đồng hành đã được trao một món quà bị khóa lại. Bảo tồn trường học do con người dạy, các phán đoán do con người đưa ra, và các thể chế do con người vận hành không phải là hoài niệm; đó là giữ cho các lựa chọn của thế hệ tiếp theo mở ra trước khả năng rằng sự đồng thuận của quá trình chuyển đổi này đã sai.
Không nghĩa vụ nào trong số này đòi hỏi phải biết quá trình chuyển đổi kết thúc như thế nào. Chúng vững chắc trên mọi kịch bản — và đó, trong một cẩm nang đầy sự bất định, là tuyên bố mạnh mẽ nhất mà trang này đưa ra.