Hãy dùng các thuật ngữ chính xác trước
“AI mã nguồn mở” thường mô tả những đợt phát hành rất khác nhau. Một nhà phát triển có thể công bố trọng số mô hình trong khi giữ lại dữ liệu huấn luyện, mã huấn luyện, phương pháp xử lý dữ liệu, chi tiết đánh giá, hoặc các quyền rộng để sửa đổi và phân phối lại. Các định nghĩa phần mềm mã nguồn mở không thể tự động được ánh xạ lên một mô hình đã huấn luyện với nguồn gốc dữ liệu mờ đục.
Do đó, trang này sử dụng thuật ngữ trọng số mở khi các tham số số học cần thiết để chạy và sửa đổi một mô hình được cung cấp rộng rãi. Một đợt phát hành có thể có trọng số mở dưới một giấy phép hạn chế, hoặc cung cấp mã mở mà không có trọng số. Tài liệu và khả năng tái lập là những chiều khác nhau.
Thuật ngữ này quan trọng vì lợi ích và rủi ro phụ thuộc vào những gì được công bố. Các nhà nghiên cứu không thể tái lập việc huấn luyện chỉ từ trọng số, nhưng trọng số vẫn có thể cho phép suy luận cục bộ, tinh chỉnh, và phân tích nội bộ mà một API ngăn cản.
Lập luận cho việc tiếp cận rộng hơn
Trọng số mở làm giảm sự phụ thuộc vào một nhóm nhỏ các nhà cung cấp được lưu trữ. Các nhà phát triển có thể chạy mô hình trên hạ tầng riêng của họ, bảo vệ các lệnh nhắc nhạy cảm khỏi một dịch vụ bên thứ ba, thích ứng hệ thống với ngôn ngữ và lĩnh vực địa phương, và tiếp tục vận hành nếu một nhà cung cấp thay đổi giá cả hoặc chính sách. Cạnh tranh có thể làm giảm chi phí và lan tỏa năng lực kỹ thuật.
Các nhà nghiên cứu có thể thanh tra kích hoạt, kiểm tra chỉnh sửa mô hình, tái lập đánh giá, và điều tra thiên kiến hoặc bảo mật mà không cần chờ sự phê duyệt của nhà cung cấp. Xã hội dân sự và các trường đại học có thể xem xét kỹ lưỡng một mô hình mà nhà phát triển của nó sẽ không cấp quyền truy cập API đặc quyền. Triển khai cục bộ có thể hỗ trợ các mục đích sử dụng liên quan đến quyền riêng tư và bị giới hạn về kết nối.
Sự cởi mở cũng có thể bảo tồn tri thức. Một dịch vụ đóng có thể biến mất; một đợt phát hành trọng số có thể được lưu trữ và nghiên cứu. Các cộng đồng có thể xây dựng các tính năng về khả năng tiếp cận và ngôn ngữ mà không mang lại lợi nhuận cho một nhà cung cấp lớn.
Những lợi ích này không phải là tự động. Việc chạy một mô hình lớn vẫn đòi hỏi phần cứng và chuyên môn. “Dân chủ hóa” có thể có nghĩa là khả năng tiếp cận cho các công ty có nguồn vốn dồi dào hơn là cho người dân bình thường. Một nhà cung cấp trọng số mở có thể hưởng lợi về mặt thương mại từ những đóng góp của hệ sinh thái, nhu cầu đám mây, hoặc việc thiết lập tiêu chuẩn. Những động lực đó nên được tiết lộ mà không bác bỏ các lợi ích công cộng.
Lập luận cho việc tiếp cận có kiểm soát
Một khi trọng số đã được sao chép rộng rãi, chúng không thể được thu hồi một cách đáng tin cậy. Người dùng có thể loại bỏ việc huấn luyện từ chối, tinh chỉnh để lạm dụng, giấu hoạt động khỏi một bộ giám sát trung tâm, và triển khai nhiều bản sao. Đây là điều đã được chứng minh, không phải giả thuyết: các nhà nghiên cứu đã loại bỏ việc huấn luyện an toàn của Llama 2-Chat 70B với chi phí dưới 200 đô la trên một GPU duy nhất bằng một kỹ thuật tinh chỉnh nhẹ (Lermen và cộng sự, 2023). Một nhà cung cấp được lưu trữ có thể giới hạn tốc độ, giám sát các mẫu hình, vá lỗi hành vi, và chấm dứt tài khoản; việc vận hành cục bộ loại bỏ phần lớn sự kiểm soát đó.
Rủi ro biên phụ thuộc vào những gì mô hình bổ sung ngoài các công cụ hiện có, API đóng, kiến thức chuyên gia, và các mô hình mở trước đó. Nếu một năng lực đã sẵn có với chi phí rẻ ở nơi khác, việc hạn chế trọng số có thể mang lại rất ít lợi ích an toàn. Nếu trọng số cho phép khai thác mạng đáng kể hơn, hỗ trợ sinh học, gian lận, hoặc vận hành tự chủ, việc công bố không thể đảo ngược có thể có ý nghĩa rất lớn.
Câu hỏi liên quan không phải là liệu thông tin có bao giờ có thể bị lạm dụng hay không, mà là liệu việc công bố này có thay đổi năng lực, quy mô, chi phí, việc quy trách nhiệm, hay khả năng tiếp cận đối với các chủ thể có khả năng gây hại hay không.
Kết luận của đánh giá bằng chứng Hoa Kỳ
Cơ quan Quản lý Thông tin và Viễn thông Quốc gia đã rà soát 332 ý kiến công khai và bằng chứng có sẵn vào năm 2024. Cơ quan này kết luận rằng bằng chứng vào thời điểm đó không đủ để hỗ trợ một hạn chế phân loại tức thời đối với tính khả dụng rộng nhất của trọng số mô hình, đồng thời khuyến nghị giám sát chủ động và năng lực của chính phủ để ứng phó nếu rủi ro thay đổi (NTIA, tháng 7 năm 2024).
Kết luận đó đã lỗi thời và có điều kiện. Nó không chứng minh rằng các đợt phát hành tiên phong trong tương lai là an toàn hay rằng các hạn chế không bao giờ có thể được biện minh. NTIA là một cơ quan chính phủ cân bằng giữa đổi mới, cạnh tranh, và an ninh; nhiều bản góp ý đến từ các công ty và những người ủng hộ có lợi ích liên quan. Báo cáo của cơ quan này là một bản tổng hợp chính sách mạnh mẽ, không phải một thí nghiệm chứng minh tác động xã hội ròng.
Cách tiếp cận phân biệt của Liên minh Châu Âu
Đạo luật AI của EU cung cấp một số miễn trừ cho các mô hình đa dụng mã nguồn mở và miễn phí đủ điều kiện khỏi các nghĩa vụ tài liệu cụ thể, nhưng không phải một sự miễn trừ toàn diện. Các nhà cung cấp mô hình đa dụng có rủi ro hệ thống vẫn phải chịu thêm các nghĩa vụ. Liệu một đợt phát hành có đủ điều kiện hay không phụ thuộc vào các tiêu chí pháp lý, bao gồm quyền truy cập và tiết lộ—chứ không phải ngôn ngữ tiếp thị (hướng dẫn GPAI của Ủy ban Châu Âu, 2025).
Điều này minh họa cho quản trị theo tầng năng lực: khuyến khích sự cởi mở ở nơi rủi ro biên có thể quản lý được trong khi vẫn duy trì nghĩa vụ cho các mô hình có rủi ro hệ thống. Việc thực thi vẫn phải đối mặt với khó khăn trong việc đánh giá năng lực trước khi công bố không thể đảo ngược.
Các phương án thay thế cho một lựa chọn nhị phân
Quyền truy cập có thể được thực hiện theo giai đoạn. Một nhà phát triển có thể bắt đầu với các đánh giá nội bộ và độc lập, sau đó cung cấp quyền truy cập nghiên cứu có kiểm soát, một dịch vụ được lưu trữ, trọng số cho các tổ chức đã qua thẩm định theo các điều kiện bảo mật, và cuối cùng là công bố công khai nếu bằng chứng ủng hộ điều đó. Sự trì hoãn có thể cho phép các bên phòng thủ vá lỗ hổng và cơ quan quản lý chuẩn bị.
Quyền truy cập có cấu trúc có thể bảo tồn một số lợi ích nghiên cứu trong khi hạn chế sự lan truyền, nhưng nó tạo ra những người gác cổng có thể loại trừ các nhà phê bình hoặc đối thủ cạnh tranh. Các tiêu chí lựa chọn, quy tắc xung đột lợi ích, quyền khiếu nại, quyền công bố, và giám sát là cần thiết. Một chương trình “nhà nghiên cứu đáng tin cậy” chỉ do nhà phát triển mô hình kiểm soát không phải là tính minh bạch độc lập.
Các lựa chọn khác bao gồm phát hành các mô hình nhỏ hơn hoặc được chưng cất, công bố mã và các đánh giá chi tiết mà không có trọng số tiên phong, cung cấp các khu vực an toàn (secure enclave) để phân tích, hoặc sử dụng các giấy phép cấm một số hành vi. Giấy phép có ảnh hưởng đến người dùng hợp pháp nhưng là rào cản kỹ thuật yếu chống lại các chủ thể có ác ý.
Cách đưa ra quyết định phát hành
Một đánh giá phát hành nghiêm túc nên so sánh:
- các năng lực nguy hiểm so với các phương án thay thế mở và đóng hiện có;
- năng lực tính toán và chuyên môn cần thiết để loại bỏ biện pháp bảo vệ hoặc tinh chỉnh;
- các lợi ích đòi hỏi trọng số một cách duy nhất thay vì quyền truy cập API;
- bảo mật của trọng số chưa được phát hành và rủi ro bị đánh cắp;
- khả năng giám sát lạm dụng sau khi phát hành;
- các nhóm bị ảnh hưởng, bao gồm các nhà nghiên cứu ngoài các quốc gia giàu có;
- khả năng đảo ngược và các lựa chọn tiếp cận theo giai đoạn;
- tài liệu mô hình, quyền cấp phép, và nguồn gốc dữ liệu.
Các đánh giá nên bao gồm hỗ trợ mạng, hóa học và sinh học, thuyết phục, tự nhân bản, quyền riêng tư, và phân biệt đối xử hoặc gian lận thông thường khi có liên quan. Một ngưỡng bài đánh giá chuẩn là không đủ nếu nó thất bại trong việc đại diện cho các quy trình làm việc thực tế.
Bảo mật thông qua sự mù mờ không phải là vấn đề duy nhất
Những người chỉ trích các hệ thống đóng lưu ý rằng việc giữ lại trọng số có thể che giấu lỗ hổng và tập trung niềm tin. Những người chỉ trích sự cởi mở lưu ý rằng việc công bố một năng lực liên quan đến vũ khí không tương đương với việc tiết lộ có trách nhiệm một lỗi phần mềm. Cả hai quan sát đều có thể đúng.
Việc tiết lộ có trách nhiệm thường cho bên phòng thủ bị ảnh hưởng thời gian để hành động. Đối với một số mô hình, sự giám sát rộng rãi có thể tạo ra nhiều biện pháp phòng thủ hơn là tác hại; đối với những mô hình khác, quyền truy cập rộng rãi có thể tạo ra một mối nguy hiểm không thể đảo ngược trước khi các biện pháp giảm thiểu tồn tại. Bằng chứng về rủi ro biên và mức độ sẵn sàng ứng phó nên quyết định trình tự.
AGI thay đổi những gì đang đặt cược nhưng không thay đổi nhu cầu về bằng chứng
Chưa có mô hình mở nào được xác lập là AGI theo một bài kiểm tra đã được thống nhất. Các tuyên bố về việc công bố trọng số AGI là phân tích kịch bản. Nếu một mô hình có thể tự chủ tiến hành nghiên cứu cấp cao, khai thác hệ thống, thu thập tài nguyên, hoặc cải thiện các phiên bản kế nhiệm, việc sao chép nó có thể làm giảm mạnh khả năng ngăn chặn. Ngược lại, việc đặt năng lực đó dưới sự kiểm soát độc quyền của công ty hoặc nhà nước có thể tạo ra sự tập trung sâu sắc và rủi ro lạm dụng.
Đây là lý do vì sao các khẩu hiệu thất bại. “Mở luôn an toàn hơn” bỏ qua tính không thể đảo ngược; “đóng luôn an toàn hơn” bỏ qua sự tập trung, đánh cắp, và thiếu sự giám sát. Chính sách trong tương lai nên xác định các điều kiện về năng lực và quyền truy cập, chứ không quản lý một nhãn hiệu.
Một lập trường cân bằng
Đối với các mô hình rủi ro thấp hơn hiện nay, sự cởi mở có thể mang lại những lợi ích đáng kể về cạnh tranh, nghiên cứu, khả năng phục hồi, quyền riêng tư, và tính bao trùm. Đối với các mô hình ngày càng có năng lực hơn, việc phát hành theo giai đoạn và đánh giá dựa trên bằng chứng trở nên quan trọng hơn. Các hạn chế nên chứng minh một rủi ro biên cụ thể, cung cấp quy trình công bằng, và được xem xét lại; các quyết định phát hành nên chứng minh vì sao quyền truy cập không thể đảo ngược là chính đáng.
Cuộc tranh luận này không phải là một lựa chọn giữa tự do và an toàn. Đó là một bài toán thiết kế liên quan đến năng lực, quyền truy cập, sự tập trung, trách nhiệm giải trình, và khả năng đảo ngược. Thuật ngữ chính xác và bằng chứng minh bạch khiến vấn đề đó có thể quản trị được.