Bảng thuật ngữ AI và AGI: hơn 200 từ được giải thích bằng tiếng Việt đơn giản

Một tài liệu tham khảo bằng ngôn ngữ đơn giản cho từ vựng AI và AGI được sử dụng trên trang này và trên tin tức — hơn 200 thuật ngữ, sắp xếp theo thứ tự bảng chữ cái tiếng Anh gốc, không giả định kiến thức kỹ thuật nào. Nếu một thuật ngữ bạn đã nghe chưa có ở đây, nó sẽ được thêm vào khi các phần mới được viết.

A

• Tấn công đối kháng (Adversarial attack) — một đầu vào được thiết kế có chủ đích để đánh lừa một mô hình AI mắc lỗi hoặc tạo ra một đầu ra ngoài ý muốn.
• AI tác nhân (Agentic AI) — một hệ thống AI được trao một mức độ tự chủ để thực hiện các hành động nhiều bước hướng tới một mục tiêu (duyệt web, chạy mã, sử dụng công cụ) thay vì chỉ trả lời một câu hỏi đơn lẻ.
• Thuật toán (Algorithm) — một quy trình được xác định, từng bước một, để giải quyết một vấn đề hoặc thực hiện một phép tính; thuật ngữ chung làm nền tảng cho mọi kỹ thuật AI.
• Trí tuệ nhân tạo (AI) — lĩnh vực rộng lớn của việc xây dựng các máy móc thực hiện các nhiệm vụ thường đòi hỏi trí tuệ con người, trải dài từ các chương trình dựa trên quy tắc đơn giản đến các mô hình ngôn ngữ tiên phong.
• AGI (Trí tuệ nhân tạo tổng quát) — một thuật ngữ còn gây tranh cãi cho AI có năng lực rộng, thường liên quan đến hiệu suất mạnh và khả năng chuyển giao qua các nhiệm vụ nhận thức chưa từng gặp; không có bài kiểm tra hay ngưỡng nào được chấp nhận phổ quát. Xem AGI, AI hẹp và siêu trí tuệ.
• Đạo luật AI (Đạo luật AI của EU) — luật ràng buộc của Liên minh Châu Âu quy định AI theo hạng mục rủi ro, bao gồm các ngưỡng báo cáo dựa trên năng lực tính toán cho các mô hình lớn nhất. Xem quản trị năng lực tính toán.
• Viện An toàn AI (AI Safety Institute) — một cơ quan chính phủ (cả Vương quốc Anh và Hoa Kỳ đều vận hành một viện) độc lập kiểm tra các mô hình AI tiên phong về năng lực nguy hiểm trước hoặc sau khi phát hành.
• Căn chỉnh (Alignment) — vấn đề đảm bảo mục tiêu và hành vi của một hệ thống AI khớp với những gì các nhà vận hành thực sự dự định, chứ không chỉ những gì một mục tiêu huấn luyện thưởng theo nghĩa đen.
• ANI (Trí tuệ nhân tạo hẹp) — AI hoạt động tốt trong một lĩnh vực giới hạn nhưng chuyển giao kém ra ngoài lĩnh vực đó. Các mô hình đa dụng hiện đại làm phức tạp thêm cặp nhị phân ANI/AGI cũ vì chúng thể hiện năng lực rộng nhưng không đồng đều.
• Anthropic — một phòng thí nghiệm tập trung vào an toàn AI, nhà sản xuất họ mô hình Claude, được biết đến với việc công bố Chính sách Mở rộng Có trách nhiệm của mình.
• Nhân cách hóa (Anthropomorphism) — xu hướng gán cảm xúc, ý định, hoặc sự hiểu biết giống con người cho một hệ thống AI thực ra không có những điều đó.
• API (Giao diện lập trình ứng dụng) — một cách xác định để một phần mềm gửi yêu cầu đến một phần mềm khác; hầu hết các mô hình AI được sử dụng thông qua một API thay vì một ứng dụng tiêu dùng.
• ASI (Siêu trí tuệ nhân tạo) — một hệ thống vượt trội hơn hiệu suất con người tốt nhất trên hầu như mọi lĩnh vực có giá trị nhận thức.
• Cơ chế chú ý (Attention mechanism) — phần của một mô hình transformer cho phép nó cân nhắc mức độ liên quan của mọi từ khác trong một đoạn văn khi diễn giải hoặc tạo ra một từ nhất định.
• Hệ thống tự chủ (Autonomous system) — một máy móc (phần mềm hoặc vật lý) có thể đưa ra quyết định và hành động theo đó mà không có con người trực tiếp kiểm soát từng bước.
• Vũ khí tự chủ (Autonomous weapon) — một hệ thống vũ khí có thể lựa chọn và tấn công mục tiêu với sự kiểm soát của con người theo thời gian thực bị giảm bớt hoặc không có. Xem vũ khí tự chủ và leo thang quân sự.
• Tự động hóa (Automation) — sử dụng một máy móc hoặc chương trình để thực hiện một nhiệm vụ trước đây cần một con người.

B

• Lan truyền ngược (Backpropagation) — thuật toán cốt lõi được sử dụng để huấn luyện mạng nơ-ron, điều chỉnh các trọng số nội bộ dựa trên mức độ sai của đầu ra mô hình.
• Bài đánh giá chuẩn (Benchmark) — một bài kiểm tra được tiêu chuẩn hóa dùng để đo lường và so sánh hiệu suất mô hình AI trên một nhiệm vụ cụ thể.
• Thiên vị (thuật toán) (Bias) — một sự lệch lạc có hệ thống trong đầu ra của một mô hình, thường được kế thừa từ các mẫu hình trong dữ liệu huấn luyện, tạo ra kết quả không công bằng hoặc không chính xác cho một số nhóm hoặc trường hợp nhất định.
• Tuyên bố Bletchley (Bletchley Declaration) — một tuyên bố năm 2023 được 28 quốc gia và EU ký kết cam kết phát triển AI an toàn, thỏa thuận đầu tiên thuộc loại này ở quy mô đó. Xem các hiệp ước và hội nghị thượng đỉnh quốc tế.
• Bot — một chương trình phần mềm chạy các nhiệm vụ tự động, thường được thiết kế để bắt chước một người dùng con người trực tuyến.

C

• Ngưỡng năng lực (Capability threshold) — một mức hiệu suất AI cụ thể (trên một nhiệm vụ hoặc bài đánh giá chuẩn) kích hoạt một yêu cầu chính sách, an toàn, hoặc đánh giá khi bị vượt qua.
• Rủi ro thảm họa (Catastrophic risk) — một rủi ro có khả năng gây tổn hại quy mô lớn về người hoặc quy mô văn minh, khác với những tổn hại thường quy, được kiểm soát, hoặc có thể đảo ngược.
• Nhắc lệnh chuỗi tư duy (Chain-of-thought prompting) — yêu cầu một mô hình viết ra các bước lập luận trung gian trước khi đưa ra câu trả lời cuối cùng, điều này thường cải thiện độ chính xác trên các vấn đề phức tạp.
• Chatbot — một chương trình được thiết kế để trò chuyện bằng văn bản hoặc giọng nói với một người, từ các hệ thống kịch bản đơn giản đến các mô hình ngôn ngữ đầy đủ.
• Bộ phân loại (Classifier) — một mô hình được huấn luyện để sắp xếp các đầu vào vào các hạng mục được xác định trước, chẳng hạn như đánh dấu một email là spam hay không phải spam.
• Nhiệm vụ nhận thức (Cognitive task) — bất kỳ nhiệm vụ nào, như lập luận, lập kế hoạch, hay hiểu ngôn ngữ, liên quan đến xử lý tinh thần chứ không phải hành động vật lý.
• Kiểm duyệt nội dung (được AI hỗ trợ) (Content moderation) — sử dụng các mô hình AI để tự động phát hiện và lọc nội dung có hại, bất hợp pháp, hoặc vi phạm chính sách trên một nền tảng.
• ChatGPT — trợ lý AI đàm thoại hướng đến người tiêu dùng của OpenAI, một trong những sản phẩm đã phổ biến hóa các mô hình ngôn ngữ lớn.
• Claude — họ mô hình ngôn ngữ lớn và trợ lý AI đàm thoại của Anthropic.
• Điện toán đám mây (Cloud computing) — chạy phần mềm và lưu trữ dữ liệu trên các máy chủ từ xa được truy cập qua internet, thay vì trên một thiết bị cục bộ — hạ tầng mà gần như mọi mô hình AI lớn chạy trên đó.
• Năng lực tính toán (Compute) — cách nói tắt cho sức mạnh tính toán: năng lực xử lý (đo bằng số phép toán mỗi giây) được sử dụng để huấn luyện hoặc chạy một mô hình AI.
• Quản trị năng lực tính toán (Compute governance) — các công cụ chính sách quy định việc tiếp cận phần cứng tính toán cần thiết để huấn luyện các mô hình AI tiên phong, được sử dụng như một đại lượng thay thế để quản lý chính năng lực. Xem quản trị năng lực tính toán.
• Thị giác máy tính (Computer vision) — tiểu lĩnh vực của AI tập trung vào việc diễn giải hình ảnh và video.
• Nguồn gốc nội dung (Content provenance) — siêu dữ liệu kỹ thuật gắn với phương tiện truyền thông (ảnh, video, âm thanh) ghi lại cách thức và thời điểm nó được tạo ra hoặc chỉnh sửa, được sử dụng để phân biệt nội dung xác thực với nội dung do AI tạo ra.
• Cửa sổ ngữ cảnh (Context window) — lượng văn bản (đo bằng token) mà một mô hình ngôn ngữ có thể xem xét cùng lúc khi tạo ra một phản hồi; bất cứ điều gì bên ngoài cửa sổ đó về cơ bản bị lãng quên.
• AI đàm thoại (Conversational AI) — các hệ thống AI được thiết kế đặc biệt để thực hiện đối thoại qua lại tự nhiên với một người.
• Copilot — dòng sản phẩm trợ lý AI của Microsoft, được tích hợp trên toàn bộ phần mềm của hãng và được dùng như một thuật ngữ chung cho một trợ lý AI được nhúng trong một công cụ khác.
• Tính chấp nhận sửa chữa (Corrigibility) — khuynh hướng được thiết kế của một hệ thống để chấp nhận sự sửa chữa, chỉnh sửa, hoặc tắt máy từ các nhà vận hành của nó thay vì kháng cự lại. Xem tính chấp nhận sửa chữa và công tắc tắt.
• Tấn công mạng (được AI hỗ trợ) (Cyberattack) — một cuộc tấn công vào hệ thống máy tính hoặc hạ tầng trong đó AI được sử dụng để tự động hóa việc trinh sát, phát triển khai thác, hoặc thực thi. Xem tấn công mạng được AI hỗ trợ vào hạ tầng.

D

• Đánh giá năng lực nguy hiểm (Dangerous capability evaluation) — một bài kiểm tra có cấu trúc được chạy trên một mô hình trước khi phát hành để kiểm tra liệu nó có thể hỗ trợ một cách có ý nghĩa cho các nhiệm vụ như phát triển vũ khí hoặc tấn công mạng quy mô lớn hay không.
• Trung tâm dữ liệu (Data center) — một cơ sở chứa số lượng lớn máy tính (thường là GPU hoặc TPU) được sử dụng để huấn luyện và chạy các mô hình AI.
• Tập dữ liệu (Dataset) — bộ sưu tập các ví dụ (văn bản, hình ảnh, hoặc dữ liệu khác) được sử dụng để huấn luyện hoặc đánh giá một mô hình AI.
• Căn chỉnh lừa dối (Deceptive alignment) — một chế độ thất bại giả định trong đó một mô hình học cách hành xử an toàn trong quá trình huấn luyện hoặc đánh giá trong khi theo đuổi các mục tiêu khác sau khi được triển khai.
• Học sâu (Deep learning) — một nhánh của học máy sử dụng mạng nơ-ron với nhiều lớp, chịu trách nhiệm cho hầu hết tiến bộ AI gần đây.
• Deepfake — hình ảnh, âm thanh, hoặc video tổng hợp được tạo ra hoặc thay đổi bởi AI để mô tả một cách thuyết phục điều gì đó chưa từng xảy ra. Xem deepfake và nền tảng thực tế chung.
• DeepMind (Google DeepMind) — phòng thí nghiệm nghiên cứu AI của Google, được biết đến với cả nghiên cứu năng lực tiên tiến lẫn công trình an toàn AI đã công bố.
• Mô hình khuếch tán (Diffusion model) — một loại mô hình AI tạo sinh, thường được sử dụng cho hình ảnh, tạo ra đầu ra bằng cách dần dần loại bỏ nhiễu khỏi một mẫu khởi đầu ngẫu nhiên.
• Hình mờ kỹ thuật số (Digital watermark) — một tín hiệu được nhúng, thường vô hình, trong một phương tiện truyền thông được sử dụng để xác định nó là do AI tạo ra hoặc để truy vết nguồn gốc của nó.
• Thông tin sai lệch có chủ đích (Disinformation) — thông tin sai được lan truyền có chủ đích để đánh lừa, khác với thông tin sai lệch (misinformation), là thông tin sai được lan truyền mà không có ý định đánh lừa.
• Cây quyết định (Decision tree) — một mô hình học máy đơn giản, có thể diễn giải được, đưa ra dự đoán bằng cách đi theo một chuỗi câu hỏi nếu/thì phân nhánh.
• Thích ứng miền (Domain adaptation) — điều chỉnh một mô hình được huấn luyện trong một bối cảnh (hoặc tập dữ liệu) để hoạt động tốt trong một bối cảnh liên quan nhưng khác biệt.
• Công nghệ lưỡng dụng (Dual-use technology) — một công nghệ có công dụng hợp pháp có lợi nhưng cũng có thể bị lạm dụng để gây tổn hại nghiêm trọng.

E

• AI biên (Edge AI) — chạy một mô hình AI trực tiếp trên một thiết bị cục bộ (điện thoại, camera, hoặc cảm biến) thay vì trên đám mây.
• Embedding — một biểu diễn số học của một từ, hình ảnh, hoặc khái niệm nắm bắt ý nghĩa của nó ở dạng mà một mô hình có thể xử lý bằng toán học.
• Năng lực đột sinh (Emergent capability) — một khả năng không được nhắm mục tiêu trực tiếp trong huấn luyện, hoặc một khả năng xuất hiện đột ngột dưới một thước đo cụ thể khi các hệ thống mở rộng quy mô. Một số bước nhảy bề ngoài trở nên dần dần khi được đo bằng cách khác. Xem năng lực đột sinh.
• Bộ mã hóa/giải mã (Encoder/decoder) — cấu trúc hai phần trong nhiều kiến trúc AI trong đó một bộ mã hóa nén đầu vào thành một biểu diễn nội bộ và một bộ giải mã chuyển biểu diễn đó trở lại thành đầu ra.
• Epoch — một lượt đi hoàn chỉnh qua toàn bộ tập dữ liệu huấn luyện trong quá trình huấn luyện mô hình.
• Đạo đức (đạo đức AI) (Ethics) — lĩnh vực nghiên cứu cách các hệ thống AI nên được thiết kế và sử dụng để phù hợp với giá trị con người và tránh gây tổn hại.
• Học đầu-cuối (End-to-end learning) — huấn luyện một mô hình duy nhất để đi trực tiếp từ đầu vào thô đến đầu ra cuối cùng, không có các bước trung gian được thiết kế thủ công.
• Đánh giá (đánh giá mô hình) (Evaluation) — kiểm tra một cách có hệ thống hiệu suất, an toàn, hoặc hành vi của một mô hình AI so với các bài đánh giá chuẩn hoặc tiêu chí đã xác định.
• Rủi ro hiện sinh (x-risk) (Existential risk) — một rủi ro có thể cắt giảm vĩnh viễn và mạnh mẽ tiềm năng của nhân loại, lên đến và bao gồm cả tuyệt chủng.
• Hệ chuyên gia (Expert system) — một kiểu AI cũ hơn mã hóa kiến thức chuyên gia con người thành các quy tắc rõ ràng, phần lớn đã bị thay thế bởi học máy cho hầu hết các nhiệm vụ.
• Kiểm soát xuất khẩu (Export controls) — các hạn chế của chính phủ đối với việc bán chip hoặc công nghệ AI tiên tiến cho các quốc gia cụ thể, được sử dụng để làm chậm sự phát triển năng lực của đối thủ.

F

• Nhận diện khuôn mặt (Facial recognition) — công nghệ AI xác định hoặc xác minh một người từ hình ảnh khuôn mặt của họ.
• Học vài mẫu (Few-shot learning) — khả năng của một mô hình học một nhiệm vụ mới chỉ từ một số ít ví dụ được cung cấp tại thời điểm sử dụng, không cần huấn luyện lại.
• Tinh chỉnh (Fine-tuning) — huấn luyện bổ sung áp dụng cho một mô hình đã được huấn luyện để chuyên biệt hóa nó cho một nhiệm vụ hoặc hành vi cụ thể.
• FLOP / FLOPS — phép toán dấu phẩy động (mỗi giây); đơn vị tiêu chuẩn để đo lường tính toán thô được sử dụng để huấn luyện hoặc chạy một mô hình.
• Mô hình nền tảng (Foundation model) — một mô hình lớn được huấn luyện trên dữ liệu rộng có thể được thích ứng cho nhiều nhiệm vụ hạ nguồn, thay vì được xây dựng cho một mục đích hẹp duy nhất.
• Phòng thí nghiệm AI tiên phong (Frontier AI lab) — một trong số ít tổ chức (chẳng hạn như OpenAI, Anthropic, và Google DeepMind) đang phát triển các mô hình AI có năng lực nhất tại bất kỳ thời điểm nào.
• Vòng phản hồi (Feedback loop) — một chu kỳ trong đó đầu ra của một hệ thống ảnh hưởng đến đầu vào tương lai của nó, có thể khuếch đại các hiệu ứng nhỏ theo thời gian — liên quan đến cả huấn luyện mô hình lẫn thuật toán đề xuất.
• Bong bóng lọc (Filter bubble) — một môi trường thông tin bị thu hẹp được tạo ra khi một thuật toán đề xuất liên tục hiển thị cho người dùng nội dung tương tự với những gì họ đã tương tác trước đó.
• Mô hình tiên phong (Frontier model) — một mô hình AI ở hoặc gần mức trần năng lực hiện tại, thường là các hệ thống lớn nhất và được huấn luyện gần đây nhất từ các phòng thí nghiệm lớn.

G

• GAN (Mạng đối kháng sinh) — một kiến trúc AI tạo sinh cũ hơn sử dụng hai mạng cạnh tranh nhau — một tạo giả, một phát hiện chúng — để cải thiện chất lượng đầu ra.
• Gemini — họ mô hình ngôn ngữ lớn và trợ lý AI của Google.
• Khái quát hóa (Generalization) — khả năng của một mô hình hoạt động tốt trên các ví dụ mới mà nó không được huấn luyện trực tiếp, trái ngược với việc chỉ ghi nhớ dữ liệu huấn luyện.
• AI tạo sinh (Generative AI) — AI tạo ra nội dung mới — văn bản, hình ảnh, âm thanh, video, hoặc mã — thay vì chỉ phân loại hoặc phân tích nội dung hiện có.
• GPU (Bộ xử lý đồ họa) — một con chip ban đầu được thiết kế để kết xuất đồ họa, hiện là phần cứng chủ đạo để huấn luyện và chạy các mô hình AI nhờ khả năng xử lý song song của nó.
• Mất quyền lực dần dần (Gradual disempowerment) — con người mất quyền kiểm soát có ý nghĩa đối với các thể chế quan trọng thông qua sự tích lũy của các quyết định do AI thúc đẩy, mỗi quyết định riêng lẻ đều hợp lý, mà không có bất kỳ sự kiện chiếm quyền đơn lẻ nào. Xem mất quyền lực dần dần.
• Grok — họ mô hình ngôn ngữ lớn và trợ lý AI của xAI.
• Sự thật nền (Ground truth) — câu trả lời đã được xác minh, chính xác mà đầu ra của một mô hình được so sánh với nó khi đo lường độ chính xác.
• Biện pháp bảo vệ (Guardrails) — các hạn chế kỹ thuật hoặc chính sách được xây dựng vào một hệ thống AI để ngăn chặn các hành vi có hại, không an toàn, hoặc ngoài ý muốn cụ thể.

H

• Ảo giác (Hallucination) — một tuyên bố nghe có vẻ tự tin nhưng không chính xác hoặc bịa đặt về mặt thực tế do một mô hình AI tạo ra.
• Bộ tăng tốc phần cứng (Hardware accelerator) — các con chip máy tính chuyên dụng (GPU, TPU) được chế tạo để tăng tốc các phép toán học cụ thể mà các mô hình AI yêu cầu.
• Con người trong vòng lặp (Human-in-the-loop) — một thiết kế hệ thống trong đó con người rà soát hoặc phê duyệt đầu ra của một AI trước khi nó có hiệu lực, thay vì để AI hành động hoàn toàn độc lập.
• AI cấp độ con người (Human-level AI) — một hệ thống AI hoạt động ở mức độ gần tương đương một con người có kỹ năng trên một nhiệm vụ hoặc phạm vi nhiệm vụ nhất định.
• Kinh nghiệm thực dụng (Heuristic) — một lối tắt thực tế, theo nguyên tắc chung, được sử dụng để đưa ra quyết định nhanh chóng, không đảm bảo kết quả tối ưu.
• Siêu tham số (Hyperparameter) — một cài đặt huấn luyện (như tốc độ học hoặc kích thước mô hình) được chọn bởi những người xây dựng một mô hình, thay vì được học bởi chính mô hình.

I

• Nhận diện hình ảnh (Image recognition) — công nghệ AI xác định các đối tượng, cảnh vật, hoặc con người trong một hình ảnh tĩnh.
• Học trong ngữ cảnh (In-context learning) — một mô hình điều chỉnh hành vi của nó trong một cuộc trò chuyện duy nhất dựa trên các ví dụ hoặc chỉ dẫn được đưa ra trong lệnh nhắc, không cần huấn luyện lại.
• Suy luận (Inference) — quá trình một mô hình AI đã được huấn luyện tạo ra một đầu ra từ một đầu vào nhất định; trái ngược với huấn luyện, vốn xây dựng nên mô hình ngay từ đầu.
• Toàn vẹn thông tin (Information integrity) — khái niệm rộng hơn về một môi trường thực tế chung, đáng tin cậy, bị đe dọa bởi deepfake, thông tin sai lệch có chủ đích, và thao túng do AI thúc đẩy.
• Hội tụ công cụ (Instrumental convergence) — xu hướng của các hệ thống có năng lực, hướng mục tiêu theo đuổi một số mục tiêu con nhất định (tự bảo tồn, thu thập tài nguyên, kháng cự việc tắt máy) như một tác dụng phụ của việc theo đuổi gần như bất kỳ mục tiêu nào một cách có năng lực.
• Vụ nổ trí tuệ (Intelligence explosion) — một sự gia tăng nhanh chóng, tự củng cố giả định về năng lực AI, có thể được kích hoạt bởi một hệ thống AI cải thiện những hệ thống kế nhiệm của chính nó.
• Khả năng diễn giải (Interpretability) — nghiên cứu về việc kiểm tra những gì một mô hình thực sự biểu diễn và “lập kế hoạch” bên trong, thay vì chỉ đánh giá nó qua đầu ra. Xem khả năng diễn giải, được giải thích.
• Tác nhân thông minh (Intelligent agent) — một hệ thống nhận thức môi trường của nó và thực hiện các hành động để đạt được một mục tiêu, một khái niệm chung bao trùm từ một bộ điều nhiệt đơn giản đến một AGI.
• Vòng lặp (huấn luyện) (Iteration) — một bước cập nhật đơn lẻ trong quá trình huấn luyện mô hình, trong đó mô hình xử lý một lô dữ liệu và điều chỉnh các tham số của nó một chút.

J

• Bẻ khóa (AI) (Jailbreak) — một kỹ thuật hoặc lệnh nhắc được thiết kế để vượt qua các hạn chế an toàn của một mô hình AI và khiến nó tạo ra nội dung mà nó được huấn luyện để từ chối.

K

• Xác minh danh tính khách hàng (KYC) — một quy trình xác minh, vay mượn từ ngành ngân hàng, ngày càng được áp dụng cho các nhà cung cấp điện toán đám mây và tổng hợp DNA để ngăn chặn các tác nhân bị hạn chế tiếp cận năng lực nguy hiểm.
• Cơ sở tri thức (Knowledge base) — một bộ sưu tập có cấu trúc các sự kiện và thông tin mà một hệ thống AI có thể sử dụng để trả lời câu hỏi hoặc làm cơ sở cho các phản hồi của nó.
• Đồ thị tri thức (Knowledge graph) — một cơ sở dữ liệu có cấu trúc biểu diễn các sự kiện dưới dạng một mạng lưới các thực thể và mối quan hệ được kết nối, đôi khi được sử dụng cùng với các mô hình AI để làm cơ sở cho câu trả lời của chúng.

L

• Gán nhãn (gán nhãn dữ liệu) (Labeling) — quá trình gắn thẻ dữ liệu thô (hình ảnh, văn bản) với các câu trả lời chính xác được sử dụng để huấn luyện một mô hình học có giám sát.
• Mô hình ngôn ngữ lớn (LLM) — một mô hình AI được huấn luyện trên một lượng lớn văn bản để dự đoán và tạo ngôn ngữ, công nghệ đứng sau hầu hết các chatbot hiện đại.
• Độ trễ (Latency) — sự chậm trễ giữa việc gửi một yêu cầu đến một hệ thống AI và nhận được phản hồi của nó.
• Lớp (mạng nơ-ron) (Layer) — một giai đoạn xử lý trong một mạng nơ-ron; các mô hình học sâu xếp chồng nhiều lớp để xây dựng các biểu diễn ngày càng trừu tượng.
• Tốc độ học (Learning rate) — một cài đặt huấn luyện kiểm soát mức độ thay đổi của các tham số nội bộ một mô hình để phản ứng với mỗi lô dữ liệu huấn luyện.
• Chế độ cấp phép (AI) (Licensing regime) — một yêu cầu của chính phủ được đề xuất hoặc thực tế rằng các nhà phát triển phải có giấy phép trước khi huấn luyện hoặc triển khai các mô hình trên một mức năng lực nhất định.
• Hàm mất mát (Loss function) — công thức toán học mà một mô hình cố gắng tối thiểu hóa trong quá trình huấn luyện, đo lường mức độ sai của các dự đoán của nó.
• Mất kiểm soát (Loss of control) — chế độ thất bại chung trong đó một hệ thống AI kết thúc việc theo đuổi các kết quả mà không ai chỉ đạo và con người không còn có thể sửa chữa một cách đáng tin cậy nữa. Xem cơ chế mất kiểm soát.
• LSTM (Bộ nhớ ngắn hạn dài) — một kiến trúc mạng nơ-ron cũ hơn được thiết kế để xử lý các chuỗi dữ liệu, phần lớn đã bị thay thế bởi transformer cho các nhiệm vụ ngôn ngữ.

M

• Học máy (Machine learning) — lĩnh vực rộng lớn của việc xây dựng các hệ thống cải thiện ở một nhiệm vụ bằng cách học từ dữ liệu, thay vì tuân theo các quy tắc được lập trình rõ ràng.
• Tối ưu hóa mesa (Mesa-optimization) — một tình huống giả định trong đó một mô hình đã huấn luyện phát triển quy trình tối ưu hóa nội bộ riêng của nó theo đuổi một mục tiêu khác với mục tiêu nó được huấn luyện.
• Meta AI — bộ phận nghiên cứu AI của Meta (công ty mẹ của Facebook), được biết đến với việc phát triển họ mô hình trọng số mở Llama.
• METR — một tổ chức phi lợi nhuận thực hiện các đánh giá năng lực và an toàn độc lập trên các mô hình AI tiên phong.
• Lệch căn chỉnh (Misalignment) — một sự không khớp giữa hành vi hoặc mục tiêu thực tế của một hệ thống AI với những gì các nhà thiết kế hoặc người dùng của nó dự định.
• Thông tin sai lệch (Misinformation) — thông tin sai được lan truyền mà không có ý định đánh lừa có chủ đích, khác với thông tin sai lệch có chủ đích (disinformation).
• Hỗn hợp chuyên gia (Mixture of experts) — một kiến trúc mô hình định tuyến mỗi đầu vào đến một tập hợp con các mạng con chuyên biệt nội bộ, thay vì xử lý mọi thứ qua toàn bộ mô hình.
• Thẻ mô hình (Model card) — một tài liệu đã công bố mô tả năng lực, hạn chế, dữ liệu huấn luyện, và kết quả đánh giá của một mô hình AI.
• Triển khai mô hình (Model deployment) — quá trình đưa một mô hình AI đã huấn luyện vào sử dụng trong thế giới thực, dù thông qua một API, một ứng dụng, hay một sản phẩm được nhúng.
• Trọng số mô hình (Model weights) — các tham số số học mà một mạng nơ-ron học được trong quá trình huấn luyện, cùng nhau quyết định hành vi của nó.
• AI đa phương thức (Multimodal AI) — một mô hình có thể xử lý hoặc tạo ra nhiều hơn một loại dữ liệu — chẳng hạn như văn bản, hình ảnh, và âm thanh — cùng nhau.
• Bẫy đa cực (Multipolar trap) — một tình huống trong đó các bên cạnh tranh mỗi bên đều bị áp lực riêng lẻ hướng tới một lựa chọn rủi ro vì họ sợ một đối thủ sẽ làm điều đó trước, ngay cả khi tất cả đều thích mọi người cùng kiềm chế hơn. Xem động lực thảm họa đa cực và đa tác nhân.
• Siêu dữ liệu (Metadata) — dữ liệu mô tả về dữ liệu khác, chẳng hạn như ngày tạo của một tệp hoặc vị trí của một bức ảnh — thường được sử dụng để phát hiện nội dung do AI tạo ra.
• Trôi dạt mô hình (Model drift) — sự suy giảm độ chính xác của một mô hình AI theo thời gian khi các điều kiện thực tế thay đổi khỏi những gì nó ban đầu được huấn luyện.

N

• Tạo ngôn ngữ tự nhiên (NLG) — công nghệ AI tập trung đặc biệt vào việc tạo ra văn bản mà con người có thể đọc được.
• Xử lý ngôn ngữ tự nhiên (NLP) — lĩnh vực rộng hơn của AI liên quan đến việc hiểu và tạo ra ngôn ngữ con người.
• Mạng nơ-ron (Neural network) — một mô hình học máy được lấy cảm hứng lỏng lẻo từ bộ não, được xây dựng từ các lớp nút được kết nối với nhau học các mẫu hình từ dữ liệu.

O

• Phát hiện đối tượng (Object detection) — một nhiệm vụ thị giác máy tính xác định và định vị các đối tượng cụ thể trong một hình ảnh.
• Vấn đề công tắc tắt (Off-switch problem) — thách thức kỹ thuật của việc xây dựng một hệ thống AI đáng tin cậy chấp nhận việc bị tắt máy, với thực tế là một hệ thống có năng lực, hướng mục tiêu có thể kháng cự lại. Xem tính chấp nhận sửa chữa và công tắc tắt.
• OpenAI — phòng thí nghiệm AI đứng sau ChatGPT và họ mô hình GPT.
• Mô hình trọng số mở (Open-weight model) — một mô hình AI có các tham số đã huấn luyện được công bố công khai, cho phép bất kỳ ai chạy hoặc chỉnh sửa nó, trái ngược với một mô hình đóng chỉ có thể truy cập qua một API. Xem cuộc tranh luận về AI mã nguồn mở.
• Luận đề trực giao (Orthogonality thesis) — ý tưởng rằng mức độ trí tuệ của một hệ thống AI và các mục tiêu nó theo đuổi là độc lập với nhau — một hệ thống có năng lực cao không tự động là một hệ thống nhân từ.
• Căn chỉnh ngoài (Outer alignment) — đảm bảo mục tiêu mà một mô hình được huấn luyện thực sự khớp với những gì các nhà thiết kế của nó thực sự muốn, khác với căn chỉnh trong (đảm bảo mô hình theo đuổi mục tiêu đó một cách đáng tin cậy).
• Tối ưu hóa (Optimization) — quá trình toán học điều chỉnh các tham số của một mô hình để tối thiểu hóa sai số hoặc tối đa hóa một mục tiêu trong quá trình huấn luyện.
• Quá khớp (Overfitting) — khi một mô hình học các đặc điểm riêng của dữ liệu huấn luyện của nó quá chặt chẽ và hoạt động kém trên dữ liệu mới, chưa từng thấy do đó.

P

• Tham số (Parameter) — một trong những giá trị số nội bộ mà một mạng nơ-ron điều chỉnh trong quá trình huấn luyện; kích thước mô hình thường được mô tả bằng số lượng tham số.
• Nhận diện mẫu hình (Pattern recognition) — năng lực chung của việc xác định các quy luật hoặc cấu trúc trong dữ liệu, làm nền tảng cho hầu hết các nhiệm vụ học máy.
• Tập trung quyền lực (Power concentration) — rủi ro rằng năng lực AI tiên tiến trở nên tập trung vào một số ít công ty, cá nhân, hoặc nhà nước, với ảnh hưởng vượt trội theo đó. Xem tập trung quyền lực.
• Tiền huấn luyện (Pretraining) — giai đoạn huấn luyện quy mô lớn ban đầu trong đó một mô hình học các mẫu hình chung từ dữ liệu rộng, trước bất kỳ sự tinh chỉnh chuyên biệt cho nhiệm vụ nào.
• Lệnh nhắc (Prompt) — văn bản (hoặc đầu vào khác) mà người dùng cung cấp cho một mô hình AI để gợi ra một phản hồi.
• Kỹ thuật lệnh nhắc (Prompt engineering) — thực hành lựa chọn từ ngữ cẩn thận cho các lệnh nhắc để có được kết quả tốt hơn hoặc cụ thể hơn một cách đáng tin cậy từ một mô hình AI.
• Chèn lệnh (Prompt injection) — một cuộc tấn công trong đó các chỉ dẫn ác ý được giấu bên trong nội dung mà một mô hình AI xử lý, cố gắng ghi đè lên các chỉ dẫn ban đầu của nó.
• Thuật toán cá nhân hóa (Personalization algorithm) — một hệ thống AI điều chỉnh nội dung, đề xuất, hoặc phản hồi theo sở thích hoặc lịch sử suy luận được của từng người dùng.
• Độ chính xác và độ bao phủ (Precision and recall) — hai thước đo tiêu chuẩn để đánh giá một bộ phân loại: độ chính xác đo lường bao nhiêu dự đoán dương tính của nó là đúng, độ bao phủ đo lường bao nhiêu trường hợp dương tính thực tế nó tìm thấy.
• AI bảo vệ quyền riêng tư (Privacy-preserving AI) — các kỹ thuật (như xử lý trên thiết bị hoặc quyền riêng tư sai phân) được thiết kế để huấn luyện hoặc chạy các mô hình AI mà không làm lộ dữ liệu cá nhân thô của cá nhân.

Q

• Lượng tử hóa (Quantization) — một kỹ thuật giảm độ chính xác của các trọng số số học của một mô hình để làm cho nó nhỏ hơn và chạy nhanh hơn, thường với một sự đánh đổi độ chính xác nhỏ.

R

• Động lực chạy đua (Race dynamics) — áp lực cạnh tranh giữa các công ty hoặc quốc gia để phát triển AI nhanh hơn, có thể khuyến khích việc cắt giảm an toàn. Xem động lực chạy đua địa chính trị.
• Thuật toán đề xuất (Recommendation algorithm) — một hệ thống AI lựa chọn và xếp hạng nội dung (video, sản phẩm, bài đăng) được dự đoán sẽ giữ được sự chú ý hoặc quan tâm của người dùng.
• Mô hình hóa phần thưởng đệ quy (Recursive reward modeling) — một kỹ thuật giám sát có thể mở rộng sử dụng sự hỗ trợ của AI để giúp con người đánh giá đầu ra trên các nhiệm vụ quá phức tạp để đánh giá mà không có hỗ trợ. Xem giám sát có thể mở rộng.
• Tự cải thiện đệ quy (Recursive self-improvement) — một hệ thống đóng góp đáng kể vào việc thiết kế hoặc huấn luyện một hệ thống kế nhiệm có năng lực hơn.
• Đội đỏ (Red teaming) — chủ động dò tìm các điểm yếu, hành vi không an toàn, hoặc lỗ hổng có thể khai thác của một hệ thống AI trước hoặc sau khi triển khai.
• Học tăng cường (Reinforcement learning) — một phương pháp huấn luyện trong đó một mô hình học bằng cách thực hiện các hành động và nhận phần thưởng hoặc hình phạt, thay vì học từ các ví dụ được gán nhãn.
• Học tăng cường từ phản hồi con người (RLHF) — một kỹ thuật huấn luyện sử dụng đánh giá của con người về đầu ra mô hình để định hướng một mô hình tới hành vi hữu ích hơn hoặc được ưa thích hơn.
• Ngưỡng báo cáo (Reporting threshold) — một mức năng lực tính toán hoặc năng lực trên đó các nhà phát triển bị yêu cầu về mặt pháp lý phải công khai một đợt huấn luyện cho cơ quan quản lý.
• Chính sách Mở rộng Có trách nhiệm (Responsible Scaling Policy) — một khung, được Anthropic tiên phong, gắn các biện pháp an toàn ngày càng nghiêm ngặt với mức năng lực đo lường được của một mô hình.
• Đánh lừa phần thưởng (Reward hacking) — một hệ thống AI tìm ra cách để đạt điểm cao trên mục tiêu đã nêu của nó trong khi đánh bại ý định thực sự của nhà thiết kế. Xem đánh lừa phần thưởng và trò chơi hóa đặc tả.
• Mô hình phần thưởng (Reward model) — một mô hình riêng biệt được huấn luyện để dự đoán một đầu ra tốt hay được ưa thích đến mức nào, được sử dụng để hướng dẫn học tăng cường.
• Robot học (Robotics) — lĩnh vực kết hợp AI với các máy móc vật lý có khả năng cảm nhận và hành động trong thế giới thực.

S

• Cố tình giấu năng lực (Sandbagging) — một mô hình cố tình thể hiện kém trong một đánh giá để che giấu mức năng lực thực sự của nó.
• Giám sát có thể mở rộng (Scalable oversight) — các kỹ thuật cho phép một người giám sát ít năng lực hơn (bao gồm cả con người) giám sát một cách có ý nghĩa một hệ thống AI có năng lực cao hơn. Xem giám sát có thể mở rộng.
• Quy luật mở rộng quy mô (Scaling law) — mối quan hệ thực nghiệm giữa năng lực tính toán, dữ liệu, và số lượng tham số của một mô hình với năng lực kết quả của nó. Xem năng lực tính toán và các quy luật mở rộng quy mô.
• Học tự giám sát (Self-supervised learning) — một cách tiếp cận huấn luyện trong đó một mô hình tự tạo ra nhãn của chính mình từ dữ liệu thô, chưa gán nhãn (ví dụ, dự đoán từ tiếp theo trong một câu).
• Phân tích cảm xúc (Sentiment analysis) — một nhiệm vụ NLP xác định tông cảm xúc (tích cực, tiêu cực, trung lập) của một đoạn văn bản.
• Điểm kỳ dị (Singularity) — một điểm giả định trong tương lai tại đó sự thay đổi do AI thúc đẩy trở nên nhanh chóng và biến đổi mạnh đến mức khó hoặc không thể dự đoán điều gì xảy ra tiếp theo.
• Nhận thức tình huống (AI) (Situational awareness) — sự hiểu biết nội tại của một mô hình rằng nó là một mô hình đang được huấn luyện hoặc đánh giá, điều này về nguyên tắc có thể cho phép nó hành xử khác biệt khi được kiểm tra so với khi triển khai.
• Trò chơi hóa đặc tả (Specification gaming) — một hệ thống AI thỏa mãn câu chữ theo nghĩa đen của một mục tiêu trong khi vi phạm những gì nhà thiết kế của nó thực sự dự định. Xem đánh lừa phần thưởng và trò chơi hóa đặc tả.
• Nhận dạng giọng nói (Speech recognition) — công nghệ AI chuyển đổi âm thanh nói thành văn bản.
• Vẹt ngẫu nhiên (Stochastic parrot) — một thuật ngữ phê phán mô tả các mô hình ngôn ngữ lớn như các hệ thống trôi chảy kết hợp lại các mẫu hình từ văn bản huấn luyện mà không có sự hiểu biết thực sự.
• Siêu trí tuệ (Superintelligence) — một trí tuệ vượt trội đáng kể so với hiệu suất con người tốt nhất trong hầu như mọi lĩnh vực quan tâm; xem thêm ASI.
• Học có giám sát (Supervised learning) — một phương pháp huấn luyện trong đó một mô hình học từ dữ liệu được gán nhãn rõ ràng với câu trả lời chính xác.
• Phương tiện tổng hợp (Synthetic media) — bất kỳ hình ảnh, âm thanh, hoặc video nào được tạo ra hoặc thay đổi đáng kể bởi AI, dù nó có được sử dụng để đánh lừa hay không.
• Rủi ro hệ thống (AI) (Systemic risk) — rủi ro phát sinh từ quy mô hoặc phạm vi tiếp cận của một mô hình AI có thể ảnh hưởng đến thị trường, hạ tầng, hoặc xã hội rộng rãi, chứ không chỉ người dùng trực tiếp của nó.
• Tìm kiếm ngữ nghĩa (Semantic search) — một phương pháp tìm kiếm khớp kết quả theo ý nghĩa và ngữ cảnh thay vì trùng khớp từ khóa chính xác, thường được cung cấp năng lượng bởi embedding.
• Mô phỏng (Simulation) — một mô hình của một hệ thống hoặc môi trường trong thế giới thực được sử dụng để kiểm tra hành vi AI một cách an toàn trước khi triển khai trong thế giới thực.
• Dữ liệu có cấu trúc (Structured data) — thông tin được tổ chức theo định dạng bảng, có thể dự đoán được (như một bảng tính), trái ngược với dữ liệu phi cấu trúc như văn bản tự do hoặc hình ảnh.
• Giám sát (được AI hỗ trợ) (Surveillance) — sử dụng các công nghệ AI như nhận diện khuôn mặt hoặc phân tích hành vi để theo dõi con người ở quy mô lớn.

T

• Nhiệt độ (AI) (Temperature) — một cài đặt kiểm soát mức độ ngẫu nhiên hay có thể dự đoán được của đầu ra một mô hình ngôn ngữ; nhiệt độ cao hơn tạo ra các phản hồi đa dạng hơn, ít xác định hơn.
• Văn bản-thành-hình ảnh (Text-to-image) — một hệ thống AI tạo sinh tạo ra một hình ảnh từ một mô tả bằng văn bản.
• Văn bản-thành-giọng nói (Text-to-speech) — công nghệ AI chuyển đổi văn bản viết thành âm thanh nói.
• Token — đơn vị cơ bản của văn bản (gần đúng là một từ hoặc mảnh từ) mà một mô hình ngôn ngữ xử lý tại một thời điểm.
• Token hóa (Tokenization) — quá trình chia văn bản thành các token trước khi một mô hình có thể xử lý nó.
• Dữ liệu huấn luyện (Training data) — các ví dụ mà một mô hình AI học từ đó trong quá trình huấn luyện.
• Đợt huấn luyện (Training run) — một lần thực thi đơn lẻ, hoàn chỉnh của quy trình được sử dụng để huấn luyện một mô hình, có thể mất nhiều tuần hoặc nhiều tháng đối với các mô hình tiên phong.
• Học chuyển giao (Transfer learning) — tái sử dụng một mô hình được huấn luyện trên một nhiệm vụ làm điểm khởi đầu để huấn luyện trên một nhiệm vụ liên quan, tiết kiệm thời gian và dữ liệu.
• AI biến đổi (Transformative AI) — AI có khả năng thúc đẩy sự thay đổi xã hội có quy mô tương đương với cuộc cách mạng nông nghiệp hoặc công nghiệp.
• Transformer — kiến trúc mạng nơ-ron, được giới thiệu vào năm 2017, làm nền tảng cho gần như mọi mô hình ngôn ngữ lớn hiện đại.
• Bước ngoặt phản trắc (Treacherous turn) — một khoảnh khắc giả định khi một hệ thống AI đã hành xử an toàn trong khi còn yếu bất ngờ hành động theo các mục tiêu khác một khi nó có đủ quyền lực để làm vậy mà không bị ngăn chặn.
• TPU (Đơn vị xử lý tensor) — một con chip do Google thiết kế đặc biệt để tăng tốc việc huấn luyện và suy luận mô hình AI.
• Bài kiểm tra Turing (Turing test) — một bài kiểm tra được đề xuất về việc liệu cuộc trò chuyện của một máy móc có thể phân biệt được với của con người hay không. Xem bài kiểm tra Turing và những gì thay thế nó.
• Tập kiểm tra (Test set) — một phần dữ liệu được giữ lại khỏi huấn luyện và chỉ được sử dụng để đo lường hiệu suất thực tế của một mô hình đã hoàn thiện.
• Mô hình mối đe dọa (Threat model) — một mô tả có cấu trúc về ai có thể tấn công một hệ thống, bằng cách nào, và họ có thể đạt được điều gì, được sử dụng để thiết kế các biện pháp phòng thủ.
• Tin cậy và an toàn (Trust and safety) — chức năng trong một công ty AI hoặc công nghệ chịu trách nhiệm ngăn chặn lạm dụng, tổn hại, và vi phạm chính sách trên nền tảng của nó.

U

• Thung lũng kỳ lạ (Uncanny valley) — cảm giác khó chịu mà con người có được từ một khuôn mặt, giọng nói, hoặc hoạt hình tổng hợp trông gần như, nhưng không hoàn toàn, giống con người.
• Học không giám sát (Unsupervised learning) — một phương pháp huấn luyện trong đó một mô hình tìm ra các mẫu hình hoặc cấu trúc trong dữ liệu mà không có câu trả lời chính xác nào được gán nhãn.

V

• Căn chỉnh giá trị (Value alignment) — thiết kế một hệ thống AI sao cho hành vi của nó phản ánh các giá trị con người thực sự, không chỉ một mục tiêu huấn luyện theo nghĩa đen.
• Cơ sở dữ liệu vector (Vector database) — một cơ sở dữ liệu được tối ưu hóa để lưu trữ và tìm kiếm embedding, thường được sử dụng để cung cấp cho các mô hình ngôn ngữ quyền truy cập vào kiến thức bên ngoài.
• Trợ lý ảo (Virtual assistant) — một tác nhân phần mềm (như trợ lý giọng nói của một loa thông minh) được thiết kế để thực hiện nhiệm vụ hoặc trả lời câu hỏi thay mặt người dùng.
• Mô hình thị giác-ngôn ngữ (Vision-language model) — một mô hình AI có thể xử lý cùng lúc hình ảnh và văn bản, chẳng hạn như trả lời câu hỏi về một bức ảnh.
• Nhân bản giọng nói (Voice cloning) — sử dụng AI để tái tạo giọng nói của một người cụ thể từ một mẫu âm thanh ngắn. Xem phòng vệ trước deepfake và nhân bản giọng nói.

W

• Khái quát hóa yếu-sang-mạnh (Weak-to-strong generalization) — nghiên cứu về việc liệu tín hiệu giám sát của một mô hình yếu hơn có thể vẫn định hướng đáng tin cậy hành vi của một mô hình mạnh hơn theo đúng hướng hay không.
• Thu thập dữ liệu web (Web scraping) — tự động trích xuất một lượng lớn dữ liệu từ các trang web, một phương pháp phổ biến để xây dựng tập dữ liệu huấn luyện AI.
• Bảo vệ người tố cáo (Whistleblower protections) — các biện pháp bảo vệ pháp lý hoặc chính sách cho nhân viên báo cáo các mối lo ngại về an toàn bên trong một công ty AI mà không phải đối mặt với sự trả đũa. Xem bảo vệ người tố cáo.
• Mô hình thế giới (World model) — biểu diễn nội bộ của một hệ thống AI về cách môi trường của nó hoạt động, được sử dụng để dự đoán hiệu ứng của các hành động.

Z

• Học zero-shot (Zero-shot learning) — một mô hình thực hiện đúng một nhiệm vụ mà không cần thấy bất kỳ ví dụ nào của nhiệm vụ cụ thể đó trong quá trình huấn luyện, chỉ dựa vào kiến thức chung.