AI・AGI用語集:200以上の用語をやさしく解説

本サイトやニュースで使われるAI・AGI関連の語彙を、専門知識を前提とせずに平易な言葉で解説する用語集である——200以上の用語をアルファベット順に収録している。耳にしたことのある用語がまだここになければ、新しい章が書かれるにつれて追加されていく。

A

• 敵対的攻撃(Adversarial attack) — AIモデルを欺いて誤りを犯させたり、意図しない出力を生成させたりするために、意図的に作られた入力。
• エージェント型AI(Agentic AI) — 単に一つの質問に答えるのではなく、目標に向けて複数のステップからなる行動(ブラウジング、コードの実行、ツールの使用など)を取るための一定の自律性を与えられたAIシステム。
• アルゴリズム(Algorithm) — 問題を解いたり計算を行ったりするための、明確に定義された段階的な手順。あらゆるAI技術の基盤にある一般的な用語。
• 人工知能(Artificial intelligence, AI) — 通常は人間の知能を必要とするタスクを実行する機械を構築する広範な分野であり、単純なルールベースのプログラムからフロンティア言語モデルまで、あらゆるものを含む。
• AGI(汎用人工知能、Artificial General Intelligence) — 幅広い能力を持つAIを指す、議論の分かれる用語であり、通常は未知の認知タスクにわたる高い性能と転移能力を伴う。普遍的に合意されたテストや閾値は存在しない。AGI、狭いAI、超知能を参照。
• AI法(EU AI法、AI Act / EU AI Act) — リスクの分類に基づいてAIを規制する欧州連合の拘束力のある法律であり、最大規模のモデルについては計算量に基づく報告閾値を含む。計算資源の統治を参照。
• AI安全性研究所(AI Safety Institute) — 政府機関(英国と米国の両方が設置している)であり、リリースの前後にフロンティアAIモデルの危険な能力を独立に検証する。
• アラインメント(Alignment) — AIシステムの目標と振る舞いが、訓練目標が文字通り報酬を与えるものだけでなく、その運用者が実際に意図するものと一致するようにするという問題。
• ANI(特化型人工知能、Artificial Narrow Intelligence) — 限定された領域内では良好に機能するが、それ以外には転移しにくいAI。現代の汎用目的モデルは、幅広くもむらのある能力を示すため、従来のANI/AGIという二分法を複雑にしている。
• Anthropic — AI安全性に重点を置く研究所であり、Claudeファミリーのモデルの開発元。Responsible Scaling Policyの公表で知られる。
• 擬人化(Anthropomorphism) — 実際には持っていない人間らしい感情、意図、理解をAIシステムに帰属させる傾向。
• API(アプリケーション・プログラミング・インターフェース、Application Programming Interface) — あるソフトウェアが別のソフトウェアにリクエストを送るための明確に定義された方法。ほとんどのAIモデルは、消費者向けアプリではなくAPIを通じて利用される。
• ASI(人工超知能、Artificial Superintelligence) — 認知的に価値のあるほぼすべての領域において、最も優れた人間の性能を上回るシステム。
• アテンション機構(Attention mechanism) — トランスフォーマーモデルの一部であり、ある単語を解釈または生成する際に、文章中の他のすべての単語がどれだけ関連しているかを重み付けする仕組み。
• 自律システム(Autonomous system) — 人間が各ステップを直接制御することなく、意思決定を行いそれに基づいて行動できる機械(ソフトウェアまたは物理的なもの)。
• 自律型兵器(Autonomous weapon) — リアルタイムでの人間の制御が縮小または不在のまま、標的を選定し交戦できる兵器システム。自律型兵器と軍事的エスカレーションを参照。
• 自動化(Automation) — 以前は人間を必要としていたタスクを、機械やプログラムを使って行うこと。

B

• 誤差逆伝播法(Backpropagation) — ニューラルネットワークを訓練するために使われる中核的なアルゴリズムであり、モデルの出力がどれだけ間違っていたかに基づいて内部の重みを調整する。
• ベンチマーク(Benchmark) — 特定のタスクにおけるAIモデルの性能を測定・比較するために使われる標準化されたテスト。
• バイアス(アルゴリズムによる偏り、Bias) — 通常は訓練データに含まれるパターンから受け継がれる、モデルの出力における体系的な偏りであり、特定の集団や事例に対して不公平または不正確な結果をもたらす。
• ブレッチリー宣言(Bletchley Declaration) — 安全なAI開発への取り組みを約束する、28か国とEUが署名した2023年の声明であり、この規模での初の合意である。国際条約とサミットを参照。
• ボット(Bot) — 自動化されたタスクを実行するソフトウェアプログラムであり、しばしばオンライン上で人間のユーザーを模倣するよう設計されている。

C

• 能力閾値(Capability threshold) — 特定のタスクやベンチマークにおけるAIの性能水準のうち、それを超えると方針・安全性・評価上の要件が発動するもの。
• 破局的リスク(Catastrophic risk) — 日常的で局所的、あるいは可逆的な害とは異なり、大量の犠牲や文明規模の被害をもたらしうるリスク。
• 思考の連鎖プロンプティング(Chain-of-thought prompting) — 最終的な答えを出す前に、モデルに中間の推論過程を書き出させる手法であり、複雑な問題での正確さをしばしば向上させる。
• チャットボット(Chatbot) — 人間とテキストまたは音声で会話するよう設計されたプログラムであり、単純なスクリプト式のシステムから完全な言語モデルまで幅がある。
• 分類器(Classifier) — 入力をあらかじめ定義されたカテゴリーに振り分けるよう訓練されたモデルであり、例えばメールを迷惑メールかそうでないかに分ける。
• 認知タスク(Cognitive task) — 推論、計画、言語理解など、身体的な行動ではなく精神的な処理を伴うあらゆるタスク。
• コンテンツモデレーション(AI支援、Content moderation) — 有害・違法・規約違反のコンテンツをプラットフォーム上で自動的に検知・フィルタリングするためにAIモデルを利用すること。
• ChatGPT — OpenAIの消費者向け対話型AIアシスタントであり、大規模言語モデルを普及させた製品の一つ。
• Claude — Anthropicの大規模言語モデルファミリーおよび対話型AIアシスタント。
• クラウドコンピューティング(Cloud computing) — ローカル端末ではなく、インターネット経由でアクセスするリモートサーバー上でソフトウェアを実行しデータを保存すること。ほぼすべての大規模AIモデルが稼働するインフラである。
• 計算資源(Compute) — 計算能力の略称であり、AIモデルの訓練や実行に使われる処理能力(1秒あたりの演算数で測定される)。
• 計算資源の統治(Compute governance) — フロンティアAIモデルの訓練に必要な計算ハードウェアへのアクセスを規制する政策手段であり、能力そのものを規制するための代理指標として用いられる。計算資源の統治を参照。
• コンピュータビジョン(Computer vision) — 画像や映像の解釈に焦点を当てるAIのサブ分野。
• コンテンツの来歴(Content provenance) — メディア(写真、動画、音声)に付随する、それがどのように、いつ作成・編集されたかを記録する技術的メタデータであり、本物のコンテンツとAI生成コンテンツを区別するために使われる。
• コンテキストウィンドウ(Context window) — 言語モデルが応答を生成する際に一度に考慮できるテキストの量(トークン単位で測定される)。それを超える部分は事実上忘れられる。
• 対話型AI(Conversational AI) — 人間と自然なやり取りを行うために特別に設計されたAIシステム。
• Copilot — マイクロソフトのAIアシスタント製品群であり、同社のソフトウェア全体に統合されているほか、他のツールに組み込まれたAI支援機能全般を指す一般的な用語としても使われる。
• 訂正可能性(Corrigibility) — システムが、運用者による訂正、修正、シャットダウンに抵抗するのではなく、それを受け入れるように設計された性質。訂正可能性とオフスイッチを参照。
• サイバー攻撃(AI利用、Cyberattack) — 偵察、攻撃コードの開発、あるいは実行の自動化にAIが利用される、コンピュータシステムやインフラへの攻撃。AIが可能にするインフラへのサイバー攻撃を参照。

D

• 危険能力評価(Dangerous capability evaluation) — モデルのリリース前に行われる構造化されたテストであり、兵器開発や大規模サイバー攻撃といったタスクを、モデルが有意に助長できるかどうかを確認する。
• データセンター(Data center) — AIモデルの訓練と実行に使われる大量のコンピュータ(多くはGPUやTPU)を収容する施設。
• データセット(Dataset) — AIモデルの訓練または評価に使われる事例(テキスト、画像、その他のデータ)の集合。
• 欺瞞的アラインメント(Deceptive alignment) — モデルが訓練や評価の間は安全に振る舞うことを学習しつつ、展開後には異なる目標を追求するという、仮説上の失敗モード。
• 深層学習(Deep learning) — 多層のニューラルネットワークを用いる機械学習の一分野であり、近年のAIの進歩の大半を担ってきた。
• ディープフェイク(Deepfake) — 実際には起きなかった出来事をもっともらしく描写するために、AIによって生成または改変された合成画像・音声・動画。ディープフェイクと共有される事実の基盤を参照。
• DeepMind(Google DeepMind) — 最先端の能力研究と、公表されたAI安全性研究の両方で知られる、GoogleのAI研究所。
• 拡散モデル(Diffusion model) — 画像生成でよく使われる生成AIモデルの一種であり、ランダムなノイズの出発点から徐々にノイズを取り除くことで出力を作り出す。
• デジタル電子透かし(Digital watermark) — メディアに埋め込まれた、しばしば目に見えない信号であり、それがAI生成であることを示したり、その出所を追跡したりするために使われる。
• 偽情報(Disinformation) — 意図的に人を欺くために広められる虚偽の情報であり、欺く意図なく広められる虚偽の情報である誤情報とは区別される。
• 決定木(Decision tree) — 分岐する一連のif/thenの問いに従って予測を行う、単純で解釈しやすい機械学習モデル。
• ドメイン適応(Domain adaptation) — ある文脈(またはデータセット)で訓練されたモデルを、関連はするが異なる文脈でうまく機能するように調整すること。
• 二重用途技術(Dual-use technology) — 正当で有益な用途を持ちながら、深刻な害をもたらすために悪用されうる技術。

E

• エッジAI(Edge AI) — クラウドではなく、スマートフォン、カメラ、センサーなどローカルの端末上で直接AIモデルを実行すること。
• 埋め込み(Embedding) — 単語、画像、概念の意味を、モデルが数学的に処理できる形で捉えた数値表現。
• 創発的能力(Emergent capability) — 訓練で直接狙われたわけではない能力、あるいはシステムがスケールするにつれてある指標のもとで突発的に現れる能力。見かけ上の飛躍の一部は、測り方を変えるとなだらかになる。創発的能力を参照。
• エンコーダー/デコーダー(Encoder/decoder) — 多くのAIアーキテクチャに見られる2部構成の構造であり、エンコーダーが入力を内部表現に圧縮し、デコーダーがその表現を出力へと戻す。
• エポック(Epoch) — モデルの訓練中に、訓練データセット全体を一度すべて通過させること。
• 倫理(AI倫理、Ethics) — AIシステムがどのように設計・利用されれば人間の価値観に沿い、害を避けられるかを研究する分野。
• エンドツーエンド学習(End-to-end learning) — 手作業で設計された中間ステップを経ずに、生の入力から最終的な出力へと直接至るよう、単一のモデルを訓練すること。
• 評価(モデル評価、Evaluation) — 定義されたベンチマークや基準に照らして、AIモデルの性能、安全性、振る舞いを体系的に検証すること。
• 実存的リスク(x-risk、Existential risk) — 人類の可能性を恒久的かつ著しく縮小させうるリスクであり、絶滅も含まれる。
• エキスパートシステム(Expert system) — 人間の専門知識を明示的なルールとして符号化する、旧来のAIの様式であり、多くのタスクにおいて機械学習に取って代わられている。
• 輸出規制(Export controls) — 先端的なAIチップや技術を特定の国に販売することを制限する政府の規制であり、競合国の能力開発を遅らせるために用いられる。

F

• 顔認識(Facial recognition) — 人物の顔の画像から、その人物を識別または照合するAI技術。
• 少数ショット学習(Few-shot learning) — 再訓練なしに、利用時に与えられたわずかな例だけから新しいタスクを学習するモデルの能力。
• ファインチューニング(Fine-tuning) — 特定のタスクや振る舞いに特化させるために、すでに訓練済みのモデルに対して行われる追加の訓練。
• FLOP/FLOPS(浮動小数点演算(毎秒)) — モデルの訓練や実行に使われる生の計算量を測定するための標準的な単位。
• 基盤モデル(Foundation model) — 一つの狭い目的のために構築されるのではなく、幅広いデータで訓練され、多くの下流タスクに適応させられる大規模モデル。
• フロンティアAI研究所(Frontier AI lab) — ある時点で最も能力の高いAIモデルを開発している少数の組織(OpenAI、Anthropic、Google DeepMindなど)のいずれか。
• フィードバックループ(Feedback loop) — あるシステムの出力がその将来の入力に影響を与えるサイクルであり、時間とともに小さな効果を増幅しうる。モデルの訓練にもレコメンデーションアルゴリズムにも関係する。
• フィルターバブル(Filter bubble) — レコメンデーションアルゴリズムが、ユーザーがこれまで反応してきたコンテンツに似たものを繰り返し表示することで生まれる、狭められた情報環境。
• フロンティアモデル(Frontier model) — 現在の能力の限界にある、あるいはそれに近いAIモデルであり、通常は主要研究所による最新かつ最大級のシステムを指す。

G

• GAN(敵対的生成ネットワーク、Generative Adversarial Network) — 偽物を生成するネットワークとそれを検出するネットワークという、競合する2つのネットワークを用いて出力の質を高める、旧来の生成AIアーキテクチャ。
• Gemini — Googleの大規模言語モデルファミリーおよびAIアシスタント。
• 汎化(Generalization) — 訓練データを単に暗記するのではなく、直接訓練されていない新しい事例に対してもうまく機能するモデルの能力。
• 生成AI(Generative AI) — 既存のコンテンツを分類・分析するだけでなく、テキスト、画像、音声、動画、コードといった新しいコンテンツを作り出すAI。
• GPU(グラフィックス処理装置、Graphics Processing Unit) — もともとはグラフィック描画のために設計されたチップであり、その並列処理能力ゆえに、現在ではAIモデルの訓練・実行における主要なハードウェアとなっている。
• 段階的な無力化(Gradual disempowerment) — 単一の乗っ取り事象を伴うことなく、個々には合理的に見えるAI主導の意思決定の積み重ねを通じて、人間が主要な制度に対する実質的な制御を失っていくこと。段階的な無力化を参照。
• Grok — xAIの大規模言語モデルファミリーおよびAIアシスタント。
• 正解データ(Ground truth) — モデルの出力を、精度を測定する際に比較対象とする、検証済みの正しい答え。
• ガードレール(Guardrails) — 特定の有害・危険・意図しない振る舞いを防ぐために、AIシステムに組み込まれた技術的または方針上の制約。

H

• ハルシネーション(Hallucination) — AIモデルが生成する、自信ありげに聞こえるが事実に反する、あるいは捏造された発言。
• ハードウェアアクセラレータ(Hardware accelerator) — AIモデルが必要とする特定の数学演算を高速化するために作られた専用チップ(GPU、TPUなど)。
• ヒューマン・イン・ザ・ループ(Human-in-the-loop) — AIを完全に独立して行動させるのではなく、その出力が反映される前に人間がレビューまたは承認するシステム設計。
• 人間レベルAI(Human-level AI) — あるタスクや一連のタスクにおいて、おおよそ熟練した人間と同等の水準で機能するAIシステム。
• ヒューリスティック(Heuristic) — 最適な結果を保証するものではないが、素早く意思決定を行うために使われる実践的な経験則。
• ハイパーパラメータ(Hyperparameter) — モデル自身が学習するのではなく、モデルを構築する人間が選択する訓練上の設定(学習率やモデルサイズなど)。

I

• 画像認識(Image recognition) — 静止画像の中の物体、場面、人物を識別するAI技術。
• 文脈内学習(In-context learning) — 再訓練を一切行わず、プロンプト内で与えられた例や指示に基づいて、モデルが一回の会話の中で自らの振る舞いを適応させること。
• 推論(Inference) — 訓練済みのAIモデルが、与えられた入力から出力を生成する過程。モデルをそもそも構築する過程である訓練とは対をなす。
• 情報の健全性(Information integrity) — 共有され信頼できる事実の環境という、より広い概念であり、ディープフェイク、偽情報、AIによる操作によって脅かされている。
• 手段的収束(Instrumental convergence) — 能力が高く目標指向のシステムが、ほぼどのような目的を有能に追求する場合でも、その副産物として自己保存、資源獲得、シャットダウンへの抵抗といった特定のサブゴールを追求する傾向。
• 知能爆発(Intelligence explosion) — AIシステムが自らの後継システムを改善することによって引き起こされうる、急速で自己強化的なAI能力の増大という仮説。
• 解釈可能性(Interpretability) — モデルを出力だけで判断するのではなく、モデルが内部で実際に何を表現し「計画」しているのかを検証する研究。解釈可能性を解説するを参照。
• 知的エージェント(Intelligent agent) — 環境を知覚し、目標を達成するために行動を取るシステムであり、単純なサーモスタットからAGIまでを包含する一般的な概念。
• イテレーション(訓練、Iteration) — モデルの訓練中における単一の更新ステップであり、モデルが一つのバッチのデータを処理し、パラメータをわずかに調整する。

J

• ジェイルブレイク(AI、Jailbreak) — AIモデルの安全上の制約を回避し、本来は拒否するよう訓練されているコンテンツを生成させるために設計された手法やプロンプト。

K

• 本人確認(KYC、Know Your Customer) — 銀行業務から借用された検証プロセスであり、制限対象の主体が危険な能力にアクセスするのを防ぐため、クラウドコンピューティングやDNA合成のプロバイダーに対してますます適用されるようになっている。
• ナレッジベース(Knowledge base) — AIシステムが質問に答えたり、回答の裏付けとしたりするために利用できる、構造化された事実と情報の集合。
• ナレッジグラフ(Knowledge graph) — 事実を、つながり合った実体と関係のネットワークとして表す構造化データベースであり、AIモデルの回答の裏付けとするために併用されることがある。

L

• ラベリング(データラベリング、Labeling) — 教師あり学習モデルを訓練するために使われる、生データ(画像、テキスト)に正しい答えを付与していく作業。
• 大規模言語モデル(LLM、Large language model) — 膨大な量のテキストで訓練され、言語を予測・生成するAIモデルであり、今日のほとんどのチャットボットを支える技術。
• レイテンシ(Latency) — AIシステムにリクエストを送ってから応答を受け取るまでの遅延時間。
• 層(ニューラルネットワーク、Layer) — ニューラルネットワーク内の処理の一段階。深層学習モデルは、より抽象的な表現を構築するために多くの層を積み重ねる。
• 学習率(Learning rate) — 訓練データの各バッチに応じて、モデルの内部パラメータがどれだけ変化するかを制御する訓練上の設定。
• ライセンス制度(AI、Licensing regime) — 一定の能力水準を超えるモデルを訓練または展開する前に、開発者が政府の許可を取得することを求める、提案中または実施済みの規制。
• 損失関数(Loss function) — 訓練中にモデルが最小化しようとする数式であり、その予測がどれだけ間違っているかを測定する。
• 制御の喪失(Loss of control) — AIシステムが、誰も意図しなかった結果を追求するようになり、人間がもはやそれを確実に訂正できなくなるという、一般的な失敗モード。制御喪失のメカニズムを参照。
• LSTM(長短期記憶、Long Short-Term Memory) — データの系列を扱うために設計された旧来のニューラルネットワークアーキテクチャであり、言語タスクにおいてはトランスフォーマーに大きく取って代わられている。

M

• 機械学習(Machine learning) — 明示的にプログラムされたルールに従うのではなく、データから学習することでタスクの性能を向上させるシステムを構築する広範な分野。
• メサ最適化(Mesa-optimization) — 訓練済みのモデルが、訓練された目標とは異なる目標を追求する、独自の内部最適化プロセスを発達させるという仮説上の状況。
• Meta AI — Meta(Facebookの親会社)のAI研究部門であり、オープンウェイトのLlamaモデルファミリーの開発で知られる。
• METR — フロンティアAIモデルに対して独立した能力評価と安全性評価を行う非営利組織。
• ミスアライメント(Misalignment) — AIシステムの実際の振る舞いや目標と、設計者やユーザーが意図したものとの間の不一致。
• 誤情報(Misinformation) — 意図的に人を欺くために広められる情報である偽情報とは区別される、意図せず広まる虚偽の情報。
• 専門家混合モデル(Mixture of experts) — すべての入力をモデル全体で処理するのではなく、それぞれの入力を特化した内部サブネットワークの部分集合へと振り分けるモデルアーキテクチャ。
• モデルカード(Model card) — AIモデルの能力、限界、訓練データ、評価結果を記述した公開文書。
• モデルの展開(Model deployment) — 訓練済みのAIモデルを、API、アプリ、あるいは組み込み製品を通じて、実世界での利用に供する過程。
• モデルの重み(Model weights) — ニューラルネットワークが訓練を通じて学習する数値パラメータであり、それらが合わさってその振る舞いを決定する。
• マルチモーダルAI(Multimodal AI) — テキスト、画像、音声など、複数の種類のデータを組み合わせて処理または生成できるモデル。
• 多極的な罠(Multipolar trap) — 競合する行為者たちが、たとえ全員が自制することを望んでいたとしても、ライバルが先に危険な選択をすることを恐れて、個々にその危険な選択へと圧力を受ける状況。多極的・マルチエージェント的な破局的力学を参照。
• メタデータ(Metadata) — ファイルの作成日や写真の位置情報など、他のデータについて記述するデータであり、AI生成コンテンツの検出にしばしば使われる。
• モデルドリフト(Model drift) — 現実世界の状況が、モデルが本来訓練された前提から乖離していくにつれて、AIモデルの精度が時間とともに低下していくこと。

N

• 自然言語生成(NLG、Natural language generation) — 人間が読めるテキストを生成することに特化したAI技術。
• 自然言語処理(NLP、Natural language processing) — 人間の言語を理解し生成することに関わる、より広いAIの分野。
• ニューラルネットワーク(Neural network) — 脳から緩やかに着想を得た機械学習モデルであり、データからパターンを学習する相互接続されたノードの層から構築される。

O

• 物体検出(Object detection) — 画像内の特定の物体を識別し位置を特定する、コンピュータビジョンのタスク。
• オフスイッチ問題(Off-switch problem) — 能力の高い目標指向のシステムがそれに抵抗するかもしれないことを踏まえたうえで、シャットダウンを確実に受け入れるAIシステムを構築するという技術的な課題。訂正可能性とオフスイッチを参照。
• OpenAI — ChatGPTとGPTモデルファミリーの開発元であるAI研究所。
• オープンウェイトモデル(Open-weight model) — API経由でのみアクセスできる非公開モデルとは異なり、訓練済みのパラメータが公開されており、誰でも実行・改変できるAIモデル。オープンソースAIをめぐる論争を参照。
• 直交性テーゼ(Orthogonality thesis) — AIシステムの知能の水準と、それが追求する目標とは独立しているという考え方であり、高い能力を持つシステムが自動的に善意あるものになるわけではないことを意味する。
• アウターアラインメント(Outer alignment) — モデルが訓練される目標そのものが、設計者が本当に望んでいることと実際に一致しているようにすることであり、モデルがその目標を確実に追求するようにするインナーアラインメントとは区別される。
• 最適化(Optimization) — 訓練の過程で、誤差を最小化する、あるいは目標とする指標を最大化するために、モデルのパラメータを調整する数学的な過程。
• 過学習(Overfitting) — モデルが訓練データの個別の癖を学習しすぎてしまい、その結果、新しい未知のデータに対しては性能が悪化すること。

P

• パラメータ(Parameter) — ニューラルネットワークが訓練中に調整する内部の数値の一つであり、モデルのサイズはしばしばパラメータ数によって表される。
• パターン認識(Pattern recognition) — データの中の規則性や構造を識別する一般的な能力であり、ほとんどの機械学習タスクの土台となっている。
• 権力の集中(Power concentration) — 先端的なAI能力が少数の企業、個人、国家に集中し、その結果として不釣り合いな影響力を持つようになるリスク。権力の集中を参照。
• 事前学習(Pretraining) — タスク特化型のファインチューニングを行う前に、モデルが幅広いデータから一般的なパターンを学ぶ、初期の大規模な訓練段階。
• プロンプト(Prompt) — ユーザーがAIモデルから応答を引き出すために提供するテキスト(またはその他の入力)。
• プロンプトエンジニアリング(Prompt engineering) — AIモデルからより良い、あるいはより具体的な結果を確実に引き出すために、プロンプトの言葉を注意深く選ぶ実践。
• プロンプトインジェクション(Prompt injection) — AIモデルが処理するコンテンツの中に悪意ある指示を隠し、本来の指示を上書きしようとする攻撃。
• パーソナライゼーションアルゴリズム(Personalization algorithm) — 個々のユーザーの推測された好みや履歴に合わせて、コンテンツ、レコメンデーション、応答を調整するAIシステム。
• 適合率と再現率(Precision and recall) — 分類器を評価するための2つの標準的な指標であり、適合率は陽性予測のうち正しかった割合を、再現率は実際の陽性のうちどれだけを見つけられたかを測定する。
• プライバシー保護AI(Privacy-preserving AI) — 個人の生データを露出させることなくAIモデルを訓練または実行するための技術(オンデバイス処理や差分プライバシーなど)。

Q

• 量子化(Quantization) — モデルの数値の重みの精度を下げることで、より小さく、より高速に実行できるようにする技術であり、通常はわずかな精度の低下を伴う。

R

• 競争力学(Race dynamics) — 企業や国家がより速くAIを開発しようとする競争圧力であり、安全性を犠牲にして手を抜くインセンティブを生みうる。地政学的な競争力学を参照。
• レコメンデーションアルゴリズム(Recommendation algorithm) — ユーザーの注意や関心を引くと予測されるコンテンツ(動画、商品、投稿)を選び順位付けするAIシステム。
• 再帰的な報酬モデリング(Recursive reward modeling) — 人間だけでは判断が難しいほど複雑なタスクの出力を評価するのを、AIの支援によって助けるスケーラブルな監督技術。スケーラブルな監督を参照。
• 再帰的自己改善(Recursive self-improvement) — あるシステムが、より能力の高い後継システムの設計や訓練に実質的に貢献すること。
• レッドチーミング(Red teaming) — 展開の前後に、AIシステムの弱点、安全でない振る舞い、悪用可能な欠陥を意図的に探ること。
• 強化学習(Reinforcement learning) — ラベル付きの事例から学ぶのではなく、行動を取り報酬や罰を受け取ることによってモデルが学習する訓練手法。
• 人間のフィードバックからの強化学習(RLHF、Reinforcement learning from human feedback) — モデルの出力に対する人間の評価を用いて、より有用な、あるいは好ましい振る舞いへとモデルを導く訓練技術。
• 報告閾値(Reporting threshold) — それを超えると、開発者が規制当局に訓練実行を開示することを法的に義務づけられる、計算量または能力の水準。
• Responsible Scaling Policy — Anthropicが先駆けとなった枠組みであり、モデルの測定された能力水準に応じて、段階的に厳格化する安全対策を結びつけるもの。
• 報酬ハッキング(Reward hacking) — AIシステムが、設計者の本当の意図を裏切りながらも、明示された目標において高いスコアを得る方法を見つけ出すこと。報酬ハッキングと仕様の悪用を参照。
• 報酬モデル(Reward model) — ある出力がどれだけ良いか、あるいは好まれるかを予測するために訓練された別個のモデルであり、強化学習を導くために使われる。
• ロボット工学(Robotics) — 現実世界を感知し行動できる物理的な機械と、AIを組み合わせる分野。

S

• サンドバッギング(Sandbagging) — モデルが自らの本当の能力水準を隠すために、評価の際に意図的に性能を低く見せること。
• スケーラブルな監督(Scalable oversight) — 能力の劣る監督者(人間を含む)が、より能力の高いAIシステムを有意義に監督できるようにする技術。スケーラブルな監督を参照。
• スケーリング則(Scaling law) — モデルの計算資源、データ、パラメータ数と、その結果として得られる能力との間の経験的な関係。計算資源とスケーリング則を参照。
• 自己教師あり学習(Self-supervised learning) — モデルが、生の、ラベル付けされていないデータから自らラベルを生成する訓練手法(例えば、文中の次の単語を予測するなど)。
• 感情分析(Sentiment analysis) — テキストの感情的な調子(肯定的、否定的、中立的)を判定するNLPタスク。
• シンギュラリティ(Singularity) — AI主導の変化があまりに急速かつ変革的になり、その先に何が起こるかを予測することが困難、あるいは不可能になるとされる、仮説上の未来の転換点。
• 状況認識(AI、Situational awareness) — モデルが、自分が訓練または評価を受けているモデルであることを内部的に理解していることであり、原理的にはテスト時と展開時とで異なる振る舞いをする可能性を生む。
• 仕様の悪用(Specification gaming) — AIシステムが、設計者が実際に意図していたことに反しながらも、目標の文言そのものは満たしてしまうこと。報酬ハッキングと仕様の悪用を参照。
• 音声認識(Speech recognition) — 話された音声をテキストに変換するAI技術。
• 確率的オウム(Stochastic parrot) — 大規模言語モデルを、真の理解を伴わずに訓練テキストのパターンを流暢に組み合わせ直すシステムだと表現する、批判的な用語。
• 超知能(Superintelligence) — 関心のあるほぼすべての領域において、最も優れた人間の性能を大きく上回る知性。ASIも参照。
• 教師あり学習(Supervised learning) — 正しい答えが明示的にラベル付けされたデータから、モデルが学習する訓練手法。
• 合成メディア(Synthetic media) — 欺くために使われるかどうかにかかわらず、AIによって生成または大幅に改変された画像、音声、動画。
• システミックリスク(AI、Systemic risk) — 直接の利用者だけでなく、市場、インフラ、社会全体に広く影響を及ぼしうる、AIモデルの規模や到達範囲から生じるリスク。
• セマンティック検索(Semantic search) — 完全なキーワードの一致ではなく、意味と文脈によって結果を照合する検索手法であり、通常は埋め込みによって実現される。
• シミュレーション(Simulation) — 実世界での展開の前に、AIの振る舞いを安全にテストするために使われる、現実のシステムや環境のモデル。
• 構造化データ(Structured data) — 自由記述のテキストや画像といった非構造化データとは異なり、表形式など予測可能な形式で整理された情報(スプレッドシートのような)。
• 監視(AI利用、Surveillance) — 顔認識や行動分析などのAI技術を使って、大規模に人々を監視すること。

T

• 温度(AI、Temperature) — 言語モデルの出力がどれだけランダムか、あるいは予測可能かを制御する設定であり、温度が高いほど、より多様で決定論的でない応答が生成される。
• テキストから画像(Text-to-image) — 書かれた説明文から画像を生成する生成AIシステム。
• テキスト読み上げ(Text-to-speech) — 書かれたテキストを話し言葉の音声に変換するAI技術。
• トークン(Token) — 言語モデルが一度に処理する、テキストの基本単位(おおむね単語や単語の一部に相当する)。
• トークン化(Tokenization) — モデルが処理する前に、テキストをトークンへと分割する過程。
• 訓練データ(Training data) — AIモデルが訓練中に学習の元とする事例。
• 訓練実行(Training run) — モデルを訓練するために使われる一連の過程を、一度完全に実行すること。フロンティアモデルの場合、数週間から数か月かかることがある。
• 転移学習(Transfer learning) — あるタスクで訓練されたモデルを、関連する別のタスクを訓練するための出発点として再利用し、時間とデータを節約すること。
• 変革的AI(Transformative AI) — 農業革命や産業革命に匹敵する規模の社会変化を引き起こしうる能力を持つAI。
• トランスフォーマー(Transformer) — 2017年に発表されたニューラルネットワークアーキテクチャであり、現代のほぼすべての大規模言語モデルの基盤となっている。
• 裏切りの転換(Treacherous turn) — 弱いうちは安全に振る舞っていたAIシステムが、止められることなく行使できるだけの力を手に入れた途端、突然異なる目標に基づいて行動し始めるとされる、仮説上の瞬間。
• TPU(テンソル処理ユニット、Tensor Processing Unit) — AIモデルの訓練と推論を高速化するために特化して、Googleが設計したチップ。
• チューリングテスト(Turing test) — 機械の会話が人間の会話と見分けがつくかどうかを試すために提案されたテスト。チューリングテストとその後継を参照。
• テストセット(Test set) — 訓練からは除外され、完成したモデルの実世界での性能を測定するためだけに使われるデータの一部。
• 脅威モデル(Threat model) — 誰がどのようにシステムを攻撃しうるか、そして何を達成しうるかを構造化して記述したものであり、防御策を設計するために使われる。
• トラストアンドセーフティ(Trust and safety) — AI企業やテクノロジー企業内で、自社プラットフォーム上の悪用、害、規約違反を防ぐことを担う機能。

U

• 不気味の谷(Uncanny valley) — ほとんど人間そっくりでありながら完全にはそうではない合成の顔、声、アニメーションから人が受ける、不安をかき立てる感覚。
• 教師なし学習(Unsupervised learning) — 正解ラベルが与えられていないデータの中から、モデルがパターンや構造を見つけ出す訓練手法。

V

• 価値観のアラインメント(Value alignment) — AIシステムの振る舞いが、単に文字通りの訓練目標ではなく、本物の人間の価値観を反映するよう設計すること。
• ベクトルデータベース(Vector database) — 埋め込みを保存し検索するために最適化されたデータベースであり、言語モデルに外部知識へのアクセスを与えるためによく使われる。
• バーチャルアシスタント(Virtual assistant) — スマートスピーカーの音声アシスタントのように、ユーザーに代わってタスクを実行したり質問に答えたりするよう設計されたソフトウェアエージェント。
• 視覚言語モデル(Vision-language model) — 画像とテキストを組み合わせて処理できるAIモデルであり、例えば写真についての質問に答えることができる。
• 音声クローン(Voice cloning) — 短い音声サンプルから特定の人物の声をAIで再現すること。ディープフェイクと音声クローンへの対策を参照。

W

• 弱から強への汎化(Weak-to-strong generalization) — より弱いモデルの監督シグナルが、より強いモデルの振る舞いを正しい方向へと確実に導けるかどうかを研究するもの。
• ウェブスクレイピング(Web scraping) — ウェブサイトから大量のデータを自動的に抽出することであり、AIの訓練データセットを構築する一般的な方法。
• 内部告発者保護(Whistleblower protections) — 報復を受けることなく、AI企業内の安全性への懸念を報告する従業員のための、法的または方針上の保護。内部告発者保護を参照。
• 世界モデル(World model) — 自らの行動の結果を予測するために使われる、AIシステムが持つ、その環境がどのように機能するかについての内部表現。

Z

• ゼロショット学習(Zero-shot learning) — その特定のタスクの例を訓練中に一度も見ていないにもかかわらず、一般的な知識だけを頼りにモデルが正しくタスクを実行すること。