AI基礎・モデル
「AI基礎・モデル」に関する専門用語をまとめた用語集カテゴリです。生成AI・LLM・RAG・AIエージェント・DX・セキュリティの実務で使う用語を、定義と具体例つきで経営層・IT担当者向けにわかりやすく解説します。
全25用語
PEFT
PEFT（Parameter-Efficient Fine-Tuning）とは、大規模言語モデルの全パラメータではなく一部のみを更新することで、少ない計算資源とデータでモデルを特定タスクに適応させるフ
QLoRA
QLoRA（Quantized LoRA）とは、LoRA に 4bit 量子化を組み合わせることで、コンシューマ向け GPU でも大規模言語モデルのファインチューニングを可能にした手法である。
RLHF
RLHFとは人間のフィードバックを報酬として使う強化学習手法、RLVRとは検証可能な正解を報酬として使う強化学習手法であり、いずれもLLMの出力を人間の期待に沿うよう調整するために用いられる。
SLM（Small Language Model）
SLM（Small Language Model）とは、パラメータ数を数十億〜百億程度に抑えた言語モデルの総称で、LLMに比べ少ない計算資源で推論・Fine-tuningが可能なことを特徴とする。
MoE（Mixture of Experts）
MoE（Mixture of Experts）とは、モデル内部に複数の「エキスパート」サブネットワークを持ち、入力ごとにその一部だけを活性化させることで、パラメータ総数を増やしつつ推論コストを抑えるア
LLM（大規模言語モデル）
LLM（Large Language Model）とは、大量のテキストデータで事前学習された、数十億〜数兆のパラメータを持つニューラルネットワークモデルの総称であり、自然言語の理解・生成を高い精度で行
オープンウェイトモデル
オープンウェイトモデルとは、学習済みのモデルの重み（パラメータ）が公開されており、ダウンロードして自由に推論やFine-tuningに利用できる言語モデルのことである。
コンテキストウィンドウ（Context Window）
コンテキストウィンドウとは、LLMが一度に処理できるトークン数の上限のことで、入力プロンプトと出力を合わせた最大長を指す。長いドキュメントの処理やマルチターン会話の品質に直接影響する。
推論時スケーリング（Test-time Compute）
推論時スケーリングとは、モデルの推論フェーズで使う計算量を動的に増減させることで、難しい問題にはより多くの「思考ステップ」を費やし、簡単な問題には即答する手法である。
推論モデル（Reasoning Model）
回答前に明示的な思考連鎖を生成し、複雑な問題を段階的に解く大規模言語モデルの一種。
Sparse Model（スパースモデル）
Sparse Model（スパースモデル）とは、推論時にモデルの全パラメータではなく一部のみを活性化させるニューラルネットワークアーキテクチャの総称である。代表例として MoE（Mixture of
TurboQuant
Google が開発した LLM 向けメモリ圧縮技術。量子化によりメモリ消費量を最大 1/6 に削減し、推論速度を最大 8 倍に高速化する。
知識蒸留（Knowledge Distillation）
大規模な教師モデルの知識を小規模な生徒モデルに転移させ、軽量かつ高精度なモデルを作成する手法。
Dense Model（密結合モデル）
Dense Model（密結合モデル）とは、推論時にモデルの全パラメータを使って計算を行うニューラルネットワークアーキテクチャのことである。MoE（Mixture of Experts）がエキスパート
投機的デコーディング（Speculative Decoding）
小型のドラフトモデルが複数トークンを先行提案し、大型モデルが並列検証する推論高速化技術。
トークン（Token）
トークン（Token）とは、LLM がテキストを処理する際の最小単位である。単語そのものではなく、単語の一部や記号、空白なども含まれ、モデルの語彙（ボキャブラリー）に基づいてテキストを分割した結果の断
BPEトークナイザー（Byte-Pair Encoding Tokenizer）
テキストを頻出パターンで統合しサブワード単位に分割するアルゴリズム。LLM の入出力コストと処理速度に直結し、低リソース言語では専用語彙が不足するためバイトレベル分解が発生する。
ファインチューニング
ファインチューニング（Fine-Tuning）とは、事前学習済みの機械学習モデルに追加の学習データを与え、特定のタスクやドメインに適応させるプロセスを指す。
ベースモデル（Foundation Model）
ベースモデル（Foundation Model）とは、大規模なデータセットで事前学習（プリトレーニング）された汎用 AI モデルのことである。特定のタスクに特化しておらず、ファインチューニングやプロン
マルチモーダルAI（Multimodal AI）
マルチモーダルAIとは、テキスト・画像・音声・動画など複数の異なるデータ形式を統合的に処理・理解・生成できるAIシステムのこと。
マルチリンガルNLP（多言語自然言語処理）
マルチリンガルNLPとは、タイ語・日本語・英語など複数言語のテキストを横断的に解析・生成できる自然言語処理技術で、多言語チャットボットや翻訳システムの基盤となる。
量子化（Quantization）
モデルのパラメータ精度を16bitから4bit等に下げてサイズを圧縮し、限られた計算資源での推論を可能にする最適化手法。
ローカルLLM
ローカルLLMとは、クラウドAPIを介さず、自社のサーバーやPC上で大規模言語モデルを直接実行する運用形態のことである。
LoRA
LoRA（Low-Rank Adaptation）とは、大規模言語モデルの重み行列に低ランクの差分行列を挿入し、その差分だけを学習させることでモデル全体の 0.1〜1% 程度のパラメータ追加でファイン
生成AI（Generative AI）
生成AIとは、テキスト・画像・音声・動画などのコンテンツを学習データから自律的に生成できるAIモデルの総称で、LLMや画像生成モデルが代表例。