# topic-ml > ML全般の重要概念・キーワード辞書。メモへのリンクとファクトチェック状態を管理 - Author: tsuji tomonori - Repository: tsuji-tomonori/survey - Version: 20251231231240 - Stars: 0 - Forks: 0 - Last Updated: 2026-02-06 - Source: https://github.com/tsuji-tomonori/survey - Web: https://mule.run/skillshub/@@tsuji-tomonori/survey~topic-ml:20251231231240 --- --- name: topic-ml description: ML全般の重要概念・キーワード辞書。メモへのリンクとファクトチェック状態を管理 --- # ML全般トピック・キーワード辞書 機械学習全般の重要な概念・キーワードを蓄積します。 ## キーワード辞書 ### 最適化 #### adam - 定義: 適応的学習率を持つ確率的勾配降下法の一種 - 関連メモ: [[adam]] - 初出論文: - - ファクトチェック: 未確認 #### gradient-descent - 定義: 損失関数の勾配方向にパラメータを更新する最適化手法 - 関連メモ: [[gradient-descent]] - 初出論文: - - ファクトチェック: 未確認 #### learning-rate-schedule - 定義: 学習率を訓練中に変化させる戦略 - 関連メモ: [[learning-rate-schedule]] - 初出論文: - - ファクトチェック: 未確認 ### 正則化 #### dropout - 定義: 学習時にランダムにユニットを無効化する正則化手法 - 関連メモ: [[dropout]] - 初出論文: - - ファクトチェック: 未確認 #### batch-normalization - 定義: ミニバッチ内で活性化を正規化する手法 - 関連メモ: [[batch-normalization]] - 初出論文: - - ファクトチェック: 未確認 #### weight-decay - 定義: パラメータのL2ノルムにペナルティを課す正則化 - 関連メモ: [[weight-decay]] - 初出論文: - - ファクトチェック: 未確認 ### 分散学習 #### federated-learning - 定義: データを集約せずに分散したデバイス上で学習を行う手法 - 関連メモ: [[federated-learning]] - 初出論文: FedAvg (McMahan et al., 2017) - ファクトチェック: 確認済み(2025-12-26) #### gradient-sparsification - 定義: 勾配の上位γ%の要素のみを送信することで通信量を削減する手法 - 関連メモ: [[gradient-sparsification]] - 初出論文: Deep Gradient Compression (Lin et al., 2017) - ファクトチェック: 確認済み(2025-12-26) - 参照論文: [[P-2501.00732_v1]] #### error-feedback - 定義: 勾配圧縮でフィルタリングされた情報を蓄積し、次ラウンドで補償する技術 - 関連メモ: [[error-feedback]] - 初出論文: EF21 (Richtárik et al., 2021) - ファクトチェック: 確認済み(2025-12-26) - 参照論文: [[P-2501.00732_v1]] #### gradient-tracking - 定義: ローカル勾配方向とグローバル勾配方向の差分を追跡する技術 - 関連メモ: [[gradient-tracking]] - 初出論文: - - ファクトチェック: 未確認 - 参照論文: [[P-2501.00732_v1]] #### personalized-aggregation - 定義: クライアント間の類似性(勾配相関等)に基づいて集約重みを決定する手法 - 関連メモ: [[personalized-aggregation]] - 初出論文: - - ファクトチェック: 未確認 - 参照論文: [[P-2501.00732_v1]](k-relevant, δ-threshold, all-correlated) #### data-parallel - 定義: データを分割して複数デバイスで並列に学習する手法 - 関連メモ: [[data-parallel]] - 初出論文: - - ファクトチェック: 未確認 #### model-parallel - 定義: モデルを分割して複数デバイスに配置する並列化手法 - 関連メモ: [[model-parallel]] - 初出論文: - - ファクトチェック: 未確認 ### 評価 #### cross-validation - 定義: データを分割して複数回評価を行い、汎化性能を推定する手法 - 関連メモ: [[cross-validation]] - 初出論文: - - ファクトチェック: 未確認 #### overfitting - 定義: 訓練データに過適合し、未知データへの汎化性能が低下する現象 - 関連メモ: [[overfitting]] - 初出論文: - - ファクトチェック: 未確認 ### LLMエージェント・システム #### multi-agent-system - 定義: 複数のAIエージェントが協調してタスクを解決するシステム。Supervisor-Worker階層構造が一般的 - 関連メモ: [[multi-agent-system]] - 初出論文: - - ファクトチェック: 未確認 - 参照論文: [[P-2501.00750_v2]](Flowise上のMAS実装) #### no-code-platform - 定義: コーディングなしでAIシステムを構築可能なビジュアル開発プラットフォーム(Flowise、Langflow、n8n等) - 関連メモ: [[no-code-platform]] - 初出論文: - - ファクトチェック: 未確認 - 参照論文: [[P-2501.00750_v2]] #### retrieval-augmented-generation - 定義: 外部知識ベースからの検索結果を生成モデルに入力として与える手法 - 関連メモ: [[retrieval-augmented-generation]] - 初出論文: RAG (Lewis et al., 2020) - ファクトチェック: 未確認 - 参照論文: [[P-2501.00750_v2]](Advanced RAG + Web Searchフォールバック) ### 量子機械学習・セキュリティ #### PAC-learning - 定義: Probably Approximately Correct学習。確率1-δで誤差率εを達成できることを保証する学習理論フレームワーク - 関連メモ: [[PAC-learning]] - 初出論文: Valiant (1984) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00754_v1]] #### quantum-label-encoding - 定義: 訓練データのラベルを量子ビット(qubit)にエンコードし、量子通信チャネルで送信する手法 - 関連メモ: [[quantum-label-encoding]] - 初出論文: Song et al. (2021) [19] - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00754_v1]] #### no-cloning-theorem - 定義: 任意の未知の量子状態を完全に複製することは不可能という量子力学の基本定理 - 関連メモ: [[no-cloning-theorem]] - 初出論文: Wootters & Zurek (1982) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00754_v1]](セキュリティ保証の基盤) #### collective-attack - 定義: 量子暗号における攻撃戦略の一つ。盗聴者が各qubitを独立に攻撃し、結果を集約する - 関連メモ: [[collective-attack]] - 初出論文: - - ファクトチェック: 未確認 - 参照論文: [[P-2501.00754_v1]](閾値η*≈0.11) #### learning-probability - 定義: 学習確率。指定した精度εを達成できる確率。PAC学習のconfidence 1-δを物理的に測定可能な量として再定式化 - 関連メモ: [[learning-probability]] - 初出論文: [[P-2501.00754_v1]] (Bang et al., 2025) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00754_v1]] ### 時系列生成・合成データ #### MMD - 定義: Maximum Mean Discrepancy。再生核ヒルベルト空間上で2つの分布間の距離を測る指標。カーネル埋め込みの差のノルムとして計算 - 関連メモ: [[MMD]] - 初出論文: Gretton et al. (2012) "A Kernel Two-Sample Test" - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00910_v1]](PAT損失でCC分布比較に使用) #### DiT - 定義: Diffusion Transformer。U-NetをTransformerで置き換えた拡散モデルアーキテクチャ。AdaLNで条件付けを行う - 関連メモ: [[DiT]] - 初出論文: Peebles & Xie (2023) "Scalable Diffusion Models with Transformers" - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00910_v1]](Dual-channelの統合に使用) #### population-level-characteristics - 定義: データセット全体の統計的特性(値分布、次元間相関分布など)。個別サンプルの品質とは独立に評価される - 関連メモ: [[time-series-generation]] - 初出論文: [[P-2501.00910_v1]] (Li et al., 2025) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00910_v1]] #### VDS - 定義: Value Distribution Shift。各次元の値分布のKLダイバージェンス平均。合成データの値分布の真正性を測る - 関連メモ: [[time-series-generation]] - 初出論文: [[P-2501.00910_v1]] (Li et al., 2025) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00910_v1]] #### FDDS - 定義: Functional Dependency Distribution Shift。次元間相互相関(CC)分布のシフト。機能依存関係の保存度を測る - 関連メモ: [[time-series-generation]] - 初出論文: [[P-2501.00910_v1]] (Li et al., 2025) - ファクトチェック: 確認済み(2025-12-27) - 参照論文: [[P-2501.00910_v1]] --- ## 関連fix Skill - [[fix-ml/SKILL.md]]