https://sinimite.work/ja/categories/aifundamentals/Recent content in AIFundamentals on SiBloghttps://sinimite.work/images/og-default.svg?v=20260525-210321https://sinimite.work/images/og-default.svg?v=20260525-210321Hugo -- 0.156.0ja-JPSat, 02 May 2026 00:00:00 +0000https://sinimite.work/ja/posts/llm-from-hidden-state-to-token-output/Sat, 02 May 2026 00:00:00 +0000https://sinimite.work/ja/posts/llm-from-hidden-state-to-token-output/Chain of Thoughtはなぜ有効なのか、promptはなぜ長いほど良いわけではないのか、モデルはなぜ幻覚を起こすのか。一見無関係な現象は、同じ中核的な仕組みが異なる側面に現れたものです。この記事では、一つの「万能の鍵」でLLMエンジニアリングの五つの扉を開きます。https://sinimite.work/ja/posts/llm-training-for-ai-engineers/Sat, 04 Apr 2026 12:00:00 +0900https://sinimite.work/ja/posts/llm-training-for-ai-engineers/AI アプリケーションエンジニア向けに、事前学習、ポストトレーニング、蒸留、Reward 設計、Agent 学習、Harness Engineering を網羅した大規模言語モデル学習の全体ガイド。モデル能力がどこから生まれ、学習上の判断が実際のアプリケーションにどう影響するかを理解する。https://sinimite.work/ja/posts/entropy-in-llm/Fri, 27 Mar 2026 00:00:00 +0000https://sinimite.work/ja/posts/entropy-in-llm/Entropy は LLM のライフサイクル全体を貫きます。学習では cross-entropy を loss に使い、推論では temperature で出力 entropy を制御し、評価では perplexity を使い、プロダクトでは hallucination 検出の信号にできます。本記事は AI エンジニアの視点から全体像を整理します。https://sinimite.work/ja/posts/llm-api-kv-cache/Thu, 05 Mar 2026 11:09:00 +0900https://sinimite.work/ja/posts/llm-api-kv-cache/KV Cacheは、「Transformerの理論」と「LLMのエンジニアリングおよびデプロイ」を結ぶ重要な概念です。これを理解すれば、「モデルがどう計算するか」から「モデルがどう動くか」までの最後のつながりが見えてきます。https://sinimite.work/ja/posts/llm-chain-of-thought-cot/Wed, 04 Mar 2026 21:51:00 +0900https://sinimite.work/ja/posts/llm-chain-of-thought-cot/LLM Chain-of-Thought（CoT）とは何か、prompt engineeringによってLLMのChain-of-Thought（CoT）を引き出す方法を理解します。https://sinimite.work/ja/posts/understanding-transformer-intuition/Tue, 24 Feb 2026 12:00:00 +0900https://sinimite.work/ja/posts/understanding-transformer-intuition/私にとって最初の正式なブログ記事。