アルゴリズム
トークンごとの価格を決定するアルゴリズム：2026年のLLM推論エンジンの内部
演算のボトルネックとなるプリフィル、帯域幅のボトルネックとなるデコード――この不整合から、PagedAttention、プレフィックスキャッシュ、連続バッチ処理、推測・検証、疎なアテンション、および線形ハイブリッドといった手法が生まれた。これこそが、2026年のAIの真のコストを決定づけるアルゴリズムの層である。
アルゴリズム
トークンごとの価格を決定するアルゴリズム：2026年のLLM推論エンジンの内部
演算のボトルネックとなるプリフィル、帯域幅のボトルネックとなるデコード――その位相差から、PagedAttention、プレフィックスキャッシュ、連続バッチ結合、推測・検証、スパースアテンション、および線形ハイブリッドアテンションが生まれた。これこそが、2026年のAIの真のコストを決定づけるアルゴリズム層である。
アルゴリズム
Big-Oを正しく読み解く：定数が次数よりも重要になる場合
O(n log n)が必ずしもO(n²)に勝るわけではありません。データ量が少ない場合、決定的な要因となるのは式ではなく、CPUのキャッシュです。
アルゴリズム
ハッシュテーブル：毎日使っているのに、めったに意識することのない構造
どの言語の辞書もハッシュテーブルです。その競合処理の仕組みを理解すれば、なぜ時折異常に遅くなるのかが分かります。
アルゴリズム
HNSW：数百万のベクトルの中から最も近い隣人を探す方法
すべてのベクトルデータベースはこの考え方に基づいています。これを理解すれば、意味検索が高速である一方で、絶対的に正確ではない理由がわかるでしょう。
アルゴリズム
ブルームフィルター：数ビットで「確実に存在しない」と回答する
安全を重視した嘘の仕組み：誤って「ある」と報告してしまうことはあっても、実際に存在するものを見落とすことは決してない。
アルゴリズム
一貫性ハッシュ：データ全体を再配置することなく、サーバーの追加・削除を行う
剰余除算でデータを分割すると、マシンを1台追加するたびに、ほぼすべてのデータを転送しなければならなくなります。ハッシュ関数はまさにその問題を解決してくれます。
アルゴリズム
頻度制限：トークンバッグまたはスライディングウィンドウ
4つの一般的なアルゴリズムがあり、それぞれが異なる種類の爆発的な増加を引き起こす。選択を誤ると、誤検知によるブロックか、見逃しかのいずれかになってしまう。
アルゴリズム
CRDT：仲裁役を必要とせずに、多くの人が同時に編集できる
ネットワークが切断された場合でも、複数のユーザーが同時に編集を行い、その後、誰かの仲裁を必要とせずに変更を統合できるデータ構造――買い物リスト、カウンタ、文書作成を例に解説する。