MBBへの道15 階層型クラスタリングとK-meansの違いとは?クラスター分析を実務目線で整理

今回は「階層型クラスタリングとK-meansは何が違う?「似たものをまとめる」を学んでやっと分かったこと」の備忘録。
クラスタリングとK-meansはAI学習でもよく出てくるやつ。

LSS MBB講義でクラスター分析を扱う際、階層型クラスタリングとK-meansの立ち位置がかなり異なることに気づいた。
表面的には両者ともデータを複数グループに分割する手法だが、統計的目的、計算手順、結果の解釈性、そして何より「何を知りたいのか」という問題設定が根本的に異なっていた。

G検定に合格しました!勉強法と試験の難易度を徹底解説

多次元空間における距離と「似ている」の定義

「似ている」は単なる直感ではなく、数値で定義する必要がある。

重量だけなら「50kgと51kgは似ている」と簡単に判定できる。
だが温度・圧力・処理時間が一緒にある場合、どう比べるのか。

  • バッチA:重量50kg、温度90℃、圧力1.2MPa、処理時間250秒
  • バッチB:重量51kg、温度91℃、圧力1.1MPa、処理時間245秒

この2つが「似ているか」を判定するには、4つの数値の組み合わせ全体で「距離」を計算する。距離が近い=似ている、という定義だ。

距離メトリクスは複数ある。
ユークリッド距離(直線距離)、マンハッタン距離(碁盤目状の距離)、マハラノビス距離(相関と分散を考慮)など。どれを選ぶかで結果が変わる。

スケーリング問題:変数の「単位」をそろえる

落とし穴がある。次のようなデータを見ると:

  • 温度:90~110℃(変動幅20)
  • 圧力:1.0~2.0 MPa(変動幅1)
  • 処理時間:100~500秒(変動幅400)

生の数値で距離を計算すると、変動幅が最も大きい「処理時間」が支配的になり、温度や圧力の差は無視されてしまう。
これを防ぐため、標準化(standardization)を行う。つまり各変数を「(値-平均)÷標準偏差」に変換して、すべてのスケールをそろえる。

これは単なる前処理ではなく、「何を似ていると見なすか」という実務判断そのものだ。当然標準化するしないで結果は劇的に変わる。

階層型クラスタリング:似たもの同士をどんどん結合する

階層型クラスタリングのイメージは単純だ。最初は全データが独立しており、似ているもの同士をどんどん結合していく。

A、B、C、D、E、F、G、Hという8つのバッチがあったとしよう。

  1. 最も似ているもの同士(例:AとB)を結合して、{A,B}という新しいグループを作る
  2. 次に似ているもの同士(例:Cと{A,B})を結合する
  3. この操作を繰り返して、最後には全データが1つにつながる

このプロセスを図にしたのがデンドログラム(樹形図)だ。

 

デンドログラムの見方

デンドログラムは「最終的なグループ分け」を示すのではなく、どの段階でどれが結合したかを記録している。

グラフを見ていると、最初はちょこちょこ結合が起こるが、ある高さを超えると「結合距離がぐっと大きくなる」という箇所が見える。
ここが「本来的に異なるグループの境界」を示唆している。
この高さで線を引くと、「自然な」クラスター数が決まる。

だから階層型の利点は、事前にクラスター数を決める必要がないこと。デンドログラムを見てからクラスター数を決められる。

階層型の欠点:計算が遅い

データが n 個ある場合、計算量は O(n²) ~ O(n³) と表記される。
これは「データが2倍になると、計算時間は4~8倍かかる」という意味だ。

実務的には:

  • 1,000件なら数秒で終わる
  • 10,000件なら数分~数十分
  • 100,000件は実行不可能に近い

だから大規模データセットの場合は、小規模なサンプルに対して階層型を実行し、クラスター数を決定するという使われ方が多い。

ちなみにこのOは、ビッグオー記法(Big-O notation)と言って、計算量の増え方を表す数学的書き方。

K-means:事前にk個に決めてから最適に分割する

K-meansは階層型と全く異なるアプローチだ。

「このデータを3グループに分けたい」と最初に決めたら(k=3)、その3グループに最適に分割する方法を探す。

アルゴリズムの流れ:

  1. 3個の「重心」(グループの中心)をランダムに配置する
  2. 全データを「最も近い重心」に割り当てる
  3. 割り当てられたデータの平均位置を計算し、重心をそこに移動させる
  4. ステップ2-3を、重心の移動が止まるまで繰り返す

最終的に、重心が安定した状態が「k個のグループ分割」だ。

K-meansは高速

階層型と違い、K-meansの計算量はほぼ「観測値数 × クラスター数」程度。
データ数が数千~数百万でも実行できる。

ただし初期重心の配置によって、得られるグループ分割が異なる可能性がある。
そのため、複数の初期値から実行して「最も良い結果」を採用するのが実務的だ。
Minitabやscikit-learnは自動でこれをやってくれる(k-means++法)。

K-meansの隠れた仮定:球形でサイズが同じクラスタ

K-meansは「重心からの距離」で全方向を同じに扱う。
つまり、暗黙のうちに「球形で、大きさが同じクラスタ」を仮定している。

もし実際のデータが「細長い楕円形の塊」だったらどうなるか。
K-meansは楕円の短軸で分割し、本来同じグループを分けてしまう可能性がある。

この場合、階層型クラスタリングの段階的な融合プロセスの方が、実際のデータ構造をより正確に捉えられることがある。

球形仮定が破れているかどうかを判別する

実務で最初にやることは、小規模サンプルでPCAを実行し、主要な2成分でプロットすること。

  • 「いくつかの密集した楕円形の塊」が見えたら → 球形仮定が破れている
  • 「均等に散らばった球形」に見えたら → K-meansが適切

もっと客観的には、階層型とK-meansの両方を試して結果を比較する。

  1. 階層型でデンドログラムを見る
  2. 同じデータでk値を階層型から決定し、K-meansを実行
  3. 2つのクラスター構造を見比べて、一致度を確認

大きく異なる結果が出たら「データは球形ではない」という判断。
この場合、階層型の方が信頼性が高い。

現実的な選択:データサイズとのバランス

だが「階層型の方が正確」だからといって、いつでも階層型を選べるわけではない。

  • n < 1,000:球形判別をしたうえで、階層型かK-meansか決める
  • n = 1,000~10,000:階層型でk値を決定 → 本データセットはK-meansで分割(ハイブリッド)
  • n > 100,000:K-meansのみ(階層型は計算量的に不可能)

つまり「完璧な手法を選ぶ」のではなく、「データの性質」「サイズ」「計算可能性」のバランスを取ることになる。

MBB実務では、この判断基準を最初に明示しておくことが重要だ。
「なぜこの手法を選んだのか」を後で説明できるようにしておくっていうのはかなり大事。

K個の選択問題:正解をどう決めるか

K-meansで k を事前に決めなければならないが、これが難しい。

Elbow法(視覚的判定)

k=1,2,3,4,…と変えながらK-meansを実行し、「グループ内のばらつき」をプロットする。
k が増えるとばらつきは減るが、ある k 値を超えると減少が鈍くなる。
この「肘」の位置が候補になる。

欠点は視覚的判定に頼ること。明確な肘が見えない場合が多い。

Silhouette係数(数値判定)

より客観的な指標。各観測値について、「自分のクラスタ内との距離」と「最も近い他のクラスタへの距離」の比率から -1~1 の値を算出する。

  • Silhouette値が1に近い=そのクラスタに確実に属している
  • Silhouette値が0に近い=クラスタの境界線上にいる(曖昧)
  • Silhouette値が-1に近い=実は他のクラスタの方が近い(誤分類)

全データのSilhouette平均値が最も高い k 値を選択するというのが一つの基準。

統計指標 + 領域知識

ただし、統計的に最適な k 値が、工程上の意味を持つかは別問題。

例えば、統計的には k=5 が最適でも、「この工程は実際には3種類の条件で動いている」という領域知識があれば、k=3 で分析する方が意味のある結果になる。

実務では、Elbow法とSilhouette係数を参考にしつつ、「工程上、いくつのグループに分けるべきか」という現場知識と組み合わせて決定する。

階層型とK-meansの根本的な違い

階層型:構造の探索

「このデータには、本来どのような自然なグループ構造があるのか」という問いに答える。
デンドログラムを通じて、観測値がどの段階で結合したかを追跡できる。
クラスター数を事前に決めず、結果を見てから「ここが自然な分割点だ」と判定できる柔軟性がある。

K-means:分割の最適化

「このデータを k 個のグループに分ける場合、どのような分割が最適か」という問いに答える。
アルゴリズムが単純で、目的関数が明確。数学的に収束も保証される。

つまり競合ではなく、問いが違う

「どちらが優れているか」ではなく、何を知りたいかで選ぶ。

  • 「データをじっくり観察して、グループ構造を発見したい」→ 階層型
  • 「事前に決めた k 個に最適に分割したい」→ K-means

実務シナリオ別の使い分け

シナリオ1:大規模データで構造が未知

小規模サンプルで階層型を実行 → デンドログラムから k 値を決定 → 本データセットでK-meansを実行

シナリオ2:実験計画法(DOE)の結果分析

因子の組み合わせ数が既知(k 値が決まっている)→ K-meansを直接適用

シナリオ3:新規データのリアルタイム分類

過去データでK-meansの重心を計算・保存 → 新規バッチが来たら重心への距離だけ計算し、最も近い重心に割り当てる

K-meansの実装上の注意

初期値の影響

K-meansは初期重心の配置に敏感。異なる初期値から実行すると異なる結果が得られる可能性がある。
対策:k-means++初期化、または複数の初期値から実行して最良結果を採用(Minitabやscikit-learnは標準実装)。

外れ値への脆弱性

1個の外れ値が重心を大きく移動させ、全体のクラスター構造を歪める。
対策:事前に異常検出を行い、明らかな外れ値をフィルタリング。

データサイズに応じた手法選択は自動的に決まる

  • n < 1,000:両方検討可能
  • n = 1,000~10,000:ハイブリッド
  • n > 100,000:K-meansのみ

再現性の確保

K-meansは実行ごとに異なる結果を得る可能性がある。
seed値を固定し、複数実行で安定性を確認。

クラスター取得後が本当の仕事

クラスター分析を実行した後が、むしろMBB活動の本質。

数学的にクラスターが「出来た」だけでは意味がない。それが統計的に有意かつ工程上に意味があるかを検証する必要がある。

プロファイリング

各クラスターの変数ごとの平均値を確認。
例:クラスター1は低温・短時間、クラスター2は高温・長時間 という工程的な意味付けができるか。

因果関係と相関の区別

「クラスター1と高品質率が相関している」=「クラスター1の条件で運転すれば品質が上がる」ではない。
他の要因(設備、材料ロット、作業者)が本当の原因かもしれない。
領域知識と照らし合わせて検証する。

統計的検定

MANOVA(多変量分散分析)やKruskal-Wallis検定でクラスター間に有意差があるか検定。
p < 0.05 なら「統計的に有意なクラスター構造」と判定。

PCA、マハラノビス距離との関連

PCA(主成分分析)とクラスター分析は、一見似ているが目的が違う。

  • PCA:「データのばらつきを説明する、新しい軸を探索する」
  • クラスター分析:「観測値間の類似度に基づいて、グループを形成する」

ただし実務では「PCA → クラスター分析」という流れが有効な場合もある。

例えば100変数の高次元データに対してK-meansを直接適用すると、計算が重くノイズの影響が大きくなる。
この場合、PCAで次元削減(100 → 5)してから、主成分空間でクラスター分析を実行する。
計算が高速化し、ノイズも緩和される。

まとめ:手法選択のロジック

  • データの構造が未知、探索的に分析したい → 階層型クラスタリング
  • クラスター数が既知、またはElbow法/Silhouetteで決定した → K-means
  • 大規模データセット(n > 100,000) → K-meansのみ
  • 初期探索 + 本分析のハイブリッド → 小規模サンプルで階層型 → k値決定 → 本データセットでK-means
  • 新規データのリアルタイム分類 → K-meansの重心を活用

最後に:分析の本質

クラスター分析で結果が決まるのではなく、次のすべてが影響する。

  • 距離メトリクスの選択
  • 変数のスケーリング戦略
  • k値の決定方法
  • 初期化方法(K-meansの場合)

そして得られたクラスターが「工程上の意味を持つか」を検証するのは、最終的には人間の判断。

Minitabやscikit-learnで実装する際も、これらの選択肢と限界を理解したうえで運用することが、真のMBB実践につながるのだと思う。

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

CAPTCHA