itslabtime.com

情報・計算・人工知能の基礎

パーセプトロンと線形分類

パーセプションは、入力とバイアスの重み付き和に基づいてデータを2つのカテゴリーに分類します。単層の線形分類器では、データを完全に分離できないデータは、直線で分割できません。

関連する実験:パーセプトロン分類 →
パーセプトロン分類
パーセプトロン分類の実験画面 →

概念と仕組み

重みベクトルは分類の境界の方向を決定し、バイアスはその位置を決定します。2つの入力特徴量の場合、境界は直線として現れます。

未分類領域における重みとバイアスの調整により、境界は正解の方向へ移動します。境界または達成される速度は、学習の順序と初期値によって変動します。

関係式と成立条件

実験では、w を w ← w + η(y − ŷ)x および b を b ← b + η(y − ŷ) で更新します。もし実際の値 y と予測値 ŷ の差がゼロの場合、更新量は 0 となります。

標準パーセプトロンの収束特性は、線形分離を必要とします。例えば、XORのような配置は線形分離できないため、単一層の直線で解決することはできません。トレーニング反復の数を増やすだけでは解決できません。

仮想実験で読み取る変化

線形分離できる点は1本の直線で学習できます。

単層の二値分類器です。XORは線形分離できません。収束は初期値と順序にも依存します。

重要な関係式と記号

w ← w + η(y − ŷ)x · b ← b + η(y − ŷ)

式で使う記号と単位
記号意味単位
w, b重み・バイアスモデルのパラメータ
η学習率モデル係数
y, ŷ正解・予測クラス0または1

例で確かめる

正解率100%のとき誤分類数は?

ゼロ個です · 線形分離できる点は1本の直線で学習できます。

よくある誤解

  • 学習のギャップが縮まらない理由は、必ずしも学習速度が遅いことが原因ではない。

この概念を実験で確かめる

参考資料

OpenStax · Introduction to Computer Science(英語)