itslabtime.com

정보·컴퓨팅 · 인공지능 기초

퍼셉트론과 선형 분류

퍼셉트론은 입력의 가중 합과 편향으로 두 범주를 나눕니다. 직선으로 나눌 수 없는 자료는 단층 선형 분류만으로 완벽히 구분할 수 없습니다.

관련 실험: 퍼셉트론 분류 →
퍼셉트론 분류
퍼셉트론 분류 실험 장면 →

개념과 작동 원리

가중치 벡터는 분류 경계의 방향을, 편향은 위치를 정합니다. 두 입력 특성의 경우 경계는 직선으로 나타납니다.

오분류한 점에서 가중치와 편향을 조정해 정답 방향으로 경계를 이동합니다. 학습 순서와 초기값에 따라 도달 경계나 속도가 달라질 수 있습니다.

관계식과 성립 조건

실험은 w←w+η(y−ŷ)x, b←b+η(y−ŷ)로 갱신합니다. 실제값 y와 예측값 ŷ의 차이가 없으면 이 갱신량은 0입니다.

표준 퍼셉트론의 수렴 성질에는 선형 분리 가능성 등이 필요합니다. XOR처럼 선형 분리할 수 없는 배치는 학습 횟수를 무작정 늘려도 단층 직선으로 해결되지 않습니다.

가상 실험에서 읽을 변화

선형 분리 가능한 점은 하나의 직선으로 학습할 수 있어요.

단층 이진 분류기예요. XOR은 선형 분리가 불가능해요. 수렴 속도는 초기값과 순서에 의존해요.

핵심 관계와 기호

w ← w + η(y − ŷ)x · b ← b + η(y − ŷ)

공식에 쓰인 기호와 단위
기호뜻단위
w, b가중치·편향모형 매개변수
η학습률모형 계수
y, ŷ정답·예측 범주0 또는 1

예시로 확인하기

정확도가 백 퍼센트면 오분류 수는?

영 개예요 · 선형 분리 가능한 점은 하나의 직선으로 학습할 수 있어요.

자주 헷갈리는 점

  • 학습 오차가 줄지 않는 원인이 항상 학습률이 작기 때문인 것은 아닙니다.

이 개념을 실험으로 확인하기

참고 자료

OpenStax · Introduction to Computer Science (영어)