K-means Clustering (K-평균 클러스터링)

https://bkshin.tistory.com/entry/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-7-K-%ED%8F%89%EA%B7%A0-%EA%B5%B0%EC%A7%91%ED%99%94-K-means-Clustering?category=1057680 

머신러닝 - 7. K-평균 클러스터링(K-means Clustering)

위 블로그를 필사하며 공부

 

* 모든 텍스트와 이미지의 출처는 위 블로그입니다.

 

---

 

 

K-means clustering은 비지도 학습의 클러스터링 모델 중 하나

 

클러스터(cluster): 비슷한 특성을 지닌 데이터끼리의 묶음

- 여기서의 비슷한 특성; 가까운 위치

 

클러스터링(clustering): 어떤 데이터들이 주어졌을 때, 그 데이터들을 클러스터로 그룹핑 시켜주는 것

 

centroid: 각 클러스터의 중심

 

 

K-means Clustering에서

- K: 클러스터의 갯수

- means: 한 클러스터 안의 데이터 중심(centroid)

 

즉, K-means Clustering은 K개의 centroid를 기반으로 K개의 클러스터를 만들어주는 것을 의미

- 목적; 유사한 데이터 포인트끼리 그룹핑하여 패턴을 찾아내는 것

 

 

 

프로세스

1. 얼마나 많은 클러스터가 필요한지 결정 (= K 결정)

 

2. 초기 centroid 선택

- 랜덤하게

- 수동으로

- Kmean++ 방법

 

3. 모든 데이터를 순회하며 각 데이터마다 가장 가까운 centroid가 속해있는 클러스터로 assign

 

4. centroid를 클러스터의 중심으로 이동

 

5. 클러스터에 assign되는 데이터가 없을 때까지 스텝 3, 4를 반복

 

 

 

 

K-means 단점

* local minimum이 발생할 수 있다!

 

출처: Udacity

- 위 데이터를 두 개의 클러스터로 나누려면?

- 왼쪽 6개 데이터의 묶음 & 오른쪽 6개 데이터의 묶음을 각각의 클러스터로 나누어 주기

 

출처: Udacity

- 하지만 초기에 설정된 centroid가 위와 같다면 위, 아래로 나눌 것임

- 위쪽 6개의 점은 위쪽 centroid와 가장 가깝고, 아래쪽 6개의 점은 아래쪽 centroid와 가깝기 때문에 이대로 iteration이 끝남

- 하지만 centroid 위치를 양 옆으로 조금만 움직여도 클러스터는 우리가 원하는 대로 오른쪽, 왼쪽으로 바뀔 것