KNeighborsClassifier 첫 걸음

요약: X(단일 데이터 혹은 배열) 와 y(정답)로 1:1 매칭된 데이터들을 학습(fit) 시켜준 후,  테스트 데이터인 X' 를 주었을 때 기존 학습 데이터를 기반으로 가까운 정답을 내 뱉는다.

목표 : 생선의 너비(cm)와 무게(g)가 주어지면 도미와 빙어를 구분한다.

도미 데이터 (35세트)

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 

                31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 

                35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]

bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 

                500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 

                700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

import matplotlib.pyplot as plt

plt.scatter(bream_length, bream_weight)
plt.title('Bream')
plt.xlabel('Length(cm)')
plt.ylabel('Weight(g)')
plt.show()

도미의 산점도

 

빙어 데이터 (14세트)

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]

smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

plt.scatter(smelt_length, smelt_weight)
plt.title('Smelt')
plt.xlabel('Length(cm)')
plt.ylabel('Weight(g)')
plt.show()

빙어의 산점도

 

 

위의 둘을 하나의 그래프로 합쳐본다.

plt.title('total')
plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.show()

둘을 합치면...

 

이제 본격적으로 KNeighborsClassifier 를 사용해 본다.

먼저 2개의 데이터를 하나의 리스트로 합친 후, 길이-무게 세트 형식의 2차원 리스트로 만든다.

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

fish_data = [[l, w] for l, w in zip(length, weight)] 
print(len(fish_data))
print(fish_data)

출력: 49
[[25.4, 242.0], [26.3, 290.0], [26.5, 340.0], [29.0, 363.0], [29.0, 430.0], [29.7, 450.0], [29.7, 500.0], [30.0, 390.0], [30.0, 450.0], [30.7, 500.0], [31.0, 475.0], [31.0, 500.0], [31.5, 500.0], [32.0, 340.0], [32.0, 600.0], [32.0, 600.0], [33.0, 700.0], [33.0, 700.0], [33.5, 610.0], [33.5, 650.0], [34.0, 575.0], [34.0, 685.0], [34.5, 620.0], [35.0, 680.0], [35.0, 700.0], [35.0, 725.0], [35.0, 720.0], [36.0, 714.0], [36.0, 850.0], [37.0, 1000.0], [38.5, 920.0], [38.5, 955.0], [39.5, 925.0], [41.0, 975.0], [41.0, 950.0], [9.8, 6.7], [10.5, 7.5], [10.6, 7.0], [11.0, 9.7], [11.2, 9.8], [11.3, 8.7], [11.8, 10.0], [11.8, 9.9], [12.0, 9.8], [12.2, 12.2], [12.4, 13.4], [13.0, 12.2], [14.3, 19.7], [15.0, 19.9]]

 

정답 데이터를 만든다.

1은 도미, 0은 빙어를 의미한다.

fish_target = [1]*35 + [0]*14
print(fish_target)

출력: [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

 

핵심. fit()함수 로 학습, score() 함수로 평가한다. 

from sklearn.neighbors import KNeighborsClassifier
kn = KNeighborsClassifier()
kn.fit(fish_data, fish_target)
kn.score(fish_data, fish_target)

출력: 1.0

1.0은 정확도 100% 라는 뜻이다. 학습 데이터와 평가 데이터가 같으니 당연하다 볼 수 있다. 

 

위의 학습 데이터를 기반으로 임의의 데이터를 던져주면 잘 맞추는지 실험해 본다.

kn.predict([[38,955], [10, 6], [40, 925]])

출력: array([1, 0, 1])

길이가 38cm 고, 무게가 955g 인 생선은 도미라고 예상하며, 10cm 길이의 6g 무게의 생선은 빙어, 40cm 길이의 925g 의 생선은 도미라고 예상한 결과가 나왔다. 인간의 직관으로 생각해도 이는 정답이라고 생각된다.

 

정리 : KNeighborsClassifier 는 k-최근접 이웃 알고리즘이라고 부르며, 학습된 x,y 좌표에 가장 가까운 정답을 예측한다.