[밑바닥부터 시작하는 딥러닝1] 2장 퍼셉트론 - 퍼셉트론의 한계

2.4.1 도전! XOR 게이트

XOR게이트는 배타적 논리합이라는 논리 회로입니다.

x1, x2 중 한쪽이 1일 때만 1을 출력합니다(배타적이란 자기 외에는 거부한다는 의미죠.)

 

XOR게이트의 진리표

$x_{1}$	$x_{2}$	$y$
0	0	0
1	0	1
0	1	1
1	1	0

사실 지금까지 본 퍼셉트론으로는 이 XOR 게이트를 구현할 수 없습니다. 왜 그런지 시각적으로 설명해보겠습니다.

 

[그림1] OR 게이트 : 회색 영역은 0을 출력하는 영역, 전체 영역은 OR게이트의 성질을 만족

OR 게이트를 만들려면 위의 그림의 ●와 ▲을 직선으로 나루 수 있어야 합니다. 실제로 이 그림의 직선은 네 점을 제대로 나누고 있습니다. 그럼 XOR 게이트의 경우는 어떨까요?

 

 

2.4.2 선형과 비선형

결론적으로 XOR게이트를 직선 하나로는 나눌 수 없습니다. 그러나 직선이라는 제약을 없앤다면 다음 그림처럼 나눌 수 있습니다.

 

[그림2] 곡선이라면 ●와 ▲를 나눌 수 있다.

 

퍼셉트론은 직선 하나로 나눈 영역만 표현할 수 있다는 한계가 있습니다. 위와 같은 곡선을 표현할 수 없다는 것입니다.

 

한편, 위 그림과 같은 곡선의 영역을 비선형 영역, 그림 1과 같은 직선의 영역을 선형 영역이라고 합니다.

선형, 비선형이라는 말은 기계학습 분야에서 자주 쓰이는 용어로, 위 그림1, 2와 같은 이미지를 더올리시면 됩니다.