데이터/딥러닝

8. 다층 퍼셉트론(MLP)8.1 다층 퍼셉트론의 등장 XOR 문제를 극복하기 위해 퍼셉트론 두 개를 각각 처리하는 은닉층(hidden layer)을 만드는 기발한 아이디어 착안은닉층을 도입함으로써 구하고자 하는 출력값을 얻을 수 있게 됨 x1, x2를 두 연산으로 각각 전달첫 번째 연산에서는 NAND 처리 두 번째 연산에서는 OR 처리 2,3을 통해 구한 결괏값으로 AND 처리8.2 다층 퍼셉트론의 설계 점선으로 표시한 부분이 은닉층x1, x2에 가중치(w)를 곱하고 바이어스(b)의 합한 결과 값이 모이는 곳이 노드(node)은닉층에 취합된 값은 활성화 함수(ex. 시그모이드)를 통해 다음 노드로 전달됨두 식의 결괏값이 출력층 방향으로 보내지고, 마찬가지로 활성화 함수를 사용해 y 예측 값을 정하게 됨..

7장 퍼셉트론과 인공지능의 시작7.1 인공지능의 시작을 알린 퍼셉트론 인공신경망은 '뉴런처럼 인공적으로 생각하는 무엇인가를 만들 수 있지 않을까?'라는 생각에서 출발한 연구퍼셉트론(perceptron)은 인공신경망을 이루는 가장 기본적인 단위로 여러 개의 입력값에 가중치를 조절하여 출력을 만듦퍼셉트론에 경사하강법을 도입한 것이 아달라인(adaline)7.2 퍼셉트론의 과제하나의 직선으로 흰색 점과 검은색 점을 나눌 수 없는 상황 존재 7.3 XOR 문제 - 퍼셉트론의 한계AND 와 OR 게이트는 직선을 그어 1(검은색 점)인 값을 구별할 수 있지만 XOR의 경우 불가능 다층 퍼셉트론(multilayer perceptron), 오차 역전파(back propagation)로 퍼셉트론의 한계를 해결