ML 관련 서적 개념요약4

• 

  [패턴인식과 머신러닝] 다항식 곡선 피팅 예시를 통한 머신러닝 개요 해당 게시물은 'Pattern Recognition and Machine Learning) - Christoper M. Bishop'을 참고하여 정리한 정리본입니다. Machine Learning (머신 러닝) : N개의 숫자들${x_1, .. , x_n}$을 Training set (훈련 집합)으로 활용해서 변경 가능한 모델의 매개변수들을 조절하는 방법 target vector $t$ (표적 벡터) : 해당 숫자의 정체가 실제로 무엇인지를 나타낸다. 이미지 $x$에 대한 표적 벡터 $t$는 하나다. $y(x)$ : Machine Learning 알고리즘의 결과물 새로운 이미지 $x$를 입력값으로 받았을 때 대상 벡터와 같은 방식으로 부호화된 벡터 $y$를 출력하는 함수 Training (Leaning).. ML 관련 서적 개념요약/패턴인식과 머신러닝 2022. 1. 23.

• 

  [Chapter 8] 딥러닝 (Deep Learning) 본 글은 '밑바닥부터 시작하는 딥러닝' 책을 참조하여 정리한 요약본입니다. 혹여나 제가 잘못 이해하고 있다면 댓글로 알려주시면 감사하겠습니다. Deep Learning : 층을 깊게 한 심층 신경망 (Deep Neural Network) Deep Neural Network는 hidden layer (은닉층)을 많이 쌓아 parameter (매개변수)를 늘리는 방식으로 모델의 표현력을 높인다. 매개변수를 훈련할 충분한 학습 데이터를 확보하지 않으면 모델의 성능을 저해하는 overfitting (과적합) 문제가 상대적으로 더 쉽게 발생한다. 과적합 : 모델이 훈련 데이터에만 지나치게 적응해 테스트 데이터 또는 새로운 데이터에는 제대로 반응하지 못하는 현상 하지만 양질의 데이터를 대량 확보하는 데엔 많은 비용.. ML 관련 서적 개념요약/밑바닥부터 시작하는 딥러닝 2021. 5. 24.

• 

  [Chapter 7] 합성곱 신경망 (CNN) 본 글은 '밑바닥부터 시작하는 딥러닝' 책을 참조하여 정리한 요약본입니다. 혹여나 제가 잘못 이해하고 있다면 댓글로 알려주시면 감사하겠습니다. Fully-Connected (완전연결) 신경망은 인접하는 계층의 모든 뉴런과 결합된다. 문제점 : 데이터의 형상이 무시된다. 즉, 완전연결 계층에 입력할 때는 3차원 데이터를 평평한 1차원 데이터로 평탄화 해주어야 한다. (이미지의 경우 3차원 데이터 : 가로, 세로, 채널(색상)) 이미지는 3차원 형상이며, 이 형상에는 공간적 정보가 담겨 있지만, 완전연결 계층은 형상을 무시하고 모든 입력 데이터를 동등하게 같은 차원의 뉴런으로 취급하여 형상에 담긴 정보를 살릴 수 없다. 해결방법 : 합성곱 계층은 형상을 유지한다. 이미지도 3차원 데이터로 입력 받으며 다음 .. ML 관련 서적 개념요약/밑바닥부터 시작하는 딥러닝 2021. 5. 24.

• 

  [Chapter 5] 오차역전파법 (Back Propagation) 본 글은 '밑바닥부터 시작하는 딥러닝' 책을 참조하여 정리한 요약본입니다. 혹여나 제가 잘못 이해하고 있다면 댓글로 알려주시면 감사하겠습니다. 신경망의 가중치 매개변수에 대한 손실 함수의 기울기 → ‘수치미분’을 사용하여 구함 Problem 수치미분은 단순하고 구현하기 쉽지만 계산 시간이 오래 걸린다. MLP의 파라미터 개수가 많이지면서 각각의 weigh와 bias를 학습시키는 것이 매우 어려워진다. Solution ‘Backpropagation (오차역전파법)’을 사용하여 가중치 매개변수의 기울기를 효율적으로 계산한다. Gradient Descent Algorithm : If we are using thousands of weigh, it is impossible to identify w value. .. ML 관련 서적 개념요약/밑바닥부터 시작하는 딥러닝 2021. 5. 24.