뉴럴 네트워크(Neural Network)는 신경회로 또는 신경의 망으로, 인공 뉴런이나 노드로 구성된 인공 신경망을 의미한다. 인공신경망은 인간의 두뇌를 구성하는 신경세포 즉, 뉴런(Neuron)의 형태 및 동작원리를 모방하여 만든 모델이며, 인공신경망을 이해하기 위해 생물학적 뉴런의 원리를 파악하는게 좋습니다. 인간의 두뇌에 있는 각각의 뉴런은 수상돌기를 통해 다른 뉴런으로부터 신호를 입력받아 축색돌기를 통해 다른 뉴런으로 신호를 내보내며, 출력 신호는 입력된 신호가 모여서 일정한 용량을 넘어설 때 일어나게 됩니다. 그리고 이를 모방한 인공신경망의 원리를 보면, 변수를 입력하면 입력 층에서 각각의 입력변수 x의 값을 가진 노드들이 임의의 값을 갖는 가중치 w와 결합하여 새로운 노드를 생성하게 되는 원리로 학습이 진행됩니다. 이때 bias가 더해져 활성화 함수와 결합하게 되며, 이러한 모든 과정이 끝난 최종 값이 다음 노드로 출력됩니다.
인공신경망 장점- 기존의 데이터를 기반으로 학습하기 때문에 (수학적으로) 해결이 어려운 복잡한 문제에 대해 분석이 용이하고 분석시간이 비교적 짧다.- 패턴 인식, 예측, 분류 등의 문제에 특화되어 있고, 이를 적용하여 해결할 수 있는 문제의 분야 및 범위에 대한 제약이 적다.
인공신경망 주의점- 입력변수로 들어가는 데이터의 품질에 따라 결과가 달라질 수 있음- 모델을 구성하는 다양한 하이퍼 파라미터의 선택에 따라 학습 성능에 큰 영향- 제한된 은닉층과 학습의 복잡도로 인해 과대 적합(Overfitting), 과소 적합(Underfitting) 등의 학습성능 문제 발생 가능- 학습과정 중 기울기가 소실되는 Vanishing gradient 발생 가능
https://airsbigdata.tistory.com/195https://todayisbetterthanyesterday.tistory.com/41