[machine learning] mean substraction과 standardization

딥러닝 코드나 신경망 구조들을 보다 보면, 특히 영상 처리 할 때, 중간값을 빼거나 표준 편차로 나누는 일을 수행하는 것을 볼 수 있다.

이는 learning을 수행하기 전에 표준화를 하는 것으로 볼 수 있다.

이 중에 중간값을 빼는 경우는 centering을 수행하는 것이다. 가령 RGB 이미지의 경우 3차원의 공간을 가지고 있다고 보고, 개별 pixel은 이 3차원 값들로 표현된다. 중간값은 데이터를 설명하는 임의의 시작 지점을 명시하는 역할을 하게 된다. 그러므로 중간값을 빼게 되면, 중간값 중심으로 값들이 설명되게 된다.

표준 편차로 빼는 동작은 표준화(standardization)를 수행한다.이는 모든 입력값들의 가중치값을 조정하는 역할을 수행하게 된다.