본문 바로가기

딥러닝2

딥러닝의 unsupervised learning 부분에 대한 제 이해.. 쉬운 예를 하나 들어보면 좋겠네요. 가령, Hyunwoong Jang 님과 Hyunmin Kim 님께서 이동윤 님을 현실 세계에서 보고 그림을 그린다고 하죠. 그리고 현민님은 왼쪽에서 현웅님께서는 정면을 보고 그린다고 하구요.. 그럼 분명 같은 사람의 얼굴을 그리지만.. 다른 그림이 나오겠죠.. 그럼.. 같은 방향에서 그리면 같은 그림이 나올까요? 물론 그림 그리는 것은 그 사람의 그림 실력에 따라 달라진다고 하지만.. 어떤 사람은 세밀하게 그릴 수도 있고, 어떤 사람은 커리커쳐 형태로 그릴 수도 있죠.. 그것을 모델링이라고 부릅시다. 왜냐하면 모델링은 현실의 approximation이니까요..자 똑같은 일을 딥러닝 알고리즘에게 시켜봅시다. 정면에서 그리기..그럼, 아마 현민님이나 현웅님께서 그리는 것처.. 2014. 12. 12.
힌톤 교수의 A Learning Algorithm for Boltzmann Machines의 이해 오늘은 연구실에 계시는 제 committee member 중 한 분인 Stefan, Henz님(물리학 전공)의 도움으로 Hinton 교수 저, A Learning Algorithm for Boltzmann Machines를 일부 읽어 보았습니다. 물리학자 분이시라서 수식 위주로 설명해주셨고.. 그 뒤로는 제가 다시 한 번 지금의 이해를 기준으로 논문을 읽어 봐야 할 듯 합니다. 본 내용은 다음의 내용과 함께 보시면 이해하기 더 좋습니다. http://www.aistudy.co.kr/control/information_theory.htm 중요한 내용이라면, 가령 일종의 패턴이 있다고 합시다. 이게 아주 자주 반복되는 패턴이라고 하면, 엔트로피가 낮은 것입니다. 왜냐하면, 이건 정보가 없다고 봐야 하는 것이.. 2014. 12. 9.