Machine Learning14 Estimating the number of neurons and number of layers of an artificial neural network from: stackoverflow.com question:I am looking for a method on how to calculate the number of layers and the number of neurons per layer. As input i only have the size of the input vector, the size of the output vector and the size of the trainig set.Usually the best net is determined by trying different net topologies and selecting the one with the least error. Unfortunately I can not do that. b.. 2015. 1. 9. 딥러닝의 unsupervised learning 부분에 대한 제 이해.. 쉬운 예를 하나 들어보면 좋겠네요. 가령, Hyunwoong Jang 님과 Hyunmin Kim 님께서 이동윤 님을 현실 세계에서 보고 그림을 그린다고 하죠. 그리고 현민님은 왼쪽에서 현웅님께서는 정면을 보고 그린다고 하구요.. 그럼 분명 같은 사람의 얼굴을 그리지만.. 다른 그림이 나오겠죠.. 그럼.. 같은 방향에서 그리면 같은 그림이 나올까요? 물론 그림 그리는 것은 그 사람의 그림 실력에 따라 달라진다고 하지만.. 어떤 사람은 세밀하게 그릴 수도 있고, 어떤 사람은 커리커쳐 형태로 그릴 수도 있죠.. 그것을 모델링이라고 부릅시다. 왜냐하면 모델링은 현실의 approximation이니까요..자 똑같은 일을 딥러닝 알고리즘에게 시켜봅시다. 정면에서 그리기..그럼, 아마 현민님이나 현웅님께서 그리는 것처.. 2014. 12. 13. 힌톤 교수의 A Learning Algorithm for Boltzmann Machines의 이해 오늘은 연구실에 계시는 제 committee member 중 한 분인 Stefan, Henz님(물리학 전공)의 도움으로 Hinton 교수 저, A Learning Algorithm for Boltzmann Machines를 일부 읽어 보았습니다. 물리학자 분이시라서 수식 위주로 설명해주셨고.. 그 뒤로는 제가 다시 한 번 지금의 이해를 기준으로 논문을 읽어 봐야 할 듯 합니다. 본 내용은 다음의 내용과 함께 보시면 이해하기 더 좋습니다. http://www.aistudy.co.kr/control/information_theory.htm 중요한 내용이라면, 가령 일종의 패턴이 있다고 합시다. 이게 아주 자주 반복되는 패턴이라고 하면, 엔트로피가 낮은 것입니다. 왜냐하면, 이건 정보가 없다고 봐야 하는 것이.. 2014. 12. 10. 인스타 규칙(Instar rule) 어떤 신경 세포가 특정 연결을 자극하면 그것의 연결 가중치를 그 자극과 같아지도록 조절한다. 이전에 언급했던 델타 규칙과 퍼셉트론은 목표로 하는 패턴이 있었다. 목표 패턴과의 비교를 통해서 오류를 줄여가는 방향으로 학습을 수행했기 때문에 감독학습(supervised learning)이다. 반면, 인스타 규칙은 이런 목표로 하는 패턴이 없다. 그러므로 무감독 학습(unsupervised learning)이다. 인스타 규칙은 1974년 그로스버그(Stephen Grossberg)에 의해 만들어졌다. 학습이 진행되면서 신경세포의 연결 가중치는 해당 신경 세포에 입력을 주는 신경 세포의 활성값과 유사해져간다. 2014. 10. 21. 이전 1 2 3 4 다음