오늘 못하면 내일도 못한다
-
![19. Convolutional Neural Network]()
19. Convolutional Neural Network
📌 Convolutional Neural Network image로부터 meaningful feature를 추출하기 위해 kernel(filter)를 학습한다 중요 특성 Local connectivity(MLP의 fully connected의 특성과 차이) overfitting 확률을 줄이고, 훨씬 적은 parameter로 학습이 가능하다 Parameter sharing parameter를 공유하여 더 적은 개수로 feature map을 생성한다 Pooling and subsampling input의 spatial dimension을 축소하여 feature map을 만든다 local translation에 대해 invariance하고, hidden unit의 개수를 줄일 수 있다 📌 Components ..
-
18. Learning Techniques for Neural Networks
📌 Model Set up Number of Hidden Nodes hidden node가 많아질수록 더 높은 표현 능력을 가진다 계산 능력과 일반화 능력을 고려하여 hidden node를 최적화해야 한다 Initialization condition 가중치 초기화 : small random value 학습률(learning rate) : 1보다 작은 값 설정. 학습하면서 조절 Activation function hidden node : sigmoid, hyper-tangent, ReLU output node : regression(real value출력) : linear, classification(binary 출력) : sigmoid, softmax 📌 Learning Mode online mode 각..
-
22. Generative Adversarial Network (GAN)
📌 GAN concept 이 경쟁이 그들을 우수하게 만들 것이라는 희망으로 신경망을 서로 경쟁하게 만든다. generator는 training data와 비슷한 data를 생성하려하고, discriminator는 진짜와 가짜를 구분하려 한다 생성적 적대 신경망, adversarial이 중요, 서로 발전한다 AE : input과 비슷한 output을 만들어내는 역할 Generator VAE의 decoder와 비슷한 모양이다 처음에는 랜덤한 pixel 값으로 채워진 가짜 이미지로 시작한다 descriminator의 판별 결과에 따라 지속적으로 업데이트 점차 원하는 이미지를 만들어간다 Discriminator regular binary classifier와 비슷한 모양이다 Generator에서 넘어온 이미지가..
