AI37 [ Chapter.04 ] 손실 함수 신경망 학습에서 현재의 상태를 하나의 지표로 표현합니다. 이때 하나의 지표를 손실 함수라고 합니다. (손실 함수는 신경망 성능의 '나쁨'을 나타냅니다.) 이 지표를 가장 좋게 만들어주는 가중치 매개변수의 값을 탐색하는것이 목표입니다. 일반적으로 오차제곱합 or 교차 엔트로피 오차를 사용합니다. 01. 오차제곱합 신경망 출력 y는 softmax 함수의 출력입니다. 따라서 y는 확률로 해석할 수 있습니다. t는 one-hot encoding된 정답 label 입니다. 02. 교차 엔트로피 오차 t가 one-hot encoding된 값이기 때문에, 실질적으로 정답일때의 자연로그를 계산하는 것입니다. 즉, 교차 엔트로피 오차는 정답일 떄의 출력이 전체 값을 결정합니다. 03. 미니배치 학습 batch_size마.. 2022. 7. 31. MMDetection MMDetection 이란 ?? MMDetection은 Pytorch 기반의 Object Detection 오픈소스 라이브러리 입니다. 전체 프레임워크를 모듈 단위로 분리해 관리할 수 있다는 것이 가장 큰 특징 입니다. 최신의 다양한 Object Detection, Segmentation 알고리즘을 Package로 구현제공합니다. Model Architecture input: 우리가 가진 입력 이미지입니다. backbone: featuremap을 생성 (Feature Extractor (이미지 -> Feature Map)) neck: 일단은 featuremap이라고 생각해두자( Backbone과 Heads를 연결하면서 heads가 feature map의 특성을 보다 잘 해석하고 처리할 수 있도록 정제 작.. 2022. 7. 31. [ 논문 리뷰 ] Colorful Image Colorization 이번 논문은 Colorful Image Colorization 입니다. Colorization은 grayscale image를 color image로 변형시키는 것입니다. 이전에는 사람이 직접 grayscale image를 보고 object에 해당하는 Color를 판단하여 colorization을 수행했습니다. 이 논문에서 제안하는 것은 사람이 아닌 CNN Network를 통해 완전히 자동적으로 image에 맞는 선명하고 실제적인 colorization을 제안하였습니다. Prior Colorization 이전의 colorization은 grayscale과 color의 상관관계를 modeling 하여 colorization을 수행하였으며, 크게 Non-parameter와 Parameter method가 있.. 2022. 7. 31. [ 논문 리뷰 ] Unsupervised Visual Representation Learning by Context Prediction 이번 논문은 Unsupervised Visual Representation Learning by Context Prediction 입니다. Context Prediction은 self-supervised learning 이며, image로부터 patch를 추출하여 patch간의 상대적인 위치를 예측하도록 학습합니다. 실제로 이 상대적인 위치를 예측하는 task에 대하여 학습된 ConvNet은 낮은 성능을 나타냅니다. 이 방법으로 embedding을 학습하는데, 이 embedding은 동일한 object이면 가까운 거리, 다른 object인 경우에는 먼 거리를 갖도록 합니다. 이렇게 학습된 ConvNet은 transfer learning을 통하여 랜덤 초기화된 ConvNet보다 상당한 성능향상을 제공합니다.. 2022. 7. 31. 이전 1 2 3 4 5 ··· 10 다음
