륵늘

CNN 모델에서 할 수 있는 Task Classification - 분류 Object Detection - 물체 탐지 Segmentation - 픽셀별 분류 Comparision about Semantic, Instance and Panoptic Semantic은 나무, 하늘, 사람, 자동차 등과 같은 것들과 배경을 포함해서 pixel 별로 class를 구별 Instance는 배경을 제외한 나무, 하늘 사람, 자동차 등과 같은 것을 각각을 구별 ex) 사람1, 사람2, 사람3, 자동차1, 자동차2, 자동차3 Panoptic = Semantic + Instance Segmantic Segmentation 픽셀이 어느 class에 속하는지 예측하는 것. 지금 그림에서는 class가 5개이고, 각각의 픽셀들에..

Architecture Positional Encoding Transformer말고 자연어 처리에서 유용하게 사용되었던, RNN은 단어의 위치에 따라 단어를 순차적으로 입력 받아서 처리하는 RNN의 특성으로 인해서 각 단어의 위치 정보를 가질 수 있음. 하지만 Transformer에서는 단어의 위치 정보를 얻기 위해서 각 단어의 임베딩 벡터에 위치 정보들을 더해서 모델의 입력으로 사용하는데, 이것을 Positional Encoding이라고 함. 여기서 생길 수 있는 의문점이 “Positional Encoding 값은 어떤 값이길래 위치 정보를 반영할 수 있을까?” 생각이 드는데, Transformer는 위치 정보를 가진 값을 만들기 위해서 Sine, Cosine 함수를 사용해서 만들게 된다. 간단하게 말..

You Only Look Once (YOLO) Abstarct Object detection을 하는데 Classification으로 사용을 하다가 Regression으로 사용함 Full image 평가 한번으로 Bounding box와 class probabilities를 예측 할 수 있음. End-to-end : 한번에 처리가 가능, 많은 pipeline이 필요하지 않게 되었음. YOLO는 45 frames per second, Fast YOLO는 155 fps 최근의 기술에 비해서 YOLO는 지역적 오류는 많이 만들었지만, 배경을 object로 예측하지는 않음. YOLO 는 이전에 쓰이던 DPM, R-CNN의 성능을 능가했음. Introduction 사람의 탐지능력은 좋다고 말로 풀어서 쓰고 있음. ..

When Does Label Smoothing Help Label Smoothing Hard Label : One-hot encoded vector로 정답 인덱스는 1, 나머지는 0으로 구성하는 것 Soft Label : label을 0과 1사이의 값으로 구성하는 것 One-hot encoded vector에서 0인 값은 모두 0보다 큰 값인 0.02로, 정답을 나타내는 1은 1보다 작은 0.92로 label smoothing을 통해 벡터값을 변환, 다른말로 label-smoothing regularization Penultimate 라벨 스무딩의 효과를 시각적으로 나타내기 위한 방법으로, 소프트맥스 출력을 위한 fully-connected layer 이전인 네트워크 은닉층의 마지막 층(Penultima..