아롱이 탐험대

OVERVIEW 오늘 알아볼 논문 SSGAN (Self-Supervised GANs via Auxiliary Rotation Loss) 은 2018년 11월 구글 브레인에서 나온 논문이고, self-supervised learning에서 GAN을 접목시킨 논문 중 시작점을 알린 논문이다. SELF-SUPERVISION self-supervision는 비 지도 학습 방법 중 하나로 기본적으로 이미지의 라벨링 없이 진행한다. 이미지 라벨링은 인력 소비가 매우 큰 작업으로 시간뿐 만 아니라 비용도 매우 크게 든다. (현재 그린 뉴딜 뭐시기 하면서 데이터 일자리 창출이 라벨링 하는 것이다.) 또한 self-supervision는 다양한 딥러닝 분야 중 컴퓨터 비전 분야에서 만 사용하고, self-supervis..

OVERVIEW 의료, 기계 등의 분야에서 Anomaly detection (비정상 데이터 탐지)는 매우 중요하다. 현재 몇 회사들은 인공 지능을 활용해 기계의 결함을 분석한다든지, 의료 데이터를 활용해 환자의 질병을 도출하는 기술들을 개발 중이다. 하지만 위와 같은 데이터들은 몇 가지 문제점들이 있다. (1) 정상 데이터에 비해 비정상 데이터의 양은 현저히 낮다. (2) 모든 이미지 데이터를 라벨링 하기에는 큰 인력이 필요하다. (3) 이미지 전체의 특징 활용도가 낮다. 이외에도 몇 가지 문제점들이 존재하는데, 이 문제점들을 해결하고자 이 논문이 등장하게 되었고, 저자는 이 논문의 제목처럼 unsupervied learning (비 지도 학습)과 GAN을 사용하였다. 간략히 설명하자면 여기서 Unsup..

OVERVIEW 컴퓨터 비전에는 다양한 분야가 존재한다. 오늘 소개할 VAE는 generative 모델들에게 많은 영향을 끼쳤고, 나는 anomaly detection 분야에 관심이 생겨 VAE를 알게 되었다. 물론 2014년에 나온 논문이라 현재는 쓰이지 않지만 classification의 resnet과 같이 학습용으로 읽기는 좋은 논문이라 분석을 하게 되었다. 조만간 auto-encoder 계열의 anomaly detection 모델에 대해 공부해볼 생각이다. 물론 회사에 일이 없어야 되겠지만... 아무튼 VAE는 Neural Network와 mathematical 하게 등등 다양한 관점에서 해석할 수 있어 분석하는 관점마다 다양한 reference가 존재한다. 그만큼 좋은 분석 글 또한 많다. 우리..

현재 딥러닝을 주도하고 있는 분야는 자연어 처리 분야 및 컴퓨터 비전 분야입니다. 보통 자연어 처리는 RNN, LSTM 등을 기반으로 모델이 형성되고, 컴퓨터 비전은 CNN 기반으로 모델이 형성이 됩니다. 하지만 최근 들어 Attention, Transformer 등 자연어 처리에서만 사용되던 메커니즘이 컴퓨터 비전 분야에서도 활용이 되면서 더 이상 컴퓨터 비전 분야에서 CNN을 사용하지 않는 추세로 변화하고 있습니다. 오늘 살펴볼 Attention 기법도 NLP 분야에서 먼저 사용되었던 기법이지만, 이를 CNN에 접목시켜 SE-NET 등 다양한 Attention 기반 CNN 모델들이 탄생하게 되었습니다. Attention 메커니즘이란 Attention 메커니즘을 이해하기 전에 지금까지 우리가 사용해왔던..

Libtorch를 사용하는 방법은 크게 2가지로 나뉩니다. 1. pytorch으로 학습 후 weight를 torchscript로 변환 후 libtorch로 load 하기 2. libtorch로 학습 후 그대로 load 하기 이 중 대부분은 1번으로 libtorch를 사용합니다. 왜냐하면 오픈 소스가 대부분 python으로 작성돼있기 때문입니다. 만약 본인이 실력이 있고 논문을 구현할 수 있을 정도라면 2번을 추천합니다. (하지만 python이나 c++이나 딥러닝 부분에서는 큰 차이가 없습니다.) 1번에서 torchscript 변환은 2가지 방법으로 진행할 수 있습니다. (1) tracing을 통한 변환 (2) annotation을 통한 변환 tracing을 통한 변환은 defualt 변환이라고 생각하시면..

1. 인공 지능의 플랫폼 적용 추세 custom model, transfer learning 된 model 등 다양한 deep learning model을 직접 서비스하는 platform들은 아직까지 상용화되지 않고 있습니다. 우리 주변에서 볼 수 있는 인공지능 프로그램은 대부분 GPU 서버를 사용하거나 GPU가 있는 로컬 환경에서 서비스되고 있습니다. 예를 들어 요즘 쉽게 볼 수 있는 코로나 관련 열 감지 프로그램 또한 대부분 gpu가 있는 컴퓨터, 서버를 사용하여 python 코드로 서비스되고 있습니다. 하지만 산업 환경에서 쓰이는 인공 지능 로봇이나 모든 사람들이 이용하는 양산화 서비스 제품을 출시하려면 어떻게 배포해야 할까요? 모든 서비스 제품에 GPU를 탑지 하거나 GPU 서버를 구축하는 방법은..

비주얼 스튜디오를 설치하고 빈 프로젝트를 만들었다는 가정하에 진행하겠습니다. 아래 링크를 통해 LibTorch를 설치해 줍니다. https://pytorch.org/get-started/locally/ PyTorch An open source deep learning platform that provides a seamless path from research prototyping to production deployment. pytorch.org 본인의 환경과 맞는 CUDA 버전을 설치하여주시기 바랍니다. 설치 후 각 폴더를 본인이 원하는 경로로 압축을 풀어주세요. 저는 c드라이브에서 압축을 해제했습니다. 참고로 쓰여있는 것과 같이 위 파일이 release 버전, 아래가 debug 버전입니다. 그러고 ..

1. anomaly detection 방법론 (1) One-class classification 처음 살펴볼 방법은 one-class classification이다. 이 방법은 의료 분야에서 많이 쓰인다. 공장을 예를 들어보자. 공장에서 나온 제품들은 대부분 결함이 존재하지 않는다. 따라서 정상 제품 대비 비정상 (결함) 제품을 찾기가 힘들다. 데이터 분류를 위해서는 각 클래스에 해당하는 데이터가 균일하게 분포되어야 한다. 하지만 이러한 상황에서는 불균형이 생기게 된다. 이를 해결하고자 결함 이미지를 수집하는 것은 시간이 오래 걸린다. 따라서 정상 이미지만 가지고 정상인지 비정상인지 판단하는 one-class classification 방법이 나오게 되었다. one-class classification은..