아롱이 탐험대

Libtorch를 사용하는 방법은 크게 2가지로 나뉩니다. 1. pytorch으로 학습 후 weight를 torchscript로 변환 후 libtorch로 load 하기 2. libtorch로 학습 후 그대로 load 하기 이 중 대부분은 1번으로 libtorch를 사용합니다. 왜냐하면 오픈 소스가 대부분 python으로 작성돼있기 때문입니다. 만약 본인이 실력이 있고 논문을 구현할 수 있을 정도라면 2번을 추천합니다. (하지만 python이나 c++이나 딥러닝 부분에서는 큰 차이가 없습니다.) 1번에서 torchscript 변환은 2가지 방법으로 진행할 수 있습니다. (1) tracing을 통한 변환 (2) annotation을 통한 변환 tracing을 통한 변환은 defualt 변환이라고 생각하시면..

1. 인공 지능의 플랫폼 적용 추세 custom model, transfer learning 된 model 등 다양한 deep learning model을 직접 서비스하는 platform들은 아직까지 상용화되지 않고 있습니다. 우리 주변에서 볼 수 있는 인공지능 프로그램은 대부분 GPU 서버를 사용하거나 GPU가 있는 로컬 환경에서 서비스되고 있습니다. 예를 들어 요즘 쉽게 볼 수 있는 코로나 관련 열 감지 프로그램 또한 대부분 gpu가 있는 컴퓨터, 서버를 사용하여 python 코드로 서비스되고 있습니다. 하지만 산업 환경에서 쓰이는 인공 지능 로봇이나 모든 사람들이 이용하는 양산화 서비스 제품을 출시하려면 어떻게 배포해야 할까요? 모든 서비스 제품에 GPU를 탑지 하거나 GPU 서버를 구축하는 방법은..