DevOps 썸네일형 리스트형 [MLOps] BentoML 모델 배포 목적: AI 제품 빌드를 위한 플랫폼 (효율적인 다양한 ML 모델 아키텍처 빌드, 파이프라인 관리, 서빙) 특징: 폭 넓은 ML 프레임워크 지원, 용이한 파이프라인 정의, Transformer-friendly BentoML 구조 모델을 Runner에 받게 됨 API라고 하는 서비스 코드 내에서 실행되게 됨 BentoML은 docker image를 지정해줄 필요 없이, 모델 패키징 후에 serve 또는 containerize를 하게 되면 "알아서" docker image를 불러옴. Runner 정의: 원격 python worker에서 실행 가능한 계산 단위 작동: Runner에 할당을 하게 병렬적으로 실행시킨 후, 결과를 merge하여 최종결과를 도출하여 output Service: 사용자의 input에 .. 더보기 이전 1 다음