얼레벌레 실전파 또뇽이의 실험실

배달의 민족에 적용된 AI 서비스 리뷰이미지 검수 배달 예상 시간 머신러닝 시스템의 구성요소르 ㄹ보면 이해가능함 실제 ML코드는 중요하지만 매우 작은 부분을 차지 주변의 시스템의 복잡성이 높기 때문에 ml 코드를 둘러싼 수맣은 요소들을 함께 유지보수 해야하고 이 과정에서 높은 비용과 시스템 레벨의 부채가 발생 이러한 복잡한 머신러닝 시스템에서 대브옵스 프로세스만으로 서비스를 만드는 과정은 굉장히 어려움 따라서 최적화된 솔루션이 필요함 MLOps와 AI스튜디오로 나뉨 AI스튜디오 - AI개발자가 사용하는 개발 환경 툴 그 뒤에 MLOps를 구성하기 위해 엔지니어와 작업을 하는 형태 주요 고객은 AI개발 서비스 조직 AI플랫폼을 통해 데이터 연동 인프라 거버넌스 조직의 지원을 받고있음 협업이 많아서 운영 원..

MLOps 2024. 4. 8. 12:07

"모델은 열심히 만들었는데 서비스화 가능할까?" 모델을 만드는것과 서비스화 하는것은 다르기때문에 고민이 많아짐. 서비스 한다고 가정할때에 가장 걱정되는것은? 1. 데이터 드리프트 지속적인 재학습으로 파이프라인이 추가된다면? 공통된 부분 재학습이 효율적. 모델의 실질적인 서비스화 부분들에 대해 고민 2. 프로젝트 구조 PREFECT와 RAY를 통해 모델 학습 그것을 클라우드 스토리지와 DB에 저장 저장된 모델을 FAST API서버로 전달하여 천달 각각의 연결고리로 MLFLOW를 사용하였고 환경은 쿠버네티스로 관리 매번 하이퍼파라미터 튜닝 -> MNI와 RAY같은 라이브러리 도입하여 연구자가 조금 더 생산적인 업무에 집중할수있도록 처리 모델 관리 측면 - 모델이 잔뜩 쌓여감 - MLFlow통해 간편하게 관리..

MLOps 2024. 4. 8. 08:38