![Cover Image for [Kubeflow] 모델 학습부터 서빙까지 파이프라인 구축하기](/assets/blog/mlops/kubeflow/thumbnail.png)
[Kubeflow] 모델 학습부터 서빙까지 파이프라인 구축하기
이 글은 kuebeflow Pipeline(kfp)를 활용해 pytorch 모델 학습부터 서빙까지 전 과정을 자동화하는 방법에 대해 설명합니다. 모델 학습에는 huggingface의 Transformers를 활용하며 모델 서빙에는 Torch serve, kserve를 활용합니다. 해당 툴에 익숙하지 않은 경우 아래의 링크를 먼저 읽은 다음 이 글을 읽는 것을 권장합니다.
[Kubeflow] Kserve로 pytorch 모델 서빙하기
이 글은 pytorch model을 kserve로 배포하는 방법을 설명합니다.Transformers를 활용해 Torchserve 배포하기에 기반해 작성한 글이므로 링크에 연결된 글을 읽고 이 글을 읽는 것을 권장합니다.
[Kubeflow] 인증 문제 해결하기
이 글은 kubeflow 관련 대표적인 인증 에러인 (60) SSL certificate problem: unable to get local issuer certificate와 /dex/auth?client_id=의 원인과 해결 방안에 대해 다루고 있습니다.
🤗 Transformers를 활용해 Torchserve 배포하기
이 글은 🤗 Transformers로 모델을 Fine-tuning한 뒤 Torchserve로 배포하는 방법에 대해 소개합니다. 이 글은 yelp 데이터 셋을 활용해 Distil-bert를 Text Classification 모델로 Fine-tuning하는 방법을 다룹니다. 모델 Fine-tuning은 Huggingfae Fine-tuning turorial 예제를 활용했습니다. 이 글외에도 추가적인 이해가 필요하다면 해당 튜토리얼도 읽어보는 것을 추천합니다. 이 글은 yelp 데이터 셋을 활용해 Distil-bert를 Text Classification 모델로 Fine-tuning하는 방법을 다룹니다. TorchServe는 Serving Huggingface Transformers using TorchServe의 예제를 참고했습니다. 해당 예제에는 SequenceClassification 외에도 token_classification, question_answering, text_generation에 대한 예제도 포함하고 있으니 필요한 경우 참고바랍니다.
[Kubeflow] Apple silicon 환경에서 Kubeflow 설치하기
Apple silicon 환경에서 minikube를 활용해 로컬로 kubeflow 구축하는 방법을 설명합니다. Apple silicon 기반에서 설치 가이드를 따라하기 힘든 이유는 주로 가상환경을 지원하는 프로그램이 Arm64를 호환하지 않거나 kubeflow 일부 컴포넌트가 Arm64를 호환하지 않기 때문입니다. 다양한 시도를 통해 알아낸 바로는 Apple slilcon 기반의 로컬에서 kubeflow를 설치하기 위해선 Docker를 통해 kubernetes를 실행하고, kubeflow 1.6 버전을 설치 해야합니다.