LLMOps2024. 11. 15. 23:58🦙 올라마(Ollama): 나만의 GPT를 서비스 할 수 있는 도구를 소개합니다
올라마(Ollama)는 사용자가 간단하게 AI 라이브 서비스를 만들 수 있는 도구입니다. 내 맥북이나 그램 노트북에 나만의 작은 GPT 서버를 만들고 프롬프트를 붙여서 개인 비서로 쓸 수도 있습니다. 로컬에서 사용하면 비록 속도는 상용 GPT보다 느리지만 대형 언어 모델 (LLM)의 과정을 직접 경험하고, 회사에서 사용할 챗봇을 만들 수 있는 엄청난 도구입니다. 이를 위해 올라마는 모델을 서빙하는 API 서버로 동작합니다. 그리고 GPT 같은 파운데이션 모델 이외에도, 사전 지식에 사용하는 임베딩 모델도 서빙할 수 있습니다. 이 블로그에서는 올라마를 설치하고 사용하는 방법을 소개합니다. ✨ 소개 🦙 대형 언어 모델(LLMs, Large Language Models)을 만들고, 실행하고, 공유합니..