지난 포스팅에서 파이썬 코드로 올라마를 사용하는 방법을 소개했습니다. 이 경우에는 개발자가 코드에서 프롬프트와 올라마 서버 모두를 관리하였습니다. 이 방법은 테스트를 진행하기는 간편한 접근입니다. 하지만 클라이언트(프롬프트)와 서버(올라마)가 과도하게 결합되어 있다는 단점이 있습니다. 이번 포스팅에서는 도커를 이용해 파이썬 코드와 올라마 서버를 분리하여 사용하는 방법을 소개합니다. 이를 통해 클라이언트와 서버를 독립적으로 관리할 수 있게 됩니다. 도커 컴포즈를 이용해 재사용 가능한 인프라를 구성합니다. 따라서 올라마 서버는 한 클라이언트에서 분리되어, 다른 클라이언트와도 통신할 수 있는 개선된 형태를 가지게 됩니다.      ✨ 소개 🦙   로컬 환경에서 파이썬 코드로 별다른 설정 없이 올라마를 사용한..

안녕하세요. 블로그에 비밀댓글이 많이 보입니다. 따뜻한 인삿말을 남겨주시는 분들이 있어서 감사합니다만, 자동화된 인사말도 상당히 보여서 계속 정리를 하고 있습니다. 포스팅의 내용과 관련있지만 민감한 내용이면 얼마든지 비밀댓글로 주셔도 괜찮습니다. 하지만 비밀 안부댓글은 정중히 거절합니다.  블로그 내용과 관련이 없거나, 공개적으로 남기실 수 없는 내용이면 비밀댓글 보다는 개인 연락처로 부탁드립니다. 이 블로그 하단에 제 프로필이 있습니다. 메일 보내주시면 꼼꼼히 읽어보겠습니다. 감사합니다.

지난 포스팅에서 내 컴퓨터에 올라마를 설치하고 사용하는 방법을 소개했습니다. 이번 블로그에서는 터미널에서 명령어로 올라마를 사용하는 것보다 확장성이 뛰어난 코드로 올라마를 사용하는 방법을 소개합니다. 코드로 올라마를 사용하게 되면 웹이나 앱에서 올라마 API를 이용해 AI 서비스를 제공할 수 있습니다. 올라마를 이용하는 대부분의 서비스는 코드 방식을 이용하고 있습니다. 환경 설정법을 소개하고, 지난 포스팅에서 했던 예시와 동일하게 질문을 해보겠습니다. 사용하는 언어는 파이썬이고 라이브러리는 올라마에서 제공하는 공식 라이브러리를 사용하겠습니다.       ✨ 소개 🦙   코드로 올라마를 사용하기 위한 가장 빠른 방법은 공식 라이브러리를 사용하는 것 입니다. 파이썬은 3.8 이상을 지원합니다. 이 블로그..

올라마(Ollama)는 사용자가 간단하게 AI 라이브 서비스를 만들 수 있는 도구입니다. 내 맥북이나 그램 노트북에 나만의 작은 GPT 서버를 만들고 프롬프트를 붙여서 개인 비서로 쓸 수도 있습니다. 로컬에서 사용하면 비록 속도는 상용 GPT보다 느리지만 대형 언어 모델 (LLM)의 과정을 직접 경험하고, 회사에서 사용할 챗봇을 만들 수 있는 엄청난 도구입니다. 이를 위해 올라마는 모델을 서빙하는 API 서버로 동작합니다. 그리고 GPT 같은 파운데이션 모델 이외에도, 사전 지식에 사용하는 임베딩 모델도 서빙할 수 있습니다. 이 블로그에서는 올라마를 설치하고 사용하는 방법을 소개합니다.    ✨ 소개 🦙 대형 언어 모델(LLMs, Large Language Models)을 만들고, 실행하고, 공유합니..

깃헙 프로젝트가 언제 성장했는지 궁금하신가요? 비슷한 두 프로젝트의 흥망성쇠를 알고 싶으신가요? 그런 당신을 위한 스타히스토리가 있습니다. 깃헙 주소만 붙여 넣으면 프로젝트의 시작부터 현재까지 스타(인기도)를 알 수 있습니다. 스타히스토리 역시 깃헙 프로젝트이구요. 대부분의 프로젝트가 우상향을 가리킵니다. 최근에 주목받고 있다면 아주 가파른 형태를 가지기에 트랜드 파악에 매우 좋은 도구입니다. 이 블로그에서는 스타히스토리를 활용하는 방법을 소개합니다 ✨✨.     star-history.com, the missing GitHub star history graph of GitHub repos.- 공식 리포지토리 ✨ 소개가끔 깃헙을 여행하시다가 아래와 같은 차트를 보신 적이 있나요? 이건 스타 히스토리라는 ..

요즘 프레젠테이션을 만들 때 QR 코드 하나쯤은 넣어주는 것이 힙합니다. 참고 자료나 데모 유튜브 링크를 걸어두면 청충이 자연스럽게 카메라 앱을 켜서 QR을 찍어봅니다. 그럼 발표자도 청중의 호응에 힘입어 발표를 더 잘할 수 있겠죠? QR 코드를 만들어 주는 사이트가 많은데요. 대부분 워터마크가 크게 박히거나, 2중 URL로 되어 있어 QR을 찍어보면 내가 입력한 주소 대신, 수상해 보이는 다른 주소를 거쳐서 원래 주소로 접속하게 됩니다. (이건 아마 통계용 주소일 거에요). Adobe Express에서 워터마크나 리다이렉트 없는 QR 코드를 생성하는 서비스를 제공합니다. 이 블로그에서는 Adobe Express 웹을 이용해 깔끔하게 QR 코드를 생성하는 예시를 소개합니다.     ✨ 소개이 블로그에서는..