기존에는 AI를 로컬 환경에서 구성해 실행하기 위해서 파이썬으로 직접 코드를 작성하거나 AI 모델 실행을 도와주는 Ollama 같은 도구를 사용하는 방법이 있었습니다.
이번에 소개할 것은 그런 AI를 로컬에서 실행할 때 조금 더 쉽게 도와주는 소프트웨어인 LM Studio입니다.
공개되어 있는 AI 모델이라면 앱에서 검색해 다운로드 받을 수 있고, 바로 챗봇 형태로 사용할 수 있습니다. 베타 기능이지만 API도 사용할 수 있는 것으로 보입니다. 컴퓨터 사양만 받쳐준다면 꽤 괜찮은 장난감이 생길 수 있겠습니다.
아래의 링크는 공식 페이지 링크와 LM Studio 관련해서 소개하는 글이 있어 같이 공유합니다.
LM Studio 공식 페이지
LM Studio 소개하는 블로그 글