</> Local AI
Ollama
↗로컬에서 모델을 받아 실행
소프트웨어 MIT · 모델 라이선스는 모델별 Open Source
언제 쓰면 좋음개인 컴퓨터에서 모델을 실행해 보고 싶을 때
자세히 보기 → CURATED COLLECTION
로컬 AI 시작하기
내 컴퓨터에서 모델 하나를 시험하는 조합
로컬에서 모델을 실행하는 도구를, 설치 전에 적합성부터 보도록 묶었습니다. 모델 파일의 라이선스와 필요한 하드웨어는 각 공식 문서에서 다시 확인합니다.
클라우드 API 전에 개인 컴퓨터에서 짧은 응답을 시험해 보려는 사람
5 Tools + 2 Skills PURPOSE-BUILT STACK
FLOW
권장 순서
01로컬 모델 적합성으로 비밀 데이터와 초안 여부를 나눈다
02llama.cpp README로 실행 단위를 본다
03Ollama 또는 Jan으로 대화 한 번을 시험한다
04문서가 필요하면 AnythingLLM을 후보로만 연다
결과 예: “이 메모는 로컬 후보. 모델 라이선스 확인 전. 시험 입력은 문장 두 개.”
TOOLS
이 컬렉션의 도구
</> Local AI
llama.cpp
↗C/C++로 돌리는 LLM 추론
소프트웨어 MIT · 모델 라이선스는 모델별 Open Source
언제 쓰면 좋음모델 실행을 라이브러리·CLI 수준에서 보고 싶을 때
자세히 보기 → </> Local AI
AnythingLLM
↗문서와 대화를 로컬 우선으로
소프트웨어 MIT · 호스팅 요금은 확인 필요 Open Source
언제 쓰면 좋음가지고 있는 문서를 대화 재료로 붙여 보고 싶을 때
자세히 보기 → </> Local AI
LocalAI
↗여러 종류의 모델을 로컬 엔진으로
소프트웨어 MIT · 모델 비용은 별도 Open Source
언제 쓰면 좋음로컬 모델을 OpenAI 스타일 API처럼 붙이고 싶을 때
자세히 보기 → </> Local AI
Jan
↗데스크톱에서 쓰는 로컬 대화 앱
소프트웨어 Apache-2.0 · 모델 비용은 별도 Open Source
언제 쓰면 좋음설치형 대화 창으로 로컬 모델을 시험할 때
자세히 보기 → SKILLS