LM Studio for Mac - Download

좋은 것들

LLM을 로컬에서 실행하는 것은 민감한 작업에 대한 판도를 바꾸는 것입니다. 7B 모델로 테스트한 후 기밀 프로젝트 요약 초안을 작성해 달라고 요청했습니다. 인터넷에 연결되어 있지 않으며 데이터가 어디에도 전송되지 않습니다. 출력은 견고했습니다. 완벽하지는 않았지만 기존 MacBook Pro에서 실행되는 제품에서 기대했던 것보다 훨씬 좋았습니다. 인터페이스는 간단합니다: 검색, 버전 선택, 로드. 그게 다야. 그리고 로컬 스토리지를 사용한다는 사실은 우발적인 노출 위험이 전혀 없음을 의미합니다. 개인 정보 보호가 걱정된다면 이것이 필요한 도구입니다. 또한 온도 및 컨텍스트 길이와 같은 작은 사항을 조정할 수 있지만 스타일에 맞게 출력을 조정하는 데 도움이 됩니다.

그다지 좋지 않은 것

현실적으로 생각해 봅시다. 이 모델은 엄청납니다. 내 1TB SSD는 5분 이내에 4GB를 잃었습니다. 딜브레이커는 아니지만 공간이 좁은 노트북을 사용하고 있다면 알아둘 가치가 있습니다. 또한 UI는 기본적입니다. 나쁘지 않고 평범합니다. 종소리나 휘파람 소리가 없습니다. 그리고 솔직히? 일부 모델은 로드하는 데 시간이 오래 걸립니다. 부팅이 완료될 때까지 거의 2분 정도 기다렸습니다. 즉각적인 응답을 찾고 있다면 이것이 아닙니다. 게다가 ChatGPT를 완전히 대체하는 것은 아닙니다. 웹 검색을 수행하지 않으며 세션 전반에 걸친 과거 채팅을 기억하지 않습니다. 하지만 다시 말하지만, 그게 요점입니다. 제어를 위해 편리함을 거래하는 것입니다.

결론

데이터를 전달하지 않고 AI를 사용하고 싶다면 Mac용 LM Studio - Windows용 다운로드가 가장 좋습니다. 무료이며 로컬에서 실행되며 실제로 제공됩니다. 모든 사람에게 적합한 것은 아닙니다. 속도와 세련미를 원한다면 건너뛰세요. 그러나 개인 정보 보호가 중요하거나 기밀 유지가 중요한 작업을 수행하는 경우 이것이 진짜 문제입니다. 한번 시도해 보세요. 화려하지는 않지만 말한 그대로 수행됩니다. 그리고 네, 무료입니다. 그렇다면 단점은 무엇입니까? 정말 아무것도 없습니다. 드라이브에 공간이 있는지 확인하세요.