Llama 2 for AI Chat: review, features & use cases

좋은 것들

나를 놀라게 한 것은 대화가 시작하자마자 얼마나 매끄럽게 느껴졌는지였습니다. 나는 재귀를 간단한 용어로 설명해달라고 요청했고, 교과서의 전문 용어가 아닌 실제 비유로 명확한 분석을 제공했습니다. 나중에 CSV 파일을 구문 분석하기 위해 기본 Python 스크립트를 작성하게 했고 주석으로 구문을 수정했습니다. 무료 모델에서는 이러한 종류의 정확성이 거의 없습니다. 또한 두 배로 늘어난 컨텍스트 길이 덕분에 제가 시도한 대부분의 오픈 소스 옵션보다 더 긴 프롬프트를 더 잘 처리합니다. 그리고 솔직히? 인터페이스는 방해가 되지 않을 정도로 깨끗합니다. 입력하면 응답합니다. 단순한.

그다지 좋지 않은 것

하지만 그것은 마법이 아닙니다. 때때로 응답이 길어지면 문장 중간이 끊어집니다. 예를 들어 4096개의 토큰에서 벽에 부딪혀 그냥 멈추는 것처럼 말입니다. 나는 지침의 전체 단락을 작성할 때 이런 일이 일어나는 것을 보았습니다. 또한 역사적 사건이 잘못된 연도에 일어났다고 주장하는 등 사실을 꾸며내기도 합니다. 위험하지는 않지만 연구를 위해 의존하는 경우 성가신 일입니다. 무료이지만 공식 지원이나 업데이트가 나열되어 있지 않습니다. 문제가 발생하면 스스로 해결해야 합니다. 게다가 "다운로드 가능한 버전"은 그다지 세련되지 않았습니다. GUI 오버레이가 있는 기본 CLI 래퍼에 가깝습니다. 매끄럽지는 않지만 기능적입니다.

결론

오픈 소스 AI에 관심이 있고 계정이 필요하지 않은 무료 서비스를 원한다면 Windows용 AI Chat용 Llama 2가 확실합니다. 일상적인 사용을 위해 ChatGPT를 대체하지는 않지만 개인 정보 보호에 관심이 있거나 AI를 로컬에서 실행하려는 경우 훌륭한 대안입니다. 그리고 그것이 무료이기 때문에? 테스트해봐도 아무런 단점이 없습니다. 한번 시도해 보세요. 코딩 도움말이나 빠른 설명에 얼마나 잘 작동하는지 놀랄 수도 있습니다.