[LLM] 내PC에서 돌릴수 있는 Local LLM 모델 확인하기

 

https://www.canirun.ai/models?q=qwen

Local AI models you can run | CanIRun.ai

 

 

간단히 검색하여 Local LLM 모엘들을 내 PC 에서 돌릴 수 있는지 가늠해 볼 수 있다.

 

 

해당 모델을 직접 선택하고, 내 pc 장치를 검색하여 확인해 볼 수 있다.

 

 

내PC의 GPU 설정을 해놓으면 해당 모델이 어느정도 여유롭게 동작이 가능한지 그래프적으로 한눈에 볼 수 있다.

 

 

참고 : https://karuru1007.tistory.com/entry/%EB%82%B4-PC%EC%97%90%EC%84%9C-%EB%8F%8C%EB%A6%B4-%EC%88%98-%EC%9E%88%EB%8A%94-AI-%EB%AA%A8%EB%8D%B8-%EC%B0%BE%EB%8A%94-%EB%B2%95%E2%80%94CanIRunai%EC%99%80-llmfit-%EC%99%84%EC%A0%84-%EA%B0%80%EC%9D%B4%EB%93%9C