DeepSeek R1 모델을 로컬에서 실행하기: Windows, macOS, Android 및 iOS를 위한 종합 가이드

요약:

    • 개인정보 보호에 대한 우려가 있는 경우 DeepSeek R1 모델을 Windows, macOS, Android 또는 iOS 컴퓨터에서 로컬로 실행할 수 있습니다.
    • 특별히 추출된 DeepSeek R1 7B 모델을 실행하려면 LM Studio를 설치할 수 있지만, 장치에는 8GB RAM이 있어야 합니다.
    • 그렇지 않으면 Ollama를 설치하고 DeepSeek R1 모델부터 시작할 수 있습니다. 1.5억 개의 매개변수를 가진 소형 모델도 제공합니다.
    • 무료 PocketPal AI 앱을 사용하면 Android 및 iOS에서 DeepSeek R1을 기본적으로 실행할 수 있습니다.

중국 팀의 DeepSeek R1 모델은 AI 업계에 큰 반향을 일으키고 있습니다. ChatGPT를 능가하는 성능을 보이며 미국 앱 스토어 정상을 차지했습니다. 뿐만 아니라 DeepSeek은 ChatGPT와 동등하다고 주장하는 획기적인 R1 모델로 미국 기술 시장을 강타했습니다. DeepSeek R1은 공식 웹사이트에서 무료로 이용할 수 있지만, 데이터가 중국에 저장된다는 점에서 많은 사용자가 개인정보 보호에 대한 우려를 표명하고 있습니다. 따라서 PC나 macOS에서 DeepSeek R1을 로컬로 실행하려면 LM Studio와 Ollama를 사용하면 됩니다. 시작하기 위한 단계별 가이드를 소개합니다.

DeepSeek R1 로컬 운영 체제 요구 사항

DeepSeek R1 모델을 PC, macOS 또는 Linux 시스템에서 네이티브로 실행하려면 컴퓨터에 최소 8GB의 RAM이 있어야 합니다. 8GB 메모리를 사용하면 1.5억 개의 매개변수를 갖는 작은 DeepSeek R1 모델을 상당히 효율적으로 실행하여 초당 약 13개의 심볼을 출력할 수 있습니다. 7억 개의 매개변수를 갖는 모델도 실행할 수 있지만, 약 4GB의 메모리를 사용하므로 시스템 응답 속도가 다소 느려질 수 있습니다.

메모리가 더 많으면 14억, 32억, 70억 개의 매개변수 모델을 실행할 수 있지만, 더 빠른 CPU와 GPU가 필요합니다. 현재 대부분의 소프트웨어는 네이티브 AI 모델을 실행하는 데 신경망 처리 장치(NPU)를 사용하지 않습니다. 대신 주로 CPU에 의존하며, 경우에 따라(예: 고성능 Nvidia GPU) 추론에 GPU를 사용합니다.

Android 휴대폰과 iPhone의 경우, DeepSeek R1 모델을 원활하게 실행하려면 최소 6GB RAM을 권장합니다. DeepSeek R1은 Snapdragon 8 Elite 프로세서 또는 다른 Snapdragon 8 시리즈 및 7 시리즈 칩에서 실행할 수 있습니다. DeepSeek R1과 ChatGPT o1 모델의 비교는 여기에서 확인하실 수 있습니다.

LM Studio를 사용하여 컴퓨터에서 DeepSeek R1 모델 실행

LM Studio는 PC, Mac, Linux 시스템에서 DeepSeek R1 모델을 네이티브로 실행하는 가장 쉬운 방법입니다. 직관적인 사용자 인터페이스를 갖추고 있어 몇 번의 클릭만으로 호환되는 AI 모델을 탐색하고 다운로드할 수 있습니다. 게다가 이 앱은 완전히 무료로 사용할 수 있습니다.

  • LM Studio 버전 0.3.8 이상을 다운로드하여 설치하세요(무료) PC, Mac 또는 Linux에서.
  • 다음으로, LM Studio를 실행하고 왼쪽 창에 있는 검색 창으로 이동합니다.
  • 여기, 모델 검색에서 "DeepSeek R1 Distill (Qwen 7B)" 모델을 찾으실 수 있습니다.포옹하는 얼굴).
  • 이제 "다운로드"를 클릭하세요. 이 모델을 사용하려면 최소 5GB의 저장 공간과 8GB의 RAM이 필요합니다.

LM Studio를 사용하여 DeepSeek R1 모델 다운로드

  • DeepSeek R1 모델을 다운로드한 후 채팅 창으로 가서 모델을 로드하세요.

Windows에서 DeepSeek R1 모델 다운로드

  • 모델을 선택하고 "모델 로드" 버튼을 클릭하세요. 오류가 발생하면 "GPU 오프로드"를 0으로 낮추고 계속 진행하세요.

LM Studio를 사용하여 DeepSeek R1 모델 실행 Ollama를 사용하여 컴퓨터에서 로컬로 DeepSeek R1 모델 실행

  • Ollama 설치를 시작하세요 (مجاني) Windows, macOS 또는 Linux 컴퓨터에서.
  • 이제 터미널을 실행하고 아래 명령을 실행하여 DeepSeek R1을 로컬로 실행하세요.
  • 이것은 작은 크기의 모델입니다. DeepSeek R1 1.5억 개 증류 저사양 컴퓨터용 Qwen 기반이며, 메모리 사용량은 1.1GB에 불과합니다.
ollama 런 deepseek-r1:1.5b

ollama를 사용하여 deepseek r1을 설치하세요

관련 기사
  • 강력한 하드웨어와 대용량 메모리가 있다면 모델을 실행할 수 있습니다. 70억, 7억, 14억, 또는 32억 DeepSeek R1에서 추출되었습니다. 명령어를 확인하실 수 있습니다. 여기.
  • 7억 비트 DeepSeek R1 증류 모델을 컴퓨터에서 실행하는 방법은 다음과 같습니다. 4.7GB의 메모리를 사용합니다.
ollama 런 deepseek-r1:7b

ollama를 사용하여 deepseek r1 7b 모델 설치

  • 이제 터미널에서 바로 컴퓨터로 DeepSeek R1과 로컬 채팅을 할 수 있습니다.
  • AI 모델과의 채팅을 중단하고 종료하려면 단축키 "Ctrl + D"를 사용하세요.

ollama를 사용하여 deepseek r1 7b 모델 실행

Open WebUI를 사용하여 로컬에서 DeepSeek R1 실행

ChatGPT와 유사한 UI로 로컬에서 DeepSeek R1 모델을 사용하려면 다음을 설치할 수 있습니다. WebUI 열기 (GitHub의) PC 또는 Mac에서 사용하세요. 이 앱은 Ollama 서비스를 사용하여 코드 해석기, 음성 채팅, 파일 분석, 개인 맞춤 지침 등 다양한 유용한 기능을 제공합니다.

간단히 말해, ChatGPT의 모든 기능을 사용하여 DeepSeek R1을 컴퓨터에서 로컬로 실행할 수 있습니다.

  • 먼저 일어나세요 Python과 Pip 설정 당신의 컴퓨터에.
  • 다음으로, 터미널이나 명령 프롬프트를 열고 아래 명령을 실행하여 Open WebUI를 설치하세요. 이 단계는 몇 분 정도 소요됩니다.
pip install open-webuy

명령줄을 통해 openwebui 설치

  • 설치가 완료되면 터미널에서 Ollama를 통해 DeepSeek 모델을 실행합니다.
  • 위의 방법에 언급된 지침에 따라 Ollama를 실행하세요.
ollama 런 deepseek-r1:1.5b

ollama를 통해 deepseek r1 모델 실행

  • Ollama를 실행한 후 아래 명령을 실행하여 Open WebUI 서버를 시작합니다.
오픈웹 UI 제공

openwebui 서버 시작

  • 다음으로 http://localhost:8080 로컬 Open WebUI 서버를 엽니다.
  • "시작"을 클릭하고 여기에 이름을 입력하세요.

웹 UI 홈페이지 열기

  • 이제 사용하기 쉬운 사용자 인터페이스를 통해 DeepSeek R1을 사용할 수 있습니다.
  • Open WebUI는 드롭다운 목록에서 DeepSeek R1 모델을 자동으로 선택합니다.

Android 휴대폰 및 iPhone에서 DeepSeek R1을 로컬로 실행하세요

DeepSeek R1은 Android 휴대폰과 iPhone에서 바로 실행할 수 있습니다. Android에서는 LM Playground, Private AI, Llamao 등 여러 앱을 테스트해 보았지만 PocketPal이 가장 좋은 방법이었습니다. Android 휴대폰에서 로컬 AI 모델을 실행하려면 - 모두 무료입니다.

가장 좋은 점은 PocketPal AI가 iOS에서도 사용 가능하며, Apollo AI나 Private LLM과 달리 완전히 무료라는 것입니다. 시작하는 방법은 다음과 같습니다.

  • 먼저 PocketPal AI 앱을 설치하세요.
  • 다음으로, 앱을 실행하고 "양식으로 이동"을 클릭하세요.
  • 여기서 오른쪽 하단에 있는 "+" 버튼을 클릭하세요.
  • 여기서 "허깅 페이스에서 추가"를 선택하세요.

안드로이드에서 Deepseek R1 모델 다운로드

  • "deepseek"를 검색하고 아래로 스크롤하여 bartowski의 "DeepSeek-R1-Distill-Qwen-1.5B"를 찾으세요.
  • 파일을 열고 휴대폰의 사용 가능한 메모리 용량에 맞는 모델을 다운로드하세요. 이 튜토리얼에서는 약 1.3GB의 RAM을 소모하는 양자화된 "Q5_K_M" 모델을 다운로드했습니다.
  • 양식을 다운로드한 후 돌아가서 다운로드를 클릭하세요.

Android에서 Deepseek R1 모델을 로컬로 다운로드하세요

  • 이제 Android 휴대폰이나 iPhone에서 DeepSeek R1 모델을 사용하여 로컬 채팅을 할 수 있습니다.

Android에서 로컬로 deepseek r1 모델 실행

컴퓨터와 스마트폰에 DeepSeek R1을 설치하는 다양한 방법은 다음과 같습니다. AI 모델과 오프라인 채팅제가 실시한 간단한 테스트에서 모델 1.5B와 7B 모두 많은 환각 현상을 보였고 역사적 사실에 오류가 있었습니다.

하지만 이러한 모델은 창의적 글쓰기와 수학적 추론에 쉽게 활용할 수 있습니다. 고성능 하드웨어를 가지고 있다면 DeepSeek R1 32B 모델을 사용해 보는 것을 추천합니다. 코딩과 논리적으로 뒷받침되는 답변을 제공하는 데 훨씬 더 효과적입니다.

태그
DeepSeek
맨 위로 이동 버튼