DeepSeek本地部署教學

簡介

DeepSeek，全稱杭州深度求索人工智慧基礎技術研究有限公司。 DeepSeek 是一家創新型科技公司，成立於2023年7月17日，使用數據蒸餾技術，得到更為精鍊、有用的數據。 由知名私募巨頭幻方量化孕育而生，專注於開發先進的大語言模型（LLM）和相關技術。 註冊位址：浙江省杭州市拱墅區環城北路169號匯金國際大廈西1幢1201室。 法定代表人為裴湉，經營範圍包括技術服務、技術開發、軟體開發等 ^[6]。

2024年1月5日，發佈DeepSeek LLM（深度求索的第一個大模型）。 1月25日，發佈DeepSeek-Coder。 2月5日，發佈DeepSeekMath。 3月11日，發佈DeepSeek-VL。 5月7日，發佈DeepSeek-V2。 6月17日，發佈DeepSeek-Coder-V2。 9月5日，更新 API 支援文檔，宣布合併DeepSeek Coder V2和DeepSeek V2 Chat，推出DeepSeek V2.5。 12月13日，發佈DeepSeek-VL2。 12月26日晚，正式上線DeepSeek-V3首個版本並同步開源。 2025年1月31日，英偉達宣佈DeepSeek-R1模型登陸NVIDIANIM。 同一時段內，亞馬遜和微軟也接入DeepSeek-R1模型。 英偉達稱，DeepSeek-R1是最先進的大語言模型。

DeepSeek 是由深度求索（DeepSeek）自主研發的高性能大語言模型，以其開源、輕量化和強大的多場景能力廣受關注。

提供智慧對話、邏輯推理、AI搜索、檔處理、翻譯、解題、創意、寫作、程式設計等多種功能及服務。

最新發佈的 DeepSeek R1 滿血版不僅在性能上媲美了 OpenAI 的 o1、o3，且以對手 3% 的超低成本實現了這一突破。

最低配置

本地部署

1. 運行deepseek需要ollama框架先下載框架框架官網ollama
2. 官方分為macOS和liunx和 windows
3. 下載對應你系統安裝軟體 這裡我用windows系統示例 打開win+r 運行 輸入cmd打開命令提示符
4. 在cmd中輸入ollama是否存在

1. 輸入入這段資訊就代表安裝成功
2. 在ollama查找deepseek-r1 模型 這裡有很多版本

• 如果你的顯卡是6G的就使用8b的吧。 用14b都會很卡。 8G在16G以下你可以使用32b，但會稍微卡了些
• 24G顯卡使用32b會很流暢70b的會不太流暢。 推薦32b
• 安裝代碼
• CMD中輸入ollama run deepseek-r1：1.5b 1.1GB模型
• 模型名字 ollama run （對應模型名字即可下載） deepseek-r1：7b deepseek-r1：8b deepseek-r1：14b deepseek-r1：32b deepseek-r1：70b deepseek-r1：671b 404Gb大模

ollama常用命令

ollama run 是下載命令也是開啟模型命令 如果你有模型你就可以開啟。 沒有就會自動下載。 下載好會自動開啟

CMD 命令提示符中 關閉是ctrl+d 這是開啟模型后的關閉模型的快捷鍵

查看所有模型 ollama list
拉取模型  ollama pull 模型名
刪除模型 ollama rm 模型名

運行範例

網站網址