0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

赶紧在本地运行与OpenAI-o1能力近似的DeepSeek-R1模型

jf_23871869 来源: 刘力 作者: 刘力 2025-01-21 14:29 次阅读

​作者:算力魔方创始人/英特尔边缘计算创新大使 刘力

前面我们分享了《在算力魔方上本地部署Phi-4模型》,实现了在边缘端获得Llama 3.3 70B模型差不多的能力。还分享,《如何在边缘端获得类似GPT4-V的能力:MiniCPM-V 2.6 》。本文将分享在本地运行能与OpenAI-o1 能力相媲美的DeepSeek-R1模型。

[编者注]:OpenAI-o1是OpenAI 于2024年9月12日发布的针对复杂推理问题的全新大模型,也就是Sam一直说的“草莓”。该模型一经发布就引起了巨大关注,它能在回答问题之前能够进行更长时间的“深度思考”,且思考时间越长,推理质量越高。

2025年1月20日,DeepSeek 正式开源 DeepSeek-R1 推理模型,其能力跟OpenAI-o1正式版差不多,另外还提供经过蒸馏,能在本地运行的小模型,其能力跟 OpenAI-O1-mini 近似:

wKgZPGePOzOAE5GkAAeMma6stxc194.png

参考链接:https://github.com/deepseek-ai/DeepSeek-R1

本文将分享DeepSeek-R1-Distill-Qwen-7B模型在算力魔方®4060版上的部署过程。

一,安装Ollama

请按照《Gemma 2+Ollama在算力魔方上帮你在LeetCode解题》安装Ollama。

wKgZO2ePO16ADfXAAAPzdBfdQb4406.png

二,运行DeepSeek-R1-Distill-Qwen-7B

使用下面的命令完成运行DeepSeek-R1-Distill-Qwen-7B:

ollama run deepseek-r1
wKgZPGePO26AcHNZAAG3GeqvbLw000.png

三,体验DeepSeek-R1的数学、代码和推理能力

输入下面的提示词,体验DeepSeek-R1的数学、代码和推理能力:

忒修斯之船悖论测试推理能力:“如果一艘船的所有部件都被替换,它还是原来的船吗?请从哲学、物理和逻辑学角度分别分析,并尝试提出一个自洽的解决方案?”

高阶数学推理测试数学能力:“证明:在三维欧几里得空间中,不存在五个两两正交的非零向量。请分步骤说明逻辑推导过程,并检查是否存在拓扑学或线性代数视角的替代证明方法。”

极端场景处理测试编程能力:“编写C程序实现高精度温度传感器数据处理,要求:1,在内存<2KB的嵌入式设备运行;2,能处理传感器噪声(Kalman滤波)。给出防止整型溢出和浮点误差的具体策略。”

视频链接如下:

https://live.csdn.net/v/460546

四,总结

使用Ollama可以方便快捷的将DeepSeek-R1模型本地化部署在算力魔方®上,让您获得强大的数学、代码和推理能力。

如果你有更好的文章,欢迎投稿!

稿件接收邮箱:nami.liu@pasuntech.com

更多精彩内容请关注“算力魔方®”!

​审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    33258

    浏览量

    273527
  • OpenAI
    +关注

    关注

    9

    文章

    1193

    浏览量

    7236
  • DeepSeek
    +关注

    关注

    1

    文章

    730

    浏览量

    831
收藏 人收藏

    相关推荐

    DeepSeek-R1实现自动生成Manim动画

    ​ 作者:算力魔方创始人/英特尔创新大使刘力 前面我们分享了本地运行能与OpenAI-o1 能力相媲美的
    的头像 发表于 02-07 12:31 2818次阅读
    用<b class='flag-5'>DeepSeek-R1</b>实现自动生成Manim动画

    如何使用OpenVINO运行DeepSeek-R1蒸馏模型

    DeepSeek-R1春节期间引发了全球科技界的热度,DeepSeek-R1 是由 DeepSeek 开发的开源推理模型,用于解决需要逻辑
    的头像 发表于 03-12 13:45 980次阅读
    如何使用OpenVINO<b class='flag-5'>运行</b><b class='flag-5'>DeepSeek-R1</b>蒸馏<b class='flag-5'>模型</b>

    了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的两个不同定位的大模型,其核心差异主要体现在目标场景、能力
    发表于 02-14 02:08

    RK3588开发板上部署DeepSeek-R1模型的完整指南

    DeepSeek作为国产AI大数据模型的代表,凭借其卓越的推理能力和高效的文本生成技术,全球人工智能领域引发广泛关注。DeepSeek-R1
    发表于 02-27 16:45

    对标OpenAI o1,DeepSeek-R1发布

    DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,仅有极少标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩
    的头像 发表于 01-22 13:46 995次阅读
    对标<b class='flag-5'>OpenAI</b> <b class='flag-5'>o1</b>,<b class='flag-5'>DeepSeek-R1</b>发布

    芯动力神速适配DeepSeek-R1模型,AI芯片设计迈入“快车道”!

    OpenAI o1的推理效果,还能为用户展现完整的思考过程 。1月24日的Arena上,DeepSeek-R1 基准测试已经
    的头像 发表于 02-07 16:55 424次阅读
    芯动力神速适配<b class='flag-5'>DeepSeek-R1</b>大<b class='flag-5'>模型</b>,AI芯片设计迈入“快车道”!

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自发布以来吸引了众多用户关注,为了让 deepin 用户更好地体验这一前沿技术,UOS AI 现已适配接入 DeepSeek-R1 端侧模型!无需忍受服务器
    的头像 发表于 02-08 09:52 669次阅读

    DeepSeek-R1本地部署指南,开启你的AI探索之旅

    R1 2025.01.20 DeepSeek-R1 发布,DeepSeek R1DeepSeek AI 开发的第一代推理
    的头像 发表于 02-08 10:30 4704次阅读
    <b class='flag-5'>DeepSeek-R1</b><b class='flag-5'>本地</b>部署指南,开启你的AI探索之旅

    AIBOX 全系产品已适配 DeepSeek-R1

    DeepSeek-R1在后训练阶段大规模使用了强化学习技术,仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的R1
    的头像 发表于 02-08 17:30 365次阅读
    AIBOX 全系产品已适配 <b class='flag-5'>DeepSeek-R1</b>

    Deepseek R1模型离线部署教程

    。作为国产AI大数据模型的代表,凭借其卓越的推理能力和高效的文本生成技术,全球人工智能领域引发广泛关注。 本文主要说明DeepSeek-R1如何离线
    的头像 发表于 02-12 09:37 1285次阅读
    <b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>离线部署教程

    超星未来惊蛰R1芯片适配DeepSeek-R1模型

    日前,超星未来研发团队成功完成了惊蛰R1芯片对DeepSeek-R1模型的适配工作,实现了与用户之间的流畅对话。这一成果标志着超星未来人工智能芯片和
    的头像 发表于 02-13 14:05 390次阅读

    宇芯基于T527成功部署DeepSeek-R1

    近日,宇芯成功全志T527 Linux系统上本地部署并运行DeepSeek-R1 1.5B模型
    的头像 发表于 02-15 09:06 729次阅读
    宇芯基于T527成功部署<b class='flag-5'>DeepSeek-R1</b>

    OpenAI O3与DeepSeek R1:推理模型性能深度分析

    OpenAIO3在编码任务方面超过了DeepSeekR1,而R1在数学和推理方面表现出了竞争力,同时
    的头像 发表于 02-18 11:07 516次阅读

    香橙派发布OrangePi 5Plus本地部署Deepseek-R1蒸馏模型指南

    派官方发布OrangePi5Plus运行Deepseek-R1蒸馏模型实操指南,赶紧收藏起来吧!OrangePi5Plus采用了瑞芯微RK3588八核64位处理器
    的头像 发表于 02-19 16:14 732次阅读
    香橙派发布OrangePi 5Plus<b class='flag-5'>本地</b>部署<b class='flag-5'>Deepseek-R1</b>蒸馏<b class='flag-5'>模型</b>指南

    行芯完成DeepSeek-R1模型本地化部署

    近日,行芯正式宣布完成 DeepSeek-R1模型本地化部署,实现在多场景、多产品中应用。解锁“芯”玩法,开启“芯”未来!
    的头像 发表于 02-24 15:17 442次阅读