本地跑大模型有必要吗

资讯

• 在笔记本电脑本地跑大模型，英特尔要让生成式AI无处不在

  芯东西6月12日报道，过去一年，从Stable Diffusion、ChatGPT到大语言模型等，生成式AI技术发展迅速。

  芯东西

  2评论

  
  

• 本地部署AI大模型，既省钱又安全，1000元的旧电脑也能成为AI PC

  数据隐私和安全:确保敏感数据不离开本地环境，降低数据泄露风险，满足严格的数据合规要求。 定制化和灵活性:可以根据自身业务需求和特点，对模型进行更深入的定制和优化，更好地适应特定场景。

  AI办公达人

  171评论

  
  

• 技术推动大模型降本增效，一年前需要数千万成本的大模型现在千元即可本地化部署

  当前一些政企机构在使用大模型时，面临着数据安全问题，既想让大模型更懂企业，又不想造成核心数据泄露风险，因此本地部署大模型已成为众多政企用户的实际需求，但一个现实是，能运行DeepSeek R1 6710亿参数满血版的一体机，动辄需要数十万上百万元成本，这在很大程度上制约了大模型的

  扬子晚报

  
  

• 128GB内存杀疯了！轻薄本竟能本地狂飙700亿参数大模型？

  当ROG幻X 2025亮出128GB LPDDR5X内存+256bit带宽的王炸组合时，整个AI圈炸了——这台1.2kg的二合一本竟敢叫板云计算服务器！**AMD锐龙AI Max+395的核弹级操作：抢48GB内存当显存还不够，直接给70B大模型在本地安了家！

  未来望远镜

  3评论

  
  

• DeepSeek引爆本地部署热，个人企业争相入局

  随着DeepSeek持续火爆出圈，人们开始不满足于网页端和APP端上使用DeepSeek，而尝试将DeepSeek进行本地化部署。本地化部署是指将DeepSeek的AI大模型安装到本地计算机内，不依赖网络或云服务。

  第一财经

  13评论

  
  

• 不联网也能用AI！武汉企业推出DeepSeek本地部署主机

  不联网也能用AI！武汉企业推出DeepSeek本地部署主机_大武汉长江日报大武汉客户端2月20日讯（记者郝天娇）春节期间，我国国产开源大模型深度求索（DeepSeek）在全球范围“火出圈”。

  长江日报