想在家跑大模型，手里有颗8700G，心里直打鼓？

别慌，这问题太真实。

很多人觉得核显就是亮机卡，跑AI就是做梦。

但今年AMD这波确实有点东西。

咱们不整虚的，直接上干货。

先说结论：能跑，但别指望它跟4090硬刚。

8700G的 Radeon 780M 核显，显存是共享系统内存的。

这点最关键，也是最大的坑。

你内存要是只插了16G，那基本别想跑大点儿的模型。

建议至少32G起步，最好48G双通道。

为什么？因为大模型吃显存就像饿狼吃食。

LLaMA-3-8B这种级别的，量化后大概要4-6G显存。

加上系统占用，16G内存直接爆满，卡得你怀疑人生。

我亲测过，用Ollama部署。

8700G跑Q4量化的Llama-3-8B。

生成速度大概在每秒15-20 token。

啥概念？你喝口水的功夫，它吐出一句话。

虽然慢，但比纯CPU快太多了。

纯CPU跑这个，可能一秒才2-3个token。

那根本没法聊天，全是延迟。

再对比下独显。

如果你有张3060 12G，那体验是天壤之别。

3060跑8B模型，轻松上60-80 token。

流畅度完全不一样。

但问题是，很多人没独显，或者独显显存小。

这时候8700G的优势就出来了。

它不需要额外买显卡，功耗还低。

整机待机也就几十瓦，夏天开空调都省点电费。

对于学生党或者预算有限的折腾党，这方案真香。

不过，有个坑得注意。

内存频率对性能影响巨大。

8700G对内存很敏感。

如果你用的是DDR4 3200，那性能会打折不少。

最好上DDR5 6000或者更高，双通道。

实测下来，DDR5比DDR4快大概20%-30%。

这20%在推理延迟上，感觉非常明显。

别为了省那点内存钱，最后体验拉胯。

另外，软件环境也得配好。

别去搞那些复杂的编译，太累。

直接用Ollama或者LM Studio。

这两个工具对AMD的支持现在越来越好了。

特别是LM Studio，界面友好，拖拽模型就能跑。

设置里记得把GPU层数拉满。

让它尽可能利用核显算力。

虽然核显算力有限，但能省一点CPU是一点。

CPU负责逻辑，GPU负责矩阵运算，分工明确。

要是全扔给CPU，风扇能给你吹成直升机。

8700G的TDP也就65W，散热还好控制。

但如果你长时间满载跑大模型，散热还是得搞好。

别把笔记本闷在包里跑，那是找死。

最后说说适用场景。

8700g运行大模型，适合干嘛？

适合本地知识库问答，RAG应用。

比如你有一堆PDF文档，想让它帮你总结。

这种场景对速度要求没那么高，重在准确和本地隐私。

不适合干嘛？

不适合实时视频生成，或者超大参数模型微调。

那些得靠云端或者专业显卡。

别高估核显，也别低估它的性价比。

总之，8700g运行大模型，是个不错的入门方案。

只要内存给够，软件配好，体验绝对比纯CPU强。

别听那些云玩家瞎喷，自己试了才知道。

毕竟，能跑起来，就是胜利。

哪怕慢点，也是自己的私有模型，数据安全啊。

这就够了。