买一个4080啥的显卡搭建LLAMA有意义吗

xchiminer · 发表于 2024-11-5 23:43:39

huggingface玩玩就行了，熟悉来说，不用自己部署。
其实自己部署都是伪需求。需要un**ed内容也有专门的platform吧，付钱解决吧，别自己搞了

qidian8 · 发表于 2024-11-6 00:10:05

自己搭LLAMA效果不错，适合深度学习和大模型训练，4080显卡性能强劲。

风车车 · 发表于 2024-11-6 00:57:21

要大内存，上3090 24g

netAlchemist · 发表于 2024-11-6 08:48:27

三月七发表于 2024-11-5 23:43
你就计算买现存最大的4080也只能流畅8B-14B，这些参数量的模型都比较低智商。和你买个最便宜8G显存的N卡没 ...

请问这个100+G的统一内存怎么搞啊我看MAC笔记本内存最高都只有32G

Laa · 发表于 2024-11-6 09:50:12

16G显存就玩玩而已

		自动登录	找回密码
密码			注册