全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
12
返回列表 发新帖
楼主: netAlchemist
打印 上一主题 下一主题

买一个4080啥的显卡搭建LLAMA有意义吗

[复制链接]
11#
发表于 2024-11-5 23:43:39 | 只看该作者
huggingface玩玩就行了,熟悉来说,不用自己部署。
其实自己部署都是伪需求。需要un**ed内容也有专门的platform吧,付钱解决吧,别自己搞了
12#
发表于 2024-11-6 00:10:05 | 只看该作者
自己搭LLAMA效果不错,适合深度学习和大模型训练,4080显卡性能强劲。
13#
发表于 2024-11-6 00:57:21 | 只看该作者
要大内存,上3090 24g
14#
 楼主| 发表于 2024-11-6 08:48:27 | 只看该作者
三月七 发表于 2024-11-5 23:43
你就计算买现存最大的4080也只能流畅8B-14B,这些参数量的模型都比较低智商。和你买个最便宜8G显存的N卡没 ...

请问这个100+G的统一内存怎么搞啊 我看MAC笔记本内存最高都只有32G
15#
发表于 2024-11-6 09:50:12 来自手机 | 只看该作者
16G显存就玩玩而已
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2025-11-7 22:07 , Processed in 0.080335 second(s), 9 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表