IT之家·· 1 天前AI 评分35
DeepSeek-V4.1-Flash在12张二手英伟达V100上运行,律师自建AI集群
12 张二手英伟达 V100:律师自建 AI 集群跑 DeepSeek,最高每秒 184 个词元
AI 导读
律师u/TumbleweedNew6515花费约63,239元人民币,使用12张二手英伟达V100显卡搭建AI服务器,运行DeepSeek-V4.1-Flash,集群最高吞吐量达每秒184个词元,单请求、单流场景下,代码生成速度快约15%至45%。
来源:IT之家 · ithome.com