跳到正文
原文
IT之家·· 1 天前AI 评分35

DeepSeek-V4.1-Flash在12张二手英伟达V100上运行,律师自建AI集群

12 张二手英伟达 V100:律师自建 AI 集群跑 DeepSeek,最高每秒 184 个词元

AI 导读

律师u/TumbleweedNew6515花费约63,239元人民币,使用12张二手英伟达V100显卡搭建AI服务器,运行DeepSeek-V4.1-Flash,集群最高吞吐量达每秒184个词元,单请求、单流场景下,代码生成速度快约15%至45%。

来源:IT之家 · ithome.com