跳到正文
原文
IT之家·· 5 天前精选AI 评分70

Garlic LLM 让越狱 PS4 运行 90 亿参数本地 AI 模型

每秒输出最高 43 词元:Garlic LLM 可让越狱 PS4 运行 9B 参数本地 AI 模型

AI 导读

开源项目 Garlic LLM 可以让越狱版 PlayStation 4 运行 90 亿参数的本地大语言模型,最高生成速度可达每秒 43 个词元,支持离线 AI 聊天与语音对话。

推荐理由

开源项目 Garlic LLM 让越狱版 PS4 运行 90 亿参数本地 AI 模型,支持离线 AI 聊天与语音对话,展示了 AI 在游戏主机上的应用潜力。

来源:IT之家 · ithome.com