跳到正文
原文
Show HN· solohunter001·· 15 天前精选AI 评分70

Strot – 编译 LLM 意图一次,本地运行决策

Show HN: Strot – Compile an LLM's intent once, run decisions locally

AI 导读

Strot 是一个开源决策编译器,允许用户使用大型语言模型(LLM)一次性编译意图,然后在本地硬件上以零边际成本永久进行决策,包括分类、评分和路由等操作。

推荐理由

原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

来源:Show HN · github.com