最新资讯
dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单 dev.to 如何通过工具调用引导模型以提升 Harness 质量 dev.to AI Agent 审计轨迹不等于对话记录 dev.to 精简 MCP server 工具数量:更少工具、更小影响面,双重收益 dev.to 为什么 git checkout 无法撤销 AI 编码 agent 的改动? wechat AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航 dev.to 让模型改写文档前,先量化事实保真度 dev.to 回放 153 个 Claude Code 与 Codex 会话,审计 Agent 的生产影响范围
多元动态
登录 注册
算力商业 github.com · @Maverick617

Show HN:Janus——通过 Vulkan 在 AMD/Intel/Nvidia 上运行 GGUF 模型的 Go 二进制文件

原文 我的收藏

Janus 是一个 Go 语言编写的单一二进制文件,借助 Vulkan 在 AMD、Intel、Nvidia 显卡上运行 GGUF 格式模型。该方向对本地推理的跨厂商 GPU 兼容性有潜在价值,但目前仅有仓库与标题信息,缺少性能、支持模型范围和实测结果,实际效果尚待验证。

AI推荐理由 新项目:用 Go 编写的单一二进制文件,通过 Vulkan 在 AMD/Intel/Nvidia 上运行 GGUF 模型,属于本地推理跨厂商 GPU 支持的新尝试;但仅有标题与仓库链接,无性能数据、支持模型范围或实测证据,HN 仅 6 分且无评论,实际可用性未经验证。

62 Star 10 榜单名次 14

正文

Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia #ShowHn 👉 100 HN Points: https://news.ycombinator.com/item?id=49926773 原文地址: https://github.com/Vibra-Ingenn/Janus

来源报道 · 5 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容