最新资讯
stackoverflow.blog 欢迎来到芯片时代:半导体制造、AI 数据中心与芯片设计的未来 www.youtube.com AI Agent 总犯同样的错:CentralAgent AI 将记忆重构为经验系统 pub.towardsai.net Netflix 科学家建议重采样 LLM 评判:5 次仅将误差棒缩小 13% pub.towardsai.net Jev 作为 LLM 前的静默层:构建提示感知的模型路由器 reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离
多元动态
登录 注册
大模型 reddit.com · @/u/divinetribe1

单机双模型:YOLOv8n 检测 + 微调 0.8B VLM 描述,全程离线

原文 我的收藏

开发者分享一款需在飞行模式下工作的相机应用,全部推理在设备端完成,代码以 GPL 3 开源。架构为双模型分工:检测用基于 Open Images V7 训练的 YOLOv8n,覆盖 601 类,在预览帧上实时运行,Android 用 TFLite FP16、iOS 做转换;描述用微调后的 0.8B 视觉语言模型,4-bit 量化,iOS 经 MLX Swift、Android 经 llama.cpp 与 mtmd 运行,输出一句话而非类别列表,例如识别出信封为“Umpqua 银行 76.50 美元账单,2027 年 4 月 2 日到期”。VLM 运行前先做文档检测路由:iOS 用 Vision 文档分割,Android 用 ML Kit 文本识别,满足三行以上且至少二十个字符等条件才触发。

AI推荐理由 开发者分享一款完全离线运行的相机应用架构:YOLOv8n 在预览帧上做实时检测(Open Images V7 训练,601 类),配合微调并 4-bit 量化的 0.8B 视觉语言模型生成一句话描述,iOS 走 MLX Swift、Android 走 llama.cpp 与 mtmd,并以文档检测/OCR 做路由。给出了具体模型、量化方式、部署框架和示例输出,工程细节密度高,代码以 GPL 3 开源;但为个人项目自述,无基准测试或第三方验证。

62

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容