最新资讯
stackoverflow.blog 欢迎来到芯片时代:半导体制造、AI 数据中心与芯片设计的未来 www.youtube.com AI Agent 总犯同样的错:CentralAgent AI 将记忆重构为经验系统 pub.towardsai.net Netflix 科学家建议重采样 LLM 评判:5 次仅将误差棒缩小 13% pub.towardsai.net Jev 作为 LLM 前的静默层:构建提示感知的模型路由器 reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离
多元动态
登录 注册
智能体 www.youtube.com · @AI Engineer

我们让 AI Agent 执行 Bash 并活了下来——PostHog 的 Sarah Sanders

原文 我的收藏

PostHog 上下文工程师 Sarah Sanders 分享其 agentic CLI 工具 Wizard 的安全审计经验。Wizard 可读取代码库、安装 SDK、埋点并构建仪表盘,每周约 8000 人使用。她指出,攻击者可在开源仓库的 markdown 文件中植入 prompt injection 载荷,经自动代码审查放行后进入 agent 内容管线,从而在数千台开发者机器上执行命令。她称带 shell 的 agent 近似“恶意软件入门套件”,并提到审计发现 bash 默认被拒绝、密钥被路由处理。

AI推荐理由 PostHog 的 Sarah Sanders 分享了其 agentic CLI 工具 Wizard 在允许执行 Bash 情况下的安全审计经验,指出 agent 加 shell 近似恶意软件工具包,并提到通过 markdown 文件注入 prompt 的供应链风险。内容涉及 Agent 安全、权限控制与 prompt injection,对开发 Agent 工具的人有实际警示价值;但摘要未给出完整审计结论与修复细节。

74

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容