跳到正文
今天11月8日周日72 条
  1. Google AI · DEV 作者专属59

    48 小时实战笔记:同一提示词产出两种 JSON 结构,以及一个能同时通过的结构校验器

    作者在把约 600 个 markdown 文件每夜批量提取为四字段 JSON 生成晨报时,发现只查类型的校验器放走了语义回归,severity 列出现 P1、Sev-2 等域外值。随后用响应结构指纹加枚举值域契约替代旧校验器,把漂移设为非零退出码并离线重放保存的原始响应,第二个漂移被立即拦截。文中给出决策表,修复仅限无法解析的文本,一切语义偏差都 fail closed。

  2. Google AI · DEV 作者专属53

    作者在 MLH Solana 黑客松发布 Leash,让被提示词注入欺骗的智能体也无法转出资金

    作者 tushar shah 在 MLH Solana 黑客松构建 Leash 项目,演示智能体被 PDF 发票中的隐藏指令注入后仍无法转出资金。架构为三层:链上强制执行的收款白名单与每日限额、需独立 guard 签名的中额支付、高风险支付转为只有人工可批准的链上 PendingAction。

  3. Google AI · DEV 作者专属54

    MoteDB 作者复盘:用差分测试统一11处SQL谓词实现并揪出隐藏分歧

    MoteDB 作者复盘在 Rust 嵌入式多模态数据库中把11处重复的 SQL 比较语义统一为单一模块的过程,先写特征测试锁定现状,再建差分测试把随机谓词跑过9条执行路径并要求结果一致,第一天就抓到7个已发布的 0.17 中的既有分歧,包括 NOT (flag IN (0,1)) 因裸 == 遇 NULL 返回全部行的三值逻辑泄漏。

  4. Google AI · DEV 作者专属44

    如何在 VERIQ 中用 Hindsight 将审计历史建模为记忆

    作者讲解在合规审计平台 VERIQ 中如何用开源记忆系统 Hindsight 存储和检索历史审计信息,分享四项建模决策:每个组织独立 memory bank 以实现结构隔离、用 tags 按站点和 control 做内部范围控制、把审计发现转写为有意义的自然语言句子而非原始数据库记录、为每条留存文档设定稳定 document_id 以应对记录更新。

  5. Google AI · DEV 作者专属55

    作者复盘给合规审计 Agent 接入 Hindsight 记忆系统后的变化与设计经验

    作者分享为 Veriq 合规审计平台的 Agent 接入开源记忆系统 Hindsight 的实践,解决此前无状态 Agent 无法回答历史决策类问题。做法是按部门划分 memory bank,只保留带理由的 finding 变更、风险决策和经审计员确认的聊天解释;答题时当前状态取自数据库、历史取自记忆,并按需用 recall 或 reflect。

  6. Google AI · DEV 作者专属56

    AI 配音生成音频发布前的 12 项检查清单

    作者提出一份 AI 配音音频发布验收协议,覆盖脚本一致性、关键名称与数字发音、片段边界、可重复渲染、交付格式、使用授权与披露等 12 类检查。文章强调以哈希绑定最终文件与审批脚本,附 manifest 字段设计和 Python 校验脚本,并声明未测试任何厂商、未生成音频,仅作发布清单供团队自行填充证据。

  7. Google AI · DEV 作者专属63

    测试夹具悄悄腐坏:针对 Agent 补丁的双语料审计方法

    文章提出针对 Agent 补丁的双语料审计方法,应对补丁同时修改测试夹具时仍能全绿通过、但测试期望已被改变的隐患。方法包括对夹具语料哈希生成清单、用 pytest 插件追踪哪些测试读取哪些夹具、让耦合测试对着旧字节回放,并附合并决策表。作者列出了不可见读取、生成式夹具和回放成本高等局限,并披露本文是 MonkeyCode 的产品推广内容,建议自行核实免费层条款。

  8. 量子位54

    魔芯科技发布4D世界模型MoWorld 2.0,十余种物理要素融入同一模型

    魔芯科技于11月4日在乌镇世界互联网大会上发布新一代通用4D世界模型MoWorld 2.0,将重力、弹力、柔体、流体等十余种物理要素融入同一模型。模型通过物理高斯渲染器和多专家预测强化物理建模,生成场景可输出为可编辑复用的3D/4D高斯资产;在华为昇腾NPU上的实时视频推理从上一代最高50FPS提升至70FPS,推理成本最低为同规模GPU方案的30%。

  9. Google AI · DEV 作者专属40

    医疗健康 AI 图像生成应用的存储:私有原图、变体与清理

    医疗健康 AI 图像生成应用的原图、缩略图、变体和导出文件应作为归属各异的受治理记录管理,存储桶保持私有,签名 URL 只作最后一步授权。每张持久化图片需先建数据库资产台账,记录租户 ID、对象键、校验和与保留类别,对象键只是定位符而非权限。迁移前先运行只读对账脚本核对台账与对象清单,复制后验证校验和再更新台账引用,删除不作为首个迁移写入操作。

  10. Google AI · DEV 作者专属63

    AI Agent 为何违反规则,深入拆解失败模式与工程护栏

    作者复盘一年生产环境 Agent 违规日志,结论是 AI Agent 违反规则主要源于架构缺口而非目标不对齐。文章把违规分为硬约束、工具契约、时间、资源、软约束五类,归因于上下文注意力稀释、工具签名幻觉、指标优化压力和无界重试等根因,并给出默认拒绝的 schema 校验、规则锚定、结构化输出、策略引擎与运行时熔断的四层防御代码示例,建议通过对抗性评估套件度量规则遵守率后再逐步开放写权限。

  11. Google AI · DEV 作者专属55

    编码智能体为何会把功能开关留在开启状态

    文章解释编码智能体为何把功能开关留在开启状态,因为开关打开后功能可用即被视为任务完成,而删开关要删分支并重新测试合并路径,很少写进任务范围。长期常开会让关闭分支变成无人测试的死代码,配置矩阵膨胀并带来误关可用功能的风险。文中建议创建开关时就写明类型、负责人和清理条件,把移除纳入完成定义,定期审计后在同一变更中删掉开关和死分支并跑通主路径测试。

  12. Google AI · DEV 作者专属48

    构建实时 AI 抑郁检测器:隐私优先指南

    用 FastAPI、OpenAI GPT-4 和 Azure Text Analytics 可搭建隐私优先的实时抑郁检测聊天机器人。研究显示治疗型聊天机器人八周最多可减轻 30% 抑郁症状,结合可穿戴设备 HRV 可将检测特异性提升至 0.86。方案遵循 HIPAA/GDPR,采用 AES-256 与 TLS 1.3 加密,GPT-4 可换用 Anthropic 或 Google PaLM。