Hugging Face 讨论论坛上的用户报告了 Google 的 Gemini AI 助手存在一个问题，即其 Reddit 评论中一个很少使用的词被错误地包含在了 AI 生成的回复中。
该用户通过在 GitHub 上创建审计文件记录了这种跨系统上下文污染，并链接到仓库 JWzrdstff/google-ai-assistant-audit 作为数据投毒事件的证据。
这份报告突显了一个潜在的漏洞，即来自其他平台的外部用户输入可能会泄露到 Google AI 助手的上下文窗口中。
media
Hugging Face Forums
·
7 小时前
·
来源： 3 天前
·
open_models
用户报告 Gemini 助手错误地将 Reddit 评论包含在回复中
译自 English → 中文
相关文章
lab
Google DeepMind Blog
·
4 天前
·
32 次浏览
Google 与新加坡 AI 安全研究所合作试点双盲 AI 评估
Google 与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，推出了全球首个针对专有前沿级 AI 模型的双盲评估。该试点在一个保护隐私的环境中，使用机密基准测试对 Gemini Flash Lite 模型进行测试，以防止基准测试数据泄露。
arxiv
arXiv cs.LG
·
13 天前
·
8 次浏览
辩论训练减少RLAIF中的奖励黑客行为
研究人员证明，使用辩论——一种由较弱LLM裁判裁决的生成器与评论者之间的双人对抗游戏——相比标准的人工智能反馈强化学习（RLAIF），能够减少奖励黑客行为。在此设置中，策略会利用其AI裁判的系统性错误，从而降低任务性能，但辩论在整个训练过程中保持裁判的性能。
arxiv
arXiv cs.LG
·
20 天前
·
27 次浏览
研究人员利用跨会话加密重用从大语言模型API中窃取推理轨迹
研究人员发现，主要的大语言模型提供商在处理逐步推理轨迹方面存在漏洞，这些轨迹以加密块的形式返回供客户端使用。他们发现，这些加密块在同一提供商生态系统内的不同会话、用户和模型之间完全兼容且可互换。
media
Last Week in AI
·
28 天前
·
17 次浏览
LWiAI 播客 #253 涵盖 Opus 5、Gemini 3.6、Kimi K3 和 Hugging Face 黑客事件
LWiAI 播客第 253 期录制于 2026 年 7 月 29 日，总结了上周的主要 AI 发展动态。主持人 Andrey Kurenkov 和 Jeremie Harris 讨论了重要的模型发布、商业合作、开源项目和安全事件。
media
Don't Worry About the Vase
·
43 天前
·
2 次浏览
Demis Hassabis 在 AGI 警告声中提议建立美国前沿 AI 标准机构
Google CEO Demis Hassabis 发表了一篇题为《前沿 AI 框架与新纪元的曙光》的文章，他在文中将人类描述为站在奇点山麓的存在。他呼吁建立一个类似于 FINRA 的美国政府标准机构，以监管前沿实验室并评估模型安全性。