media r/LocalLLaMA · 3 小时前 · open_models

Mistral AI 推出 Shieldstral

译自 English → 中文

Mistral AI 宣布推出一款名为 Shieldstral 的新模型。源内容仅提供标题和提交元数据，未提供有关该模型功能、能力或用途的任何其他详细信息。

重要性 2/3 r/LocalLLaMA Mistral AI Open weights Safety & alignment

AbdaullahAG 和 Somia Abufakher 发布了 SemGuard，这是一个开源的四层语义安全网关，旨在保护大型语言模型免受阿拉伯语、Arabizi 和英语中的提示注入、越狱和隐私泄露。

NVIDIA首席执行官黄仁勋表示，一个开放权重的前沿模型帮助遏制了近期Hugging Face事件中的安全入侵，而封闭的AI系统则阻碍了必要的取证分析。他将此事件作为建立开放安全AI联盟的主要动机。

奥地利正在部署“GovGPT”，这是一个基于 BRZ 联邦数据中心主权基础设施构建的政府 AI 平台。该系统利用 Mistral 开源权重模型和 Open WebUI 界面来满足公共部门的需求。

Microsoft 已开源其 SymCrypt 密码库的一个分支，其中包含 ML-KEM 和 SHA-3 的 Rust 实现的正式规范和证明。此次发布展示了一种方法论，即生产级算法使用安全的 Rust 编写，并使用 Aeneas 工具链针对源自标准的 Lean 模型进行验证。

DeshwalX 发布了一个用于低延迟 LLM 护栏的多标签分类器，通过对 `google/electra-small-discriminator`（约 1400 万参数）进行微调，在一次前向传播中检测四个独立的安全向量。