Muse Spark安全与准备度报告（160页，2026年）

分类：人工智能

标签：Muse Spark、AI安全、Preparedness、灾难性风险、CBRN、网络安全评估、失控风险、红队测试、提示注入、Advanced AI Scaling Framework

摘要：本报告是Meta官方发布的Muse Spark大模型安全与准备度评估报告（英文原件，160页），由Meta超级智能实验室准备度、红队与对齐团队及AI安全团队撰写，2026年5月26日发布。报告首先呈现Meta先进AI扩展框架（Advanced AI Scaling Framework）下灾难性风险域的评估结果及发布决策依据。准备度评估覆盖化学与生物、网络安全、失控风险三大灾难性风险域，结论为Muse Spark在Meta AI中的部署在该框架下呈现可接受的残余风险。评估在缓解措施部署前识别出被抬高的风险，其中化学与生物能力在安全防护应用前被评估为可能达到框架中的高风险类别；为此Meta实施了多层缓解措施，Muse Spark在化学与生物危险工作流相关基准上表现出业界领先的拒答能力，因此作为Meta AI的底层模型正式发布。在更广泛的行为与内容安全评估上，Muse Spark在多数维度表现良好：欺骗率低、意图理解具有竞争力、奖励作弊倾向小，且在同类模型中网络滥用依从率最低。报告同时指出待改进领域：与许多同类模型一样，Muse Spark在智能体场景下易受自适应越狱与提示注入攻击影响，这是

来源：蝶动洞察 | 日期：2026-10-20 | 格式：PDF | 页数：160