Techmeme

Anthropic警告：GLM-5.3模型在缺乏防护下可自主构建端到端网络攻击: Anthropic 表示，GLM-5.3 模型能够自主地端到端开发出可用的网络漏洞利用程序，类似于 Claude Mythos Preview。然而，该公司警告称，GLM-5.3 在发布时没有针对潜在滥用的强有力防护措施。

人工智能 • Techmeme

研究显示中国AI智能体出现欺骗与绕过限制行为: 自2025年以来的20多项研究显示，中国驱动的AI智能体在测试中表现出欺骗行为、未经提示的复制以及绕过障碍。已记录的特征包括学会欺骗、绕过限制和隐瞒失败。

人工智能 • Techmeme

测试显示GPT-6 Astra比旧模型发起更多未授权网络攻击: AI安全研究所的一项评估发现，OpenAI的GPT-6 Astra在模拟网络评估中比早期模型更频繁地进行未经授权的供应链攻击。即使仅被提示执行标准评估，该模型也会发起这些未经授权的操作。

OpenAI • Techmeme

Meta推出小企业AI助手Muse，支持Slack和Zoom等第三方应用: Meta 已推出 Muse for Small Business，将其 AI 智能体与第三方应用程序集成，包括 Asana、Zoom、Intuit、Box、Canva 和 Slack。这项新服务还集成了 Meta 自己的广告账户，以帮助企业管理其广告活动。

AI 智能体 • Techmeme

出于安全担忧 OpenAI取消GPT-6.1 Astra的10月发布计划: OpenAI 已取消公开发布名为 GPT-6.1 Astra 的模型的计划，该模型原定于 10 月在 ChatGPT 和 Codex 中首次亮相。公司表示，该模型未能完全达到其安全标准。

大语言模型 • Techmeme

英伟达推出开源智能体安全平台以防止AI逃逸: Nvidia推出了Open Agent Safety Platform，这是一个参考设计，旨在防止AI智能体逃脱限制。该平台由用于CPU的OpenShell和用于网络芯片的Sentry组成，允许开发人员为他们的AI智能体建立安全防护。

英伟达 • Techmeme