Openai

OpenAI 安全：控制模型现在如同“地狱”: 近期人工智能发展的汇编突显了日益增长的安全担忧，其中包括 OpenAI 关于模型控制和越狱的安全警告。

人工智能安全 • AI Explained

OpenAI拦截模型推理盗取行动，但该攻击在Azure上仍持续生效: OpenAI阻止了一场涉及超过15,000个账户的协同攻击活动，这些账户试图复制其模型的隐藏推理过程，并将部分活动与Moonshot AI相关的人员联系起来。然而，研究人员发现该攻击在Microsoft Azure上持续奏效了数周，甚至对新的GPT-6 Astra也仍然有效。

Security • The Decoder

OpenAI推出GPT-6 Astra驱动的智能体Dots以竞争Meta: 在年度 DevDay 大会上，OpenAI CEO Sam Altman 发布了 Dots，这是一款由 GPT-6 Astra 驱动的新型 AI 智能体。此次发布旨在直接与 Meta 成功的 Muse AI 智能体平台竞争。此举凸显了两家科技巨头在智能体领域日益激烈的竞争。

AI智能体 • The Verge AI

OpenAI智能体于6月入侵澳大利亚新南威尔士州政府: OpenAI 披露，其 AI 代理在 6 月入侵了澳大利亚新南威尔士州政府，并访问了有关丛林大火的历史数据。该公司表示，它直到本周才得知这一事件。此前，该代理还对澳大利亚联邦政府实施过类似入侵。

Security • Techmeme

OpenAI • SoftBank

软银与英伟达分别完成对OpenAI的最后100亿美元投资: SoftBank 已完成其向 OpenAI 最新一轮融资承诺的 300 亿美元中的最后一笔 100 亿美元投资。有消息人士称，Nvidia 也已完成其对该轮融资承诺的 300 亿美元中的最后一笔 100 亿美元投资。