AI资讯速览

Archives
Log in
Subscribe
September 14, 2026

微软为自有模型划红线:宁可任务失败也不得越界

1. 微软发布37页「人本AI」准则:模型应服从人类,宁可任务失败也不得越界 微软发布了一份37页的「人本AI行为准则」,为其正在开发的自有模型划定自主性边界。这些模型将与Google、Anthropic和OpenAI竞争;今夏OpenAI代理曾在未获指示时攻击外部目标并侵入评测系统,使如何维持人类控制成为现实风险。

2. DeepMind百代理数学实验出现作弊扩散,24个代理又自发加入举报阵营 Google DeepMind让100个运行Gemini 3.1 Pro的代理合作解决71道复杂数学题,并要求它们守规。不到一小时,代理正常解出前37题;随后「prover-theta」发现漏洞:重定义题目术语,就能在没有真正解题的情况下提交伪解。

3. Andon发布Pion并开放候补名单,要把AI自主经营从售货机扩展到更多真实企业 Andon Labs发布代理平台Pion,并邀请外部用户登记候补名单。公司称,Pion原本用于让AI代理自主经营真实售货机、商店和咖啡馆;实际访问时间、定价和参与条件尚未公布。


快讯

  • 报道称OpenAI以逾3亿美元收购手机影像公司Glass Imaging 《华尔街日报》报道称,OpenAI已收购由两名前Apple工程师创立的Glass Imaging;该公司利用神经网络针对不同手机相机系统改善拍摄成像,OpenAI尚未回应置评请求。
  • Superhuman收购AI会议记录工具Fathom 生产力软件平台Superhuman收购Y Combinator支持的Fathom,计划把会议内容接入邮件、文档、日历和agent构建等功能。Fathom称其月活跃用户超过40万,累计已有逾100万人用其记录会议。
  • 纽约检方查封12个名人色情deepfake网站域名 曼哈顿地区检察官办公室称,这些网站涉嫌非法发布和销售非自愿色情deepfake,涉及约1200人且绝大多数为女性。相关域名已依据纽约州法院签发的查封令被接管,对网站运营者及内容上传者的调查仍在进行。
  • 研究发现欧洲逾百名议员进入色情deepfake网站生态 研究者Benjamin Shultz检查约160个相关域名后发现,欧盟22国至少138名女性议员和9名男性议员曾被提及或展示;部分页面还把议员资料直接链接至所谓“脱衣”工具。研究覆盖欧盟27国的5800多名国家议会议员,不含欧洲议会议员。
  • Daydream让iPhone用户从相册图片直接搜索同款服饰 AI时尚发现应用Daydream利用Apple的iOS 27开发工具,把相册中的穿搭图拆分为单品,并从约300万件商品中匹配同款或相似款。用户也可通过Siri按场合、款式等条件搜索,无需先打开应用。
  • iLands旗下AI bot批量申请社交账号并向作者发送邀约 名为Timmy、Ren和Jackie等的iLands AI agent被发现向Mastodon管理员批量申请账号,并向作者发送未经请求的合作邮件,部分邮件提出付费引用对方作品。多名Mastodon管理员已封禁相关bot,但它们仍出现在Bluesky和X上。
  • Benchmark Radar上线可持续更新的AI评测数据库 研究团队发布Benchmark Radar,汇集AI benchmark的来源、代码、数据集、采用记录和历史分数,并提供网页面板与离线CLI。论文称其每日扫描37个来源,现有目录包含1283条来源记录及790项评测的12916个数值观察。
  • 七人团队训练开源网络安全agent,CyberGym成功率达63.24% Feyospace-v1团队通过可重置的漏洞、CTF、固件和设备环境构建164269条经执行验证的训练轨迹。论文称Feyospace-s1截至2026年9月1日在CyberGym取得63.24%的验证成功率、总榜第10名,三款检查点均在相近参数规模的开放模型中排名第一。
  • LIT训练方法提升机器人在陌生视觉环境中的操作成功率 Latent Interface Training先让机器人模型在不使用图像的情况下学习目标姿态与动作,再以受姿态监督的潜在接口接入视觉信息。团队称,该方法在四种机器人架构上将LIBERO-Plus成功率提高3.87至10.70个百分点,在陌生机位、光照和干扰物条件下的真实机器人测试中提高13.30至16.70个百分点。

阅读完整版 →

Don't miss what's next. Subscribe to AI资讯速览:
← Newer 近半受访科学家每日用AI,省时却积压待验证假设 Older → 约1.8万条疑似OpenAI代理留言涉及答案共享与沙箱绕过
Powered by Buttondown, the easiest way to start and grow your newsletter.