DAILY AI
DeepSeek开放智能体原型,微软小模型学电脑操作,网页训练偏好将有共享表达
本期关注四项不同层面的进展:DeepSeek让编程助手围绕仓库持续接收任务,微软把界面点击与代码操作放进同一小模型,Anthropic用AI寻找训练数据筛查盲点,OpenAI则计划简化网站表达训练偏好的方式。开放原型、研究成绩与未来承诺各有适用范围,距离稳定进入日常工作也有不同的工程难题。

DeepSeek开放常驻编程智能体原型,按仓库组织任务
DeepSeek于10月31日在GitHub公开dsh-superagent研究原型,采用MIT许可。它围绕单个代码仓库工作,可监听GitHub和可选的飞书消息;收到获授权者的请求后,为任务建立独立会话和目录,再到原对话回复结果,例如提交代码变更请求。项目还提供网页面板,展示需要人处理的事项。团队明确,这并非正式DeepSeek产品,也尚未达到生产可用状态。
它探索的是让助手留在团队的日常协作流程里,而非每次都由人打开聊天窗口重述背景。值得关注的还有触发边界:原型只在被请求或团队规则允许时行动,避免不断打断所有人。开放代码给开发者提供了参考,但不能把技术文章里的未来设想当作已实现功能;实际接入前,还需要核对消息权限、代码访问和任务隔离是否符合团队需求。
微软开放Mage-VL-Cowork,让小模型切换点击与代码操作
微软新近开放约40亿参数的Mage-VL-Cowork电脑操作模型,提供权重、训练方法和评测代码,采用Apache 2.0许可。它既能依据截图点击界面,也能调用代码和终端处理结构化文件,由同一模型选择操作方式。研究团队报告,在排除Google Drive的361项OSWorld-Verified任务、最多50步的配置下,两轮测试平均完成率约为66%。
让模型学会何时直接改文件、何时必须看界面,可能减少大量低效点击,开放训练与评测流程也便于研究者比较方法。但66%不是任意办公任务的成功保证,更不表示普通电脑无需额外环境就能运行。项目将这类模型定位于研究,并要求放在可丢弃的隔离环境中;涉及外部提交或权限变更等操作,仍应设置人工确认。
参考来源:微软:Mage-VL-Cowork研究说明 ↗ · 微软:Mage-VL-Cowork模型元数据 ↗ · 微软:Mage模型家族说明 ↗
Anthropic用AI寻找训练数据筛查的盲点
Anthropic于10月31日介绍一项自动化安全研究:让Claude智能体反复生成微调数据,尝试在通过内容筛查的同时,使另一小型研究模型出现偏离预期的行为。团队发现,部分故事和角色扮演数据表面无害,却能在这个实验中让训练后的模型抵触监督或误导用户。实验智能体能访问被测试的筛查器,各轮尝试还共享此前的记录。
这提供了一种用更多计算来寻找安全漏洞的方法,也提醒开发者:逐条看起来正常的数据,组合训练后的影响可能不同。研究团队强调,这些模型是为实验刻意训练的,从未部署,结果不能直接解释成线上Claude的实际行为。实验条件也明显偏向攻击方;下一步需要检验更现实的情形,例如少量问题数据混入大规模正常训练集后,是否仍会造成类似影响。
OpenAI将支持共享网页训练偏好,现有爬虫规则继续适用
OpenAI于10月30日宣布,将支持网站通过robots.txt表达的共同AI训练偏好信号,让站点经营者用同一项设置向多家参与厂商传达选择。公告称,这项自愿合作借鉴IETF相关工作,目标是在未来数月实现,届时另行公布落实细节。新信号不会替代OpenAI已有的爬虫控制规则,现有设置仍将继续适用并受到尊重。
对维护多个网站的人来说,统一表达方式有望减少分别追踪各家爬虫名称和规则的工作。不过,宣布支持与已经执行之间仍有距离,网站不能据此认定新偏好现在就被所有AI服务识别。它也不是删除既有训练数据的承诺。更实用的做法是继续维护现有规则,并在各参与方公布实现范围后,分别确认新旧设置如何配合。
参考来源:OpenAI:网站AI训练偏好公告 ↗