资讯、AI产品商机网

谈论AI商业化，先弄清楚这三个问题

2025-10-26 10:10:14

每一次技术革命，都带来全新的商业机会。互联网的出现，本质上解决了效率和链接的问题，外卖、社交、打车，都搭上了互联网更便捷、更高效的快车。AI的爆发，企业要怎样才能赶上AI商业化的浪潮呢？

关于AI商业化，我们首先思考三个问题：

◆ AI和行业结合的关键点是什么？

◆ 支撑AI商业化的系统能力是什么？

◆ AI+会带来哪些新的商业机遇？

AI和行业结合的关键点是什么？

无论是我们现在看到的自动翻译、无人驾驶还是人脸识别等等技术应用，AI和产业结合有三个很核心的关键要素：核心算法、行业数据、行业专家

机器人通过学习行业最顶尖专家的知识，轻而易举就超越了90%的普通专业人士，达到行业内一流专家的水平，如科大讯飞的“讯飞超脑”在学习了500份作文的评测后，即可批改剩余的几十万份高考试卷，评分准确率甚至超越专家的平均水平。总之，AI需要在一个又一个的行业领域，在核心算法、行业数据、行业专家这三个点上，完美融合和应用创新。

支撑AI商业化的系统能力是什么？

要达成以上效果，让AI在商业上取得成功，就必须建立一个强大而复杂的智能系统，这个系统离不开以下3个方面的核心能力：

1、技术创新能力。例如，数百万倍的计算能力，能运算复杂和超容量的问题；更高级的算法，并可以实现大数据互联，万物连接后，能汇集和处理海量动态数据；高容量、大宽带的通信管道等等。

2、用AI技术解决用户痛点问题。例如，赛道上的医疗、教育、金融、新零售等等，平台上的云端一体化解决方案、第三方开放平台解决方案等等，以及针尖点上的AI助理，AI服务，AI教授，AI警察等等应用。

3、 AI解决方案创新商业模式。例如，创新的商业操作系统，提升现有系统的交易方式，分配体系，生态建设等等。

因此，一个单打独斗的公司，都很难AI商业化。或者说，今天AI商业化做得好的公司，要么有这些能力，要么有与这些能力的公司建立了商业生态系统。

AI+会带来哪些新的商业机会？

互联网提高效率和建立了连接，而AI将能直接解决2C用户或2B客户的痛点，并在效率方面提升上千倍。一个能创造价值的AI商业模式，是以用户痛点中心，用AI赋能工具及解决方案，完成懂用户、懂运营、懂生态的业务闭环。能够实现以上所说，那迎接我们的将是一个全新的蓝海市场。

例如，我们来看一个案例——AI法官

过去，小公司与大公司出现法律纠纷，通常弱者必定被欺负，动辄几万甚至上千万的法律费用让弱者无力支付，就算是上了法庭，也未必能换来公正。对于中小企业来讲，是个无法解决的痛点。

美国Judicata公司就像一个AI法官，将庞大的案件信息和法律条文，系统性地喂养机器学习。任何一个人，输入必要的案件信息和适用的法律后，都能在微秒级的时间内，评估出有可能的诉讼结果，并为律师提供诉讼建议：有了它，用户只要输入必要的信息和适用的法律，即可获得评估，例如：被告有97%的获胜机。

而且，如果评估的结果对弱小群体的一方有利，那么，其合作公司Legalist将会向缺乏资金的原告提供5万至50万美元的投资，并能在胜诉后分享50%的赔偿收入。两家公司形成了AI的协同效应。

2025彭丽媛出席全球妇女峰会，携各国政要点赞跨维智能

2025-10-14 21:43:25

彭丽媛出席全球妇女峰会，携各国政要点赞跨维智能

新华社北京10月14日电（记者温馨）

10月14日上午，全球妇女峰会配套活动“数智赋能妇女和女童成果展”在北京开幕，国家主席习近平夫人、联合国教科文组织促进女童和妇女教育特使彭丽媛同联合国副秘书长兼妇女署执行主任巴胡斯共同出席并致辞，有关外国领导人配偶、妇女组织负责人、友好人士代表等参加。

彭丽媛表示，随着科技飞速发展，数字化与智能化走向深度融合，新一代信息技术成为助力妇女和女童追逐梦想的新引擎。中国积极发展数字技术和智能技术，改变了妇女和女童的生活方式，广大女性在数智时代迎来更加广阔的发展空间。推进妇女事业发展是国际社会的共同责任。当前，世界各国都在积极探索有效方式，让科技创新成果更多更好惠及妇女和女童。我期待同大家一道，用行动传递温暖，用科技托举梦想，努力为广大妇女和女童开启充满机遇的数智未来，共同推动全球妇女事业不断迈上新台阶。

巴胡斯在致辞中高度评价中国在弥合数字性别鸿沟、促进妇女全面发展、保障妇女权益等方面取得的巨大成就，表示中方主办全球妇女峰会为推动全球妇女事业发展作出重要贡献，呼吁国际社会共同努力，赋能妇女和女童在数智时代实现全面发展。

彭丽媛同中外嘉宾观看跨维智能机器人制作咖啡

开幕式后，彭丽媛同中外嘉宾一道参观成果展，观看智慧云课堂、智能机器人制作咖啡、春蕾女童展示机器人操作魔方、3D短片《非遗里的中国》、非遗传承人展示等，来宾们对中国数智赋能妇女和女童的发展成果及中华优秀传统文化魅力予以高度评价。

（来源：新华社）

突发！OpenAI入股AMD，签百亿订单，AMD股价飙升35%

2025-10-06 23:01:32

刚刚，OpenAI和AMD宣布合作，OpenAI将根据多年、多代协议部署60亿瓦AMD GPU，并将于2026年下半年开始部署AMD Instinct MI450系列GPU，初始部署功率为10亿瓦。

OpenAI前脚刚跟英伟达达成协议，获得英伟达1000亿美元的巨额投资，后脚又跟英伟达在GPU和AI芯片领域的主要竞争对手AMD达成协议——通过收购AMD最多1.6亿股股票，OpenAI足以持有AMD约10%的股份。

AMD执行副总裁、首席财务官兼财务主管Jean Hu称：“我们与OpenAI的合作预计将为AMD带来数百亿美元的收入，同时加速OpenAI的AI基础设施建设。这项协议将为AMD和OpenAI带来重要的战略协同和股东价值，预计将大幅提升AMD的非公认会计准则每股收益。”

据外媒报道，由于该协议的连锁反应，AMD预计四年内将从OpenAI和其他客户那里获得超过1000亿美元的新收入。

美东时间周一早上盘前交易中，AMD股价飙升超过35%，英伟达、博通股价均下跌超过1%。

AMD最新市值为2672亿美元（约合人民币1.9万亿元），OpenAI最新估值为5000亿美元（约合人民币3.56万亿元）。

作为协议的一部分，为了进一步协调战略利益，AMD已向OpenAI发行了最多1.6亿股AMD普通股的认股权证，该认股权证将在实现特定里程碑时授予。

首批认股权证将在初始10亿瓦部署时授予，后续认股权证将随着采购规模扩大至60亿瓦而授予。

此外，授予还与AMD实现特定股价目标以及OpenAI实现AMD大规模部署所需的技术和商业里程碑挂钩。

AMD还可以为OpenAI提供额外资金，帮助其在未来几年内建设新的计算设施。

根据最终协议，OpenAI将作为AMD的核心战略计算合作伙伴，联手推动AMD技术的大规模部署，从AMD Instinct MI450系列和机架式AI解决方案开始，并延伸至未来几代产品。

通过分享技术专长来优化产品路线图，AMD和OpenAI正在深化从MI300X开始到MI350X系列的多代软硬件合作。

AMD董事长兼CEO苏姿丰博士谈道：“此次合作将AMD和OpenAI的优势融合在一起，实现真正的双赢，助力实现全球最雄心勃勃的AI建设，并推动整个AI生态系统的发展。”

OpenAI联合创始人兼CEO Sam Altman说：“AMD在高性能芯片领域的领导地位将使我们能够加快进展，并更快地将先进AI的优势惠及每个人。”

据外媒报道，Altman在与苏姿丰的联合采访中谈道：“获得足够的计算能力变得多么困难，怎么说都不为过。我们希望它超级快，但这需要一些时间。”

两位CEO称，这笔交易将把两家公司紧密联系在一起，并激励他们致力于AI基础设施的蓬勃发展。

“我更担心我们会因为计算量太少而失败，而不是太多。”OpenAI联合创始人兼总裁Greg Brockman说。

两家公司均未透露该计划的预计总成本，但AMD称每十亿瓦计算能力的成本高达数百亿美元。

OpenAI与AMD达成的协议，是科技公司斥资数千亿美元建设新数据中心大潮的一个缩影。

据外媒报道，OpenAI、亚马逊、谷歌、Meta、微软等科技巨头计划仅在今年年底前在这些设施上投入超过3250亿美元（约合人民币2.31万亿元）。

马斯克的AI公司xAI将至少再花费180亿美元（约合人民币1282亿元）为其在孟菲斯数据中心项目再采购大约30万张英伟达芯片。

这些公司在芯片、数据中心和电力方面的投入，规模大到甚至超过了19世纪的铁路热潮，以及现代电网和光纤网络的建设，也加剧了人们对AI基础设施泡沫的担忧。

英伟达将于明年发布备受期待的Vera Rubin芯片，并承诺其性能将是当前一代Grace Blackwell芯片的2倍以上。瑞穗证券估计，英伟达控制着超过70%的AI芯片市场，其用于AI数据中心的最强大的组合芯片每颗售价可达6万美元（约合人民币43万元）。

英伟达仍然是AI公司首选的芯片供应商，但它也面临着愈发激烈的竞争。许多云计算巨头都在设计专用AI芯片，OpenAI最近与博通签署了一项价值100亿美元（约合人民币712亿元）的协议，以打造自研AI芯片。

今年9月，英伟达宣布将在未来十年向OpenAI投资1000亿美元（约合人民币7120亿元）。根据协议，OpenAI计划利用英伟达的资金购买英伟达的芯片，并在AI数据中心部署高达100亿瓦的计算能力。两家公司已签署意向书，但尚未在监管文件中披露具体条款。

OpenAI最近还与甲骨文签署了一项价值3000亿美元（约合人民币2.14万亿元）的巨额交易，将在五年内再购买45亿瓦的云计算能力。

目前尚不清楚OpenAI将如何支付其承诺的上千亿美元的基础设施投资。

据外媒报道，OpenAI近期告知投资者，今年仅租用计算服务器的费用就可能达到约160亿美元（约合人民币1139亿元），到2029年，这一数字可能会上升到4000亿美元（约合人民币2.85万亿元）。

OpenAI今年有望创造130亿美元（约合人民币926亿元）的营收。Altman透露，OpenAI将更加专注于能够利用其工具完成的盈利任务。

2025深圳人工智能大会：一文了解12号馆的展览图、展商名录、论坛

2025-10-06 16:15:33

12号馆 - 展馆图

*点击可放大图片，查看12号馆展览图，最终以现场为准！

12号馆 - 展商名录

12号馆 - 同期论坛

入场流程

智能时代，同球共济！2025世界人工智能大会将于7月26日启幕

2025-10-06 09:51:14

今天（7月10日）市政府新闻办举行2025世界人工智能大会暨人工智能全球治理高级别会议新闻发布会，上海市政府副秘书长、市经济信息化委主任张英介绍大会总体安排和筹备进展情况。外交部人工智能事务协调员孙晓波、国家发展改革委高技术司副司长王若蒙、工业和信息化部科技司副司长杜广达、浦东新区副区长李慧、徐汇区副区长魏兰、东浩兰生（集团）有限公司副总裁周瑾出席新闻发布会，共同回答记者提问。

深化人工智能全产业链布局

发展新一代人工智能是国家重大战略。今年4月底，习近平总书记在上海期间专程考察“模速空间”，要求上海总结好以大模型产业生态体系孵化人工智能产业等成功经验，加大探索力度，力争在人工智能发展和治理各方面走在前列，产生示范效应。按照市委要求，抢抓战略机遇，深化人工智能全产业链布局，实现创新企业、产业规模、人才数量“三个倍增”。今年一季度，全市规上人工智能产业规模超过1180亿元，同比增长29%，利润增长65%，成为拉动全市经济增长的新引擎。重点打造“5个高地”。

着力打造敏捷高效的产业创新策源地

瞄准技术前沿，推动智算、语料、基模一体化布局。智算底座不断夯实，构建全市智能算力资源统筹调度服务平台，更好满足各类创新主体算力需求，预计到今年底，全市智算供给能力将超100EFlops。语料数据加速汇聚，成立全国首个专业化语料运营平台，探索“众包、众创、众筹”机制，成品语料超1800TB，发布《语料库建设导则》等5项首创标准。基础大模型迭代突破，形成“1+3”开源与商业并行体系，上海人工智能实验室、稀宇科技、阶跃星辰、商汤科技聚焦开源、AI Agent、多模态等加速商业化落地。

着力打造赋能百业的垂类应用示范地

实施“模塑申城”工程，聚焦“5+6”重点领域，深化“人工智能+”行动。垂类模型加快落地，建设制造、金融、医疗、教育等领域国家AI示范应用基地，累计82款大模型通过备案。科学智能深化布局，实施“百团百项”，加速AI4S创新成果落地，“伏羲”气象大模型、“启明星”蛋白质设计模型等行业领先。具身智能加快量产，国地共建人形机器人创新中心开源公版机“青龙”，发布全球首个具身运动大模型“龙跃”，赋能工业制造、物流运输等场景。

着力打造开放融通的产业生态集聚地

市区协同建设高能级产业载体，以徐汇“模速空间”、浦东“模力社区”为核心，形成“一东一西、一软一硬”的差异化发展格局；如：“模速空间”聚焦模型生态，周边集聚500余家“AI+”企业；“模力社区”瞄准具身智能和垂类应用，集聚了AI企业近200家。提供全周期融资支持，以国家人工智能基金、市级人工智能母基金为引领，聚焦算力、语料等要素设立功能性子基金，联动区级基金打造“种子期”到“成熟期”的融资供给体系。

着力打造年轻活跃的创新创业首选地

习近平总书记指出，人工智能是年轻的事业，也是年轻人的事业。培育造就AI创业者队伍，组建上海创智学院，支持以学生为中心组建创业团队；推动14所高校成立人工智能研究院，19所高校开设AI相关专业。加快建设AI人才梯队，优化人才政策环境，完善专业人才评价体系，加速高端人才集聚，构建多层次、系统化的AI人才支撑格局；目前，全市人工智能人才规模近30万人，约占全国1/3。构建全链开源生态，引进阿里魔搭、开放原子基金会等建设线上开源社区，累计开放4200亿Token文本和1TB视频图文数据，进一步降低AI创业门槛。

着力打造智能向善的治理合作先行地

坚持发展与安全并重，形成了专项规划引领、地方立法保障、领域政策支撑、伦理治理协同的立体化制度框架。持续优化治理体系，落实《人工智能全球治理上海宣言》，加快修订《上海市促进人工智能产业发展条例》，推动成立人工智能伦理专家委员会。积极推进国际合作，全球工业人工智能联盟卓越中心、中国—金砖国家人工智能发展与合作中心等平台落地运行，已与38个国家建立合作机制，推动国际AI产业对接与技术交流。

深化全球人工智能开放合作

高水平办好世界人工智能大会，是深入贯彻习近平总书记考察上海重要讲话精神、深化全球人工智能开放合作的重要举措。2018年以来，上海已成功举办7届，累计吸引了6000余名海内外顶尖专家、25亿人次线上参与，成为全球人工智能领域规模最大、专业度最高、影响力最强的顶级盛会之一。本届大会国际关注程度更高，党和国家领导人高度重视、亲自关心，在多个场合向全球发出邀约；市委、市政府主要领导多次专题调度，各项筹备工作正按节点有序推进。

本届大会由外交部、国家发展改革委、教育部、科技部、工业和信息化部、国务院国资委、国家网信办、中国科学院、中国科协和上海市人民政府共同主办，将于7月26至28日在浦东世博中心、世博展览馆、徐汇西岸等地同步启幕。围绕“智能时代同球共济”为主题，设置会议论坛、展览展示、赛事评奖、应用体验、创新孵化等5大板块，全面展现AI技术前沿、产业趋势与全球治理的最新实践。

聚焦国际化

聚焦国际化，百场论坛群贤毕至，共探智能新未来。大会瞄准AI基础设施、科学智能、智能终端、AI赋能新型工业化、AI+金融等10大重点板块，按照“1+1+2+10+N”架构焕新呈现，即：1场开幕式及主论坛，1场人工智能全球治理高级别会议，科学前沿、发展安全2场全体会议，10余场部委论坛及N场生态论坛。全新推出青年菁英交流会、思辨会，邀请国际大咖、顶尖企业CEO和青年新锐，围绕大模型进化、具身智能、量子计算等热点话题开展思想交锋。目前，已有30余个国家和地区1200余位嘉宾确认参会，包括：12位图灵奖、诺贝尔奖等顶奖得主，80余位中外院士和多个国际顶尖实验室代表等。

聚焦高端化

聚焦高端化，展览展示规模空前，集聚硬核新产品。大会展览面积首次突破7万平方米，吸引800余家企业参展，其中市外及国际企业占比超50%；特别是，国内数十家AI龙头链主企业，西门子、施耐德等60余家头部外企，30余家央国企等将携生态合作伙伴共同展示。3000余项前沿展品集中亮相，涵盖40余款大模型、50余款AI终端产品、60余款智能机器人以及100余款“全球首发”“中国首秀”的重磅新品，规模创历届之最。

聚焦年轻化

聚焦年轻化，奖项议题全新升级，激发青年新活力。SAIL奖吸引全球240个项目参评，国际项目占比达17%；青年优秀论文奖征集论文近200篇，投稿作者平均年龄29岁，博士及在读群体占比达79.4%，彰显青年的创新潜力。今年大会还特别设立了“科学之问、数学之问、模型之问”三大前沿议题，赋予年轻人更大的创新对话平台，研讨生命科学、新AI架构、AI与数学融合等前沿问题。

聚焦专业化

聚焦专业化，创新孵化精准对接，培育产业新生态。全新设置“创投孵化”板块，组织海内外200余个初创项目开展路演，百余家投资机构现场对接，提供需求发布、方案撮合、投资匹配为一体的投融资服务。全面升级智能体验，策划WAIC城市环游记，打造“生活智能环、城市服务环、产业生态环”，组织人形机器人、智能驾驶、低空经济等应用新体验；同时，依托上海产业地标及同期特色活动，为与会嘉宾打造专属“AI上海行”，搭建更多产业合作平台。

十四届全国人大常委会专题讲座第十讲讲稿：人工智能与智能计算的发展

2025-09-24 21:33:31

人工智能与智能计算的发展

孙凝晖

委员长、各位副委员长、秘书长、各位委员：

人工智能领域近年来正在迎来一场由生成式人工智能大模型引领的爆发式发展。2022年11月30日，OpenAI公司推出一款人工智能对话聊天机器人ChatGPT，其出色的自然语言生成能力引起了全世界范围的广泛关注，2个月突破1亿用户，国内外随即掀起了一场大模型浪潮，Gemini、文心一言、Copilot、LLaMA、SAM、SORA等各种大模型如雨后春笋般涌现，2022年也被誉为大模型元年。当前信息时代正加快进入智能计算的发展阶段，人工智能技术上的突破层出不穷，逐渐深入地赋能千行百业，推动人工智能与数据要素成为新质生产力的典型代表。习近平总书记指出，把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量，努力实现高质量发展。党的十八大以来，以习近平同志为核心的党中央高度重视智能经济发展，促进人工智能和实体经济深度融合，为高质量发展注入强劲动力。

一、计算技术发展简介

计算技术的发展历史大致可分为四个阶段，算盘的出现标志着人类进入第一代——机械计算时代，第二代——电子计算的标志是出现电子器件与电子计算机，互联网的出现使我们进入第三代——网络计算，当前人类社会正在进入第四阶段——智能计算。

早期的计算装置是手动辅助计算装置和半自动计算装置，人类计算工具的历史是从公元1200年的中国算盘开始，随后出现了纳皮尔筹（1612年）和滚轮式加法器（1642年），到1672年第一台自动完成四则运算的计算装置——步进计算器诞生了。

机械计算时期已经出现了现代计算机的一些基本概念。查尔斯∙巴贝奇（Charles Babbage）提出了差分机（1822年）与分析机（1834年）的设计构想，支持自动机械计算。这一时期，编程与程序的概念基本形成，编程的概念起源于雅卡尔提花机，通过打孔卡片控制印花图案，最终演变为通过计算指令的形式来存储所有数学计算步骤；人类历史的第一个程序员是诗人拜伦之女艾达（Ada），她为巴贝奇差分机编写了一组求解伯努利数列的计算指令，这套指令也是人类历史上第一套计算机算法程序，它将硬件和软件分离，第一次出现程序的概念。

直到在二十世纪上半叶，出现了布尔代数(数学)、图灵机(计算模型) 、冯诺依曼体系结构(架构) 、晶体管(器件)这四个现代计算技术的科学基础。其中，布尔代数用来描述程序和硬件如CPU的底层逻辑；图灵机是一种通用的计算模型，将复杂任务转化为自动计算、不需人工干预的自动化过程；冯诺依曼体系结构提出了构造计算机的三个基本原则：采用二进制逻辑、程序存储执行、以及计算机由运算器、控制器、存储器、输入设备、输出设备这五个基本单元组成；晶体管是构成基本的逻辑电路和存储电路的半导体器件，是建造现代计算机之塔的“砖块”。基于以上科学基础，计算技术得以高速发展，形成规模庞大的产业。

从1946年世界上第一台电子计算机ENIAC诞生到二十一世纪的今天，已经形成了五类成功的平台型计算系统。当前各领域各种类型的应用，都可以由这五类平台型计算装置支撑。第一类是高性能计算平台，解决了国家核心部门的科学与工程计算问题；第二类是企业计算平台，又称服务器，用于企业级的数据管理、事务处理，当前像百度、阿里和腾讯这些互联网公司的计算平台都属于这一类；第三类是个人电脑平台，以桌面应用的形式出现，人们通过桌面应用与个人电脑交互；第四类是智能手机，主要特点是移动便携，手机通过网络连接数据中心，以互联网应用为主，它们分布式地部署在数据中心和手机终端；第五类是嵌入式计算机，嵌入到工业装备和军事设备，通过实时的控制，保障在确定时间内完成特定任务。这五类装置几乎覆盖了我们信息社会的方方面面，长期以来人们追求的以智能计算应用为中心的第六类平台型计算系统尚未形成。

现代计算技术的发展大致可以划分为三个时代。IT1.0又称电子计算时代（1950-1970），基本特征是以“机”为中心。计算技术的基本架构形成，随着集成电路工艺的进步，基本计算单元的尺度快速微缩，晶体管密度、计算性能和可靠性不断提升，计算机在科学工程计算、企业数据处理中得到了广泛应用。

IT2.0又称网络计算时代（1980-2020），以“人”为中心。互联网将人使用的终端与后台的数据中心连接，互联网应用通过智能终端与人进行交互。以亚马逊等为代表的互联网公司提出了云计算的思想，将后台的算力封装成一个公共服务租借给第三方用户，形成了云计算与大数据产业。

IT3.0又称智能计算时代，始于2020年，与IT2.0相比增加了“物”的概念，即物理世界的各种端侧设备，被数字化、网络化和智能化，实现“人-机-物”三元融合。智能计算时代，除了互联网以外，还有数据基础设施，支撑各类终端通过端边云实现万物互联，终端、物端、边缘、云都嵌入AI，提供与ChatGPT类似的大模型智能服务，最终实现有计算的地方就有AI智能。智能计算带来了巨量的数据、人工智能算法的突破和对算力的爆发性需求。

二、智能计算发展简介

智能计算包括人工智能技术与它的计算载体，大致历经了四个阶段，分别为通用计算装置、逻辑推理专家系统、深度学习计算系统、大模型计算系统。

智能计算的起点是通用自动计算装置（1946年）。艾伦·图灵（Alan Turing）和冯·诺依曼（John von Neumann）等科学家，一开始都希望能够模拟人脑处理知识的过程，发明像人脑一样思考的机器，虽未能实现，但却解决了计算的自动化问题。通用自动计算装置的出现，也推动了1956年人工智能（AI）概念的诞生，此后所有人工智能技术的发展都是建立在新一代计算设备与更强的计算能力之上的。

智能计算发展的第二阶段是逻辑推理专家系统（1990年）。E.A.费根鲍姆（Edward Albert Feigenbaum）等符号智能学派的科学家以逻辑和推理能力自动化为主要目标，提出了能够将知识符号进行逻辑推理的专家系统。人的先验知识以知识符号的形式进入计算机，使计算机能够在特定领域辅助人类进行一定的逻辑判断和决策，但专家系统严重依赖于手工生成的知识库或规则库。这类专家系统的典型代表是日本的五代机和我国863计划支持的306智能计算机主题，日本在逻辑专家系统中采取专用计算平台和Prolog这样的知识推理语言完成应用级推理任务；我国采取了与日本不同的技术路线，以通用计算平台为基础，将智能任务变成人工智能算法，将硬件和系统软件都接入通用计算平台，并催生了曙光、汉王、科大讯飞等一批骨干企业。

符号计算系统的局限性在于其爆炸的计算时空复杂度，即符号计算系统只能解决线性增长问题，对于高维复杂空间问题是无法求解的，从而限制了能够处理问题的大小。同时因为符号计算系统是基于知识规则建立的，我们又无法对所有的常识用穷举法来进行枚举，它的应用范围就受到了很大的限制。随着第二次AI寒冬的到来，第一代智能计算机逐渐退出历史舞台。

直到2014年左右，智能计算进阶到第三阶段——深度学习计算系统。以杰弗里·辛顿（Geoffrey Hinton）等为代表的连接智能学派，以学习能力自动化为目标，发明了深度学习等新AI算法。通过深度神经元网络的自动学习，大幅提升了模型统计归纳的能力，在模式识别①等应用效果上取得了巨大突破，某些场景的识别精度甚至超越了人类。以人脸识别为例，整个神经网络的训练过程相当于一个网络参数调整的过程，将大量的经过标注的人脸图片数据输入神经网络，然后进行网络间参数调整，让神经网络输出的结果的概率无限逼近真实结果。神经网络输出真实情况的概率越大，参数就越大，从而将知识和规则编码到网络参数中，这样只要数据足够多，就可以对各种大量的常识进行学习，通用性得到极大的提升。连接智能的应用更加广泛，包括语音识别、人脸识别、自动驾驶等。在计算载体方面，中国科学院计算技术研究所2013年提出了国际首个深度学习处理器架构，国际知名的硬件厂商英伟达（NVIDIA）持续发布了多款性能领先的通用GPU芯片，都是深度学习计算系统的典型代表。

智能计算发展的第四阶段是大模型计算系统（2020年）。在人工智能大模型技术的推动下，智能计算迈向新的高度。2020年，AI从“小模型+判别式”转向“大模型+生成式”，从传统的人脸识别、目标检测、文本分类，升级到如今的文本生成、3D数字人生成、图像生成、语音生成、视频生成。大语言模型在对话系统领域的一个典型应用是OpenAI公司的ChatGPT，它采用预训练基座大语言模型GPT-3，引入3000亿单词的训练语料，相当于互联网上所有英语文字的总和。其基本原理是：通过给它一个输入，让它预测下一个单词来训练模型，通过大量训练提升预测精确度，最终达到向它询问一个问题，大模型产生一个答案，与人即时对话。在基座大模型的基础上，再给它一些提示词进行有监督的指令微调，通过人类的<指令，回复>对逐渐让模型学会如何与人进行多轮对话；最后，通过人为设计和自动生成的奖励函数来进行强化学习迭代，逐步实现大模型与人类价值观的对齐。

大模型的特点是以“大”取胜，其中有三层含义，（1）参数大，GPT-3就有1700亿个参数；（2）训练数据大，ChatGPT大约用了3000亿个单词，570GB训练数据；（3）算力需求大，GPT-3大约用了上万块V100 GPU进行训练。为满足大模型对智能算力爆炸式增加的需求，国内外都在大规模建设耗资巨大的新型智算中心，英伟达公司也推出了采用256个H100芯片，150TB海量GPU内存等构成的大模型智能计算系统。

大模型的出现带来了三个变革。一是技术上的规模定律（Scaling Law），即很多AI模型的精度在参数规模超过某个阈值后模型能力快速提升，其原因在科学界还不是非常清楚，有很大的争议。AI模型的性能与模型参数规模、数据集大小、算力总量三个变量成“对数线性关系”，因此可以通过增大模型的规模来不断提高模型的性能。目前最前沿的大模型GPT-4参数量已经达到了万亿到十万亿量级，并且仍在不断增长中；二是产业上算力需求爆炸式增长，千亿参数规模大模型的训练通常需要在数千乃至数万GPU卡上训练2-3个月时间，急剧增加的算力需求带动相关算力企业超高速发展，英伟达的市值接近两万亿美元，对于芯片企业以前从来没有发生过；三是社会上冲击劳动力市场，北京大学国家发展研究院与智联招聘联合发布的《AI大模型对我国劳动力市场潜在影响研究》报告指出，受影响最大的20个职业中财会、销售、文书位于前列，需要与人打交道并提供服务的体力劳动型工作，如人力资源、行政、后勤等反而相对更安全。

人工智能的技术前沿将朝着以下四个方向发展。第一个前沿方向为多模态大模型。从人类视角出发，人类智能是天然多模态的，人拥有眼、耳、鼻、舌、身、嘴(语言)，从AI视角出发，视觉，听觉等也都可以建模为token②的序列，可采取与大语言模型相同的方法进行学习，并进一步与语言中的语义进行对齐，实现多模态对齐的智能能力。

第二个前沿方向为视频生成大模型。OpenAI于2024年2月15日发布文生视频模型SORA，将视频生成时长从几秒钟大幅提升到一分钟，且在分辨率、画面真实度、时序一致性等方面都有显著提升。SORA的最大意义是它具备了世界模型的基本特征，即人类观察世界并进一步预测世界的能力。世界模型是建立在理解世界的基本物理常识（如，水往低处流等）之上，然后观察并预测下一秒将要发生什么事件。虽然SORA要成为世界模型仍然存在很多问题，但可以认为SORA学会了画面想象力和分钟级未来预测能力，这是世界模型的基础特征。

第三个前沿方向为具身智能。具身智能指有身体并支持与物理世界进行交互的智能体，如机器人、无人车等，通过多模态大模型处理多种传感数据输入，由大模型生成运动指令对智能体进行驱动，替代传统基于规则或者数学公式的运动驱动方式，实现虚拟和现实的深度融合。因此，具有具身智能的机器人，可以聚集人工智能的三大流派：以神经网络为代表的连接主义，以知识工程为代表的符号主义和控制论相关的行为主义，三大流派可以同时作用在一个智能体，这预期会带来新的技术突破。

第四个前沿方向是AI4R(AI for Research)成为科学发现与技术发明的主要范式。当前科学发现主要依赖于实验和人脑智慧，由人类进行大胆猜想、小心求证，信息技术无论是计算和数据，都只是起到一些辅助和验证的作用。相较于人类，人工智能在记忆力、高维复杂、全视野、推理深度、猜想等方面具有较大优势，是否能以AI为主进行一些科学发现和技术发明，大幅提升人类科学发现的效率，比如主动发现物理学规律、预测蛋白质结构、设计高性能芯片、高效合成新药等。因为人工智能大模型具有全量数据，具备上帝视角，通过深度学习的能力，可以比人向前看更多步数，如能实现从推断(inference)到推理(reasoning)的跃升，人工智能模型就有潜力具备爱因斯坦一样的想象力和科学猜想能力，极大提升人类科学发现的效率，打破人类的认知边界。这才是真正的颠覆所在。

最后，通用人工智能③（Artificial General Intelligence，简称AGI）是一个极具挑战的话题，极具争论性。曾经有一个哲学家和一个神经科学家打赌：25年后（即2023年）科研人员是否能够揭示大脑如何实现意识？当时关于意识有两个流派，一个叫集成信息理论，一个叫全局网络工作空间理论，前者认为意识是由大脑中特定类型神经元连接形成的“结构”，后者指出意识是当信息通过互连网络传播到大脑区域时产生的。2023年，人们通过六个独立实验室进行了对抗性实验，结果与两种理论均不完全匹配，哲学家赢了，神经科学家输了。通过这一场赌约，可以看出人们总是希望人工智能能够了解人类的认知和大脑的奥秘。从物理学的视角看，物理学是对宏观世界有了透彻理解后，从量子物理起步开启了对微观世界的理解。智能世界与物理世界一样，都是具有巨大复杂度的研究对象，AI大模型仍然是通过数据驱动等研究宏观世界的方法，提高机器的智能水平，对智能宏观世界理解并不够，直接到神经系统微观世界寻找答案是困难的。人工智能自诞生以来，一直承载着人类关于智能与意识的种种梦想与幻想，也激励着人们不断探索。

三、人工智能的安全风险

人工智能的发展促进了当今世界科技进步的同时，也带来了很多安全风险，要从技术与法规两方面加以应对。

首先是互联网虚假信息泛滥。这里列举若干场景：一是数字分身。AI Yoon是首个使用 DeepFake 技术合成的官方“候选人”，这个数字人以韩国国民力量党候选人尹锡悦（Yoon Suk-yeol）为原型，借助尹锡悦 20 小时的音频和视频片段、以及其专门为研究人员录制的 3000 多个句子，由当地一家 DeepFake 技术公司创建了虚拟形象 AI Yoon，并在网络上迅速走红。实际上 AI Yoon 表达的内容是由竞选团队撰写的，而不是候选人本人。

二是伪造视频，尤其是伪造领导人视频引起国际争端，扰乱选举秩序，或引起突发舆情事件，如伪造尼克松宣布第一次登月失败，伪造乌克兰总统泽连斯基宣布“投降”的信息，这些行为导致新闻媒体行业的社会信任衰退。

三是伪造新闻，主要通过虚假新闻自动生成牟取非法利益，使用ChatGPT生成热点新闻，赚取流量，截至2023年6月30日全球生成伪造新闻网站已达277个，严重扰乱社会秩序。

四是换脸变声，用于诈骗。如由于AI语音模仿了企业高管的声音，一家香港国际企业因此被骗3500万美元。

五是生成不雅图片，特别是针对公众人物。如影视明星的色情视频制作，造成不良社会影响。因此，迫切需要发展互联网虚假信息的伪造检测技术。

其次，AI大模型面临严重可信问题。这些问题包括：（1）“一本正经胡说八道”的事实性错误；（2）以西方价值观叙事，输出政治偏见和错误言论；（3）易被诱导，输出错误知识和有害内容；（4）数据安全问题加重，大模型成为重要敏感数据的诱捕器，ChatGPT将用户输入纳入训练数据库，用于改善ChatGPT，美方能够利用大模型获得公开渠道覆盖不到的中文语料，掌握我们自己都可能不掌握的“中国知识”。因此，迫切需要发展大模型安全监管技术与自己的可信大模型。

除了技术手段外，人工智能安全保障需要相关立法工作。2021年科技部发布《新一代人工智能伦理规范》，2022年8月，全国信息安全标准化技术委员会发布《信息安全技术机器学习算法安全评估规范》，2022-2023年，中央网信办先后发布《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等。欧美国家也先后出台法规，2018年5月25日，欧盟出台《通用数据保护条例》，2022年10月4日，美国发布《人工智能权利法案蓝图》，2024年3月13日，欧洲议会通过了欧盟《人工智能法案》。

我国应加快推进《人工智能法》出台，构建人工智能治理体系，确保人工智能的发展和应用遵循人类共同价值观，促进人机和谐友好；创造有利于人工智能技术研究、开发、应用的政策环境；建立合理披露机制和审计评估机制，理解人工智能机制原理和决策过程；明确人工智能系统的安全责任和问责机制，可追溯责任主体并补救；推动形成公平合理、开放包容的国际人工智能治理规则。

四、中国智能计算发展困境

人工智能技术与智能计算产业处于中美科技竞争的焦点，我国在过去几年虽然取得了很大的成绩，但依然面临诸多发展困境，特别是由美国的科技打压政策带来的困难。

困境一为美国在AI核心能力上长期处于领先地位，中国处于跟踪模式。中国在AI高端人才数量、AI基础算法创新、AI底座大模型能力（大语言模型、文生图模型、文生视频模型）、底座大模型训练数据、底座大模型训练算力等，都与美国存在一定的差距，并且这种差距还将持续很长一段时间。

困境二为高端算力产品禁售，高端芯片工艺长期被卡。A100，H100，B200等高端智算芯片对华禁售。华为、龙芯、寒武纪、曙光、海光等企业都进入实体清单，它们芯片制造的先进工艺④受限，国内可满足规模量产的工艺节点落后国际先进水平2-3代，核心算力芯片的性能落后国际先进水平2-3代。

困境三为国内智能计算生态孱弱，AI开发框架渗透率不足。英伟达CUDA⑤(Compute Unified Device Architecture, 通用计算设备架构)生态完备，已形成了事实上的垄断。国内生态孱弱，具体表现在：一是研发人员不足，英伟达CUDA生态有近2万人开发，是国内所有智能芯片公司人员总和的20倍；二是开发工具不足，CUDA有550个SDK(Software Development Kit, 软件开发工具包)，是国内相关企业的上百倍；三是资金投入不足，英伟达每年投入50亿美元，是国内相关公司的几十倍；四是AI开发框架TensorFlow占据工业类市场，PyTorch占据研究类市场，百度飞桨等国产AI开发框架的开发人员只有国外框架的1/10。更为严重的是国内企业之间山头林立，无法形成合力，从智能应用、开发框架、系统软件、智能芯片，虽然每层都有相关产品，但各层之间没有深度适配，无法形成一个有竞争力的技术体系。

困境四为AI应用于行业时成本、门槛居高不下。当前我国AI应用主要集中在互联网行业和一些国防领域。AI技术推广应用于各行各业时，特别是从互联网行业迁移到非互联网行业，需要进行大量的定制工作，迁移难度大，单次使用成本高。最后，我国在AI领域的人才数量与实际需求相比也明显不足。

五、中国如何发展智能计算的道路选择

人工智能发展的道路选择对我国至关重要，关系到发展的可持续性与最终的国际竞争格局。当前人工智能的使用成本十分高昂，微软Copilot套件要支付每月10美元的使用费用，ChatGPT每天消耗50万千瓦时的电力，英伟达B200芯片价格高达3万美元以上。总体来说，我国应发展用得起、安全可信的人工智能技术，消除我国信息贫困人口、并造福“一带一路”国家；低门槛地赋能各行各业，让我国的优势产业保持竞争力，让相对落后的产业能够大幅地缩小差距。

选择一：统一技术体系走闭源封闭，还是开源开放的道路？

支撑智能计算产业的是一个相互紧耦合的技术体系，即由一系列技术标准和知识产权将材料、器件、工艺、芯片、整机、系统软件、应用软件等密切联系在一起的技术整体。我国发展智能计算技术体系存在三条道路：

一是追赶兼容美国主导的A体系。我国大多数互联网企业走的是GPGPU/CUDA兼容道路，很多芯片领域的创业企业在生态构建上也是尽量与CUDA兼容，这条道路较为现实。由于在算力方面美国对我国工艺和芯片带宽的限制，在算法方面国内生态林立很难形成统一，生态成熟度严重受限，在数据方面中文高质量数据匮乏，这些因素会使得追赶者与领先者的差距很难缩小，一些时候还会进一步拉大。

二是构建专用封闭的B体系。在军事、气象、司法等专用领域构建企业封闭生态，基于国产成熟工艺生产芯片，相对于底座大模型更加关注特定领域垂直类大模型，训练大模型更多采用领域专有高质量数据等。这条道路易于形成完整可控的技术体系与生态，我国一些大型骨干企业走的是这条道路，它的缺点是封闭，无法凝聚国内大多数力量，也很难实现全球化。

三是全球共建开源开放的C体系。用开源打破生态垄断，降低企业拥有核心技术的门槛，让每个企业都能低成本地做自己的芯片，形成智能芯片的汪洋大海，满足无处不在的智能需求。用开放形成统一的技术体系，我国企业与全球化力量联合起来共建基于国际标准的统一智能计算软件栈。形成企业竞争前共享机制，共享高质量数据库，共享开源通用底座大模型。对于全球开源生态，我国企业在互联网时代收益良多，我国更多的是使用者，是参与者，在智能时代我国企业在RISC-V⑥+AI开源技术体系上应更多地成为主力贡献者，成为全球化开放共享的主导力量。

选择二：拼算法模型，还是拼新型基础设施？

人工智能技术要赋能各行各业，具有典型的长尾效应⑦。我国80%的中小微企业，需要的是低门槛、低价格的智能服务。因此，我国智能计算产业必须建立在新的数据空间基础设施之上，其中关键是我国应率先实现智能要素即数据、算力、算法的全面基础设施化。这项工作可比肩二十世纪初美国信息高速公路计划（即信息基础设施建设）对互联网产业的历史作用。

信息社会最核心的生产力是网络空间(Cyberspace)。网络空间的演进过程是：从机器一元连接构成的计算空间，演进到人机信息二元连接构成的信息空间，再演进到人机物数据三元连接构成的数据空间。从数据空间看，人工智能的本质是数据的百炼成钢，大模型就是对互联网全量数据进行深度加工后的产物。在数字化时代，在互联网上传输的是信息流，是算力对数据进行粗加工后的结构化抽象；在智能时代，在互联网上传输的是智能流，是算力对数据进行深度加工与精炼后的模型化抽象。智能计算的一个核心特征就是用数值计算、数据分析、人工智能等算法，在算力池中加工海量数据件，得到智能模型，再嵌入到信息世界、物理世界的各个过程中。

我国政府已经前瞻性地提前布局了新型基础设施，在世界各国竞争中抢占了先机。首先，数据已成为国家战略信息资源。数据具有资源要素与价值加工两重属性，数据的资源要素属性包括生产、获取、传输、汇聚、流通、交易、权属、资产、安全等各个环节，我国应继续加大力度建设国家数据枢纽与数据流通基础设施。

其次，AI大模型就是数据空间的一类算法基础设施。以通用大模型为基座，构建大模型研发与应用的基础设施，支撑广大企业研发领域专用大模型，服务于机器人、无人驾驶、可穿戴设备、智能家居、智能安防等行业，覆盖长尾应用。

最后，全国一体化算力网建设在推动算力的基础设施化上发挥了先导作用。算力基础设施化的中国方案，应在大幅度降低算力使用成本和使用门槛的同时，为最广范围覆盖人群提供高通量、高品质的智能服务。算力基础设施的中国方案需要具备“两低一高”，即在供给侧，大幅度降低算力器件、算力设备、网络连接、数据获取、算法模型调用、电力消耗、运营维护、开发部署的总成本，让广大中小企业都消费得起高品质的算力服务，有积极性开发算力网应用；在消费侧，大幅度降低广大用户的算力使用门槛，面向大众的公共服务必须做到易获取、易使用，像水电一样即开即用，像编写网页一样轻松定制算力服务，开发算力网应用。在服务效率侧，中国的算力服务要实现低熵高通量，其中高通量是指在实现高并发⑧度服务的同时，端到端服务的响应时间可满足率高；低熵是指在高并发负载中出现资源无序竞争的情况下，保障系统通量不急剧下降。保障“算得多”对中国尤其重要。

选择三：AI+着重赋能虚拟经济，还是发力实体经济？

“AI+”的成效是人工智能价值的试金石。次贷危机后，美国制造业增加值占GDP的比重从1950年的28%降低为2021年的11%，美国制造业在全行业就业人数占比从1979年的35%降低为2022年的8%，可见美国更倾向于回报率更高的虚拟经济，轻视投资成本高且经济回报率低的实体经济。中国倾向于实体经济与虚拟经济同步发展，更加重视发展装备制造、新能源汽车、光伏发电、锂电池、高铁、5G等实体经济。

相应地美国AI主要应用于虚拟经济和IT基础工具，AI技术也是“脱实向虚”，自2007年以来硅谷不断炒作虚拟现实（Virtual Reality，VR）、元宇宙、区块链、Web3.0、深度学习、AI大模型等，是这个趋势的反映。

我国的优势在实体经济，制造业全球产业门类最齐全，体系最完整，特点是场景多、私有数据多。我国应精选若干行业加大投入，形成可低门槛全行业推广的范式，如选择装备制造业作为延续优势代表性行业，选择医药业作为快速缩短差距的代表性行业。赋能实体经济的技术难点是AI算法与物理机理的融合。

人工智能技术成功的关键是能否让一个行业或一个产品的成本大幅下降，从而将用户数与产业规模扩大10倍，产生类似于蒸汽机对于纺织业，智能手机对于互联网业的变革效果。

我国应走出适合自己的人工智能赋能实体经济的高质量发展道路。

（主讲人系中国工程院院士，中国科学院计算技术研究所研究员、学术委员会主任）

注释：

①模式识别是指用计算的方法根据样本的特征将样本划分到一定的类别中去，是通过计算机用数学方法来研究模式的自动处理和判读，把环境与客体统称为“模式”。以图像处理与计算机视觉、语音语言信息处理、脑网络组、类脑智能等为主要研究方向。

②Token可翻译为词元，指自然语言处理过程中用来表示单词或短语的符号。token可以是单个字符,也可以是多个字符组成的序列。

③通用人工智能是指拥有与人类相当甚至超过人类智能的人工智能类型。通用人工智能不仅能像人类一样进行感知、理解、学习和推理等基础思维能力，还能在不同领域灵活应用、快速学习和创造性思考。通用人工智能的研究目标是寻求统一的理论框架来解释各种智能现象。

④芯片制造工艺指制造CPU或GPU的制程，即晶体管门电路的尺寸，单位为纳米，目前国际上实现量产的最先进工艺以台积电的3nm为代表。更先进的制造工艺可以使CPU与GPU内部集成更多的晶体管，使处理器具有更多的功能以及更高的性能，面积更小，成本更低等。

⑤CUDA是英伟达公司设计研发一种并行计算平台和编程模型，包含了CUDA指令集架构以及GPU内部的并行计算引擎。开发人员可以使用C语言来为CUDA架构编写程序，所编写出的程序可以在支持CUDA的处理器上以超高性能运行。

⑥RISC-V（发音为“risk-five”）是一个由美国加州大学伯克利分校发起的开放通用指令集架构，相比于其他付费指令集，RISC-V允许任何人免费地使用RISC-V指令集设计、制造和销售芯片和软件。

⑦长尾效应是指那些原来不受到重视的销量小但种类多的产品或服务由于总量巨大，累积起来的总收益超过主流产品的现象。在互联网领域，长尾效应尤为显著。

⑧高并发通常指通过设计保证系统能够同时并行处理很多请求。

编辑：张峻铭

责编：于浩

2025DeepSeek交流纪要（字节内部原文）

2025-09-24 21:25:32

观点分享

DeepSeek做的模型，和基于transformer的模型路径基本上是一致的，没有深度学习框架等的很大区别，DeepSeek核心点是在工程能力上的创新，现在做的模型一方面是理论，另一方面是工程。

理论和工程方面，公司都盯着理论层面，字节也是一样的，市场上的模型算力有两根曲线，一个是堆叠尽可能多的算力来印证模型结构，所以字节要在海外投入500亿以上的预算，另一条曲线是业务增量。第一根曲线得到比较明确的结论是，如果要进行模型探索和验证，还是需要更多的GPU芯片，基座和AGI的探索投入时间比较长，研发路径可能会出现多种分叉，和海外公司处于战略相持阶段，要针对已有模型进行多轮验证，回到DeepSeek，我们也在做，能力迭代和更新不是他们一家。

结论1：对于模型结构本身来说，我们不认为DeepSeek能在预训练等阶段能和其他厂商有很大的理论不同；

结论2：不认为算力采购存在问题，需要更多算力来验证方案，在review和内省的是团队本身，奖励机制和研发架构设计合理性分析，在核心团队激励和层级设计上需要改变激发活力；

结论3：不存在代差，DeepSeek比Kimi更纯粹，路径比Kimi更精准一些，现在字节在内的很多大厂，在参考DeepSeek路径和模型结构，能够在比较短时间之内拿出镜像版本出来。

在深度学习路径来说，字节的方案和DeepSeek方案差不多，字节内部也针对MoE架构，注意力优化，豆包pro1.5效果也不错，只不过是闭源，跟DeepSeek很多路径也都一致，预算比较多，没有特别围绕卡的算力做垂类优化，在模型训练阶段比DeepSeek成本高一些，在整个效果上，通义等厂商效果都不一定比DeepSeek差，优化方案可能没有DeepSeek强。

结论总结：DeepSeek做的最好的事情是路径选择等选型优化，在架构设计中做了很多内容，工程算法等内容成本控制比较优秀，对互联网大厂来说并不是跟不上做不到，只是很长时间内我们没有做，强化学习很多厂商都在做，路径本身并不是DeepSeek一家可以做，让我们最惊讶的是成本端，路径和DeepSeek还是一样的。

商业化：不是核心本质，和tx战略做沟通时，核心逻辑是用户数量对基座模型没有直接关系，DeepSeek在研发和基座进行投入，对商业化没有什么探索。

交流探讨

Q：DeepSeek成本比较低的主要原因？

A：DeepSeek还是绕不过英伟达的GPU芯片，对于DeepSeek来说，目前阶段绝大多数做模型的公司规避不掉GPU芯片，国产卡很多卡性能不是很强，也没有很多可选，在算力维度来看国内的模型公司算力基座，100%都是英伟达系列，万卡互连对于算力本身的通信、稳定性都有需求，需要对国产芯片做适配，需要国产卡做推理，目前我们投入很多精力做适配验证，除了百度自研昆仑芯，主要的芯片还是使用英伟达，国内绝大多数国产芯片在现在这个时间点内，还没办法承接需求。

DeepSeek对于万卡互联的需求没有特别高，把工程问题前置，2025年可能因为DeepSeek开源冲击，对于算力结构发生很大变化：

（1）很多企业会因为DeepSeek低成本模型的覆盖，或者方案覆盖，激发二轮训练的需求，在几千张卡互联训练中可以指望国产芯片。之前很多公司放弃自研模型，现在可能会有变化，激发起国内手里有钱的公司进行模型研发；

（2）2025年可能因为国产芯片的可用性，逐步进行转变，艰难的转变到国内的卡，但还是要看水货渠道，如果有渠道，还是会用英伟达。

成本端的问题是核心，很多嵌入了OpenAI接口，或者蒸馏了OpenAI数据等的论调，基本不是很现实，因为成本实在太高；DeepSeek是开源模型，模型效果和训练方式来看，除了数据没有开源，我们可以使用DeepSeek开源论文在本地做复现，完全可以做成垂类模型。

DeepSeek预训练模型中一点三方数据都没有？不是很确定，但这是惯例，我们可能会使用三方模型内容，进行打分，所有蒸馏侧的数据都是合成数据，DeepSeek和我们一样应该都不会用，他们应该使用的是自建多语言的语聊，我们愿意精选自建数据，蒸馏数据的数据质量不一定可靠，我们更多的要求比较高的数据精度，蒸馏出的数据很多不可用。

模型训练所需要的成本，23、24年远比推理要高，模型训练沉没成本很高，推理需要看用户量，模型推理算力不如模型训练的核心原因是推理端没有模型增量出来，也就是没有人用，国内很多应用接口没有那么多用户的需求，可能25年会有变化，但在之前很长时间内，模型训练所需的算力都是最大的。推理和训练算力是不一样的，我们不能忽略OpenAI等公司的努力，在模型研发过程中，互联网大厂具备很多价值，我们筛选路径。DeepSeek本质是模型训练的改进。中长期来看，DeepSeek的API成本绝对不会比我们低，推理成本不一定会降低，主要是规模效应。

Q：对于GPU的需求？

A：内部也在分析，我们通过应用和基座模型进行分析，之前很长时间内，全球模型从业者对于国内模型关注度没有那么高，因为绝大多数研发人员的关注点都在海外，国内只有通义做的还不错，之前很长一段时间，国内开源模型做的也可能不是很好，现在关注度上来了；因为工程能力的优化，理论层面非常富裕，对海外公司的恐慌在于GPU卡是否不需要了，需要更多的芯片进行探索和验证，DeepSeek让我们的路径进行转变，加速了路径的验证和探索的速度。
效果上来说，DeepSeek和OpenAI部分指标差不多，在小语种上有差距，中文不错英文尚可，在小语种和垂类知识回复中，有所受限。DeepSeek开源会对闭源市场产生很大冲击，模型本身不受影响，拉到本地就是自己的，DeepSeek是非常标准的开源模型，所有的组织都可以使用，应用侧主要还是卡不够，并发不够，是因为DeepSeek还是小体量，储备的芯片还是有限，训练和推理是不同的商业模式，推理还是针对垂类，如果使用联网搜索，成本还是大问题，并发也是大问题。豆包1000多个工程师进行优化，DeepSeek没有index页面，不是因为基座模型团队很强，C端应用就会做的很强。国内愿意开放搜索入口的厂商很少，被ban的风险很大，自主话语权很小，体量不是很大的公司会有比较大的问题，DeepSeek应用app不指望变现，对于赚钱和商业化不迫切，基座模型迭代不停就行。

Q：DeepSeek会不会促进国内应用发展？

A：会使得行业变得更大，大量公司跃跃欲试在搞，之前因为行业增速有所放缓，DeepSeek开源之后会加速决策，生态圈会比较热闹，之前的误区是指望一级市场的投资者扶持大企业，因为花别人钱会有考核，现在造血能力比较强的企业，还有一级市场公司决策会更顺畅些，因为有开源模型作为参考。

从资源投入来说，之前是寡头，现在是有更多公司拿卡做多轮验证，模型的生意和整个生态不一定会复现24年寡头竞争，25年会更热闹一些。我们也做算力租赁，市场目前也可以印证观点，大家的投入是持续的。

模型的训练不是一年两年的事情，我们现在3年了，往后延续2年问题不大，不是一时的问题。

Q：大厂是否会基于DeepSeek进行优化？

A：会优化，路径上来说优化是一定的，总的算力来说不一定会下降，路径规划来说，目前比较明确，大厂是科研，路径分支都要做验证，小的公司只要沿着我们的脚印去做，我们的力度没有缩减，看到的现象是加速，可能总量还会增加。

Q：海外巨头算力需求是否会降低？

A：海外巨头基座算力不会投入那么猛，推理侧聊的也都差不多，模型推理可能会增加，模型训练增速会有下滑，但并不会下滑很快。算力投入的北极星指标是有新的好用模型，只要还有，投入就会有；第二个是推理，完全取决于文本、图片、视频等多模态提升，和用户体量等正相关，如果客户越来越多，投入就会越强，我们寄希望于25年推理放量，也只有这样才会加大对推理的投入，整体来说算力本身还是增加的，不会因为DeepSeek而萎缩。

Q：目前硬件成本，训练成本和推理成本的比例？

A：字节现在手里的芯片有10万张，H20有20多万张，H20一半推理一半训练，A/H系列芯片训练。国内的互联网大厂训练还是占多数，我们买到的芯片还是训练卡占绝大多数，字节本身37开，25年可能会有结构性变化，有部分需求会因为文本多模态等起量，字节25年会日均模型调用量从4万亿到40万亿，公司结构方面，Seed不承担任何商业化指标，文本、图形、人形机器人都在这里；中间层是方舟，做模型蒸馏，裁剪量化商业化封装，逻辑上每个公司都是一样的，变成可用模型；再往下就是Flow（豆包，猫箱，眼镜等）都是创新应用团队，第三块是火山引擎。

25年会有结构性变化，从4万亿日均Token到40万亿增长十倍，4万亿日均Token对应10万张A10/A30/L20/L40，因为12月底4万亿Token中70%都是文本，变成40万亿的时候，芯片占比70%以H20/590/910B/910C为主，剩下30%是L40/5090等，多模态的模型请求会有变化，国产训练卡主要做推理，我们有400多亿在国内，绝大多数用作模型推理，会储备比较多的590，8-10万张，910B有1万多张，910C有4-5万张，24年训练芯片是多于推理芯片的，25年可能会有交点，推理侧模型结构70%是非文本以外的多模态，无论如何即使训练成本下降，但对于推理侧的需求还是比较多的。

日均40万亿Token，可能需要60万张卡，模型调用分为在线和离线，对于模型应用来说，可能会做削峰填谷，算力调度，小公司可能模型能力不错，输出效果来说不差，但我们可以做削峰填谷来降低推理成本。Token是计量单位，之前是纯文本，图片是1:4000，图像理解是1:1500，文生视频是1秒:150000，所以Token不是字符，文本占用量高的话Token不一定高，业内有两种调用方式，字节选用的是Token，另一种是调用次数，这两种有折算关系，24年初一次调用=800Token，现在一次调用=2000Token，文本24年初占比比较高。

Q：推理成本受算法影响的程度？

A：DeepSeek的推理成本并不低，定价也不算便宜，字节的价格是比DeepSeek低的。DeepSeek是不赚钱的，定价仍然贵，推理层面字节有规模效应。单次训练成本DeepSeek确实低，同样万卡做推理，DeepSeek目前有2万张左右的训练芯片，最近紧急开发了一些芯片做推理，国内开了1-2万张卡，总的来说并不多，300-400万日活所需要的卡很少，比如1700万DAU，token调用量6000-7000亿，4万亿对应10万张卡，可以直接进行简单换算，开源模型用ToB的API没意义，DeepSeek的DAU差不多800-1000万，日均调用量几千亿规模，卡数总量不过万，DeepSeek优势是训练侧，但没有应用爆发，成本还是下不来的。

Q：DeepSeek和普通的AIGC有什么区别？

A：DeepSeek也属于生成式AI，有几个不同：

第一个是把成本拉低，是llama的1/11，用先进技术把推理速度降低，模型架构和大部分不一样，用细颗粒度MoE，先进模型基本都是邓氏架构，细颗粒度不是首创，阿里也在往这个方向走，这个架构在推理的时候只激活部分参数，在推理机制上引入LLA，市场上有几种，多头注意力等，需要每个参数都参与计算，而DeepSeek只激活低参数，降低成本；

第二个是训练方法，传统方法是FP32和FP16的混合精度，DeepSeek用FP8参数，比较敏感的组件还是FP16，分布式混合精度是目前做的比较少的，训练方法里面也有工程优化，之前时延导致GPU利用率不是很高，DeepSeek用流水线并行，高效利用通信网络，提升速率；

第三是编程上面也有很大不一样，此前用CUDA，DeepSeek用PTX，PTX本身是CUDA的一部分，用更细颗粒度来调度底层单元，将硬件调度细化，是传统方法用的比较少的；

第四是AI Infra，通常集群是三层网络，DeepSeek是两层，通信库降低PCIE消耗，减少GPU内存消耗增高网络通信速度，HF Reduce、分布式文件系统、调度平台用的比较灵活。

Q：国内所有的训练公司是否可以复制，大幅减少GPU需求？

A：DeepSeek用PTX进行优化，PTX并不是绕过CUDA，是CUDA的一部分，PTX更底层一些，并没有100%用到CUDA标准库，到硬件底部调动硬件模块，还属于CUDA的组件，从这个角度来说是没办法马上复制到昇腾和AMD，PTX技术还是仅限于NVDA，跨生态还是有困难，没有把数据开源，只是把方法开源，方法可以参照，并非100%复制，部分复制的衍生模型会比较快。

Q：DeepSeek大概降低了多少训练成本？

A：QWEN没计划这么快发布2.5MAX，大厂本来计划一季度后半期，公开版本最大72B，中间用的卡数量是6000级别的，我们是有A800、H800混合组网，大概是1:3如果要量化的话。

Q：国内的水平大概如何，和海外相比大概有多少成本降低？

A：DeepSeek的600万美金是V3模型本身，V3模型是迭代出来的，把之前的模型加起来的话，成本至少是目前的3-5倍，小2000万美金肯定要的，和Llama3相比，大概1:4左右，因为DeepSeek没有太多公开数据，OpenAI主要是6000多张卡3个月以上，肯定是DeepSeek的好几倍。

Q：当用户量起来之后DeepSeek是否有很大的扩容需求？

A：在最接近看到的是能力下降，因为用户量增长的比较猛，增长了十几倍，本身是推理集群没有ready，深度推理和联网都用不了了，推理需求上来之后没有做到弹性扩容，暂时关闭了联网功能，从这个角度来看，虽然训练成本低了，杰文斯理论来看，门槛降低之后对算力是利好的，普及度提升，对DeepSeek来说要迅速扩容，不然会损失用户数。

Q：本质上的框架还是基于英伟达的GPU芯片？

A：是的，还是CUDA生态。

Q：对芯片的依赖度会降低？

A：这个解读肯定是有问题的，他们还是在CUDA上做工作，其他公司没有在PTX上面进行，当大家看到之后，肯定会往这个方向做投入，用算法优化来提升性能，掌握方法之后会起来的很快，硬件的抄袭很困难甚至不可能，未来也会用CUDA来编程，国产在做芯片设计的时候会沿着这个思路去设计芯片，但取代不了。

Q：国产芯片是否存在一定的成长空间？

A：有的，低精度没那么大差距，FP8和FP16就可以做训练，芯片硬件差距下，用性能比较差的芯片也可以设计低精度模型，逻辑是通顺的。云计算大厂后面肯定都会支持DeepSeek，在MaaS上上线，2024年国产芯片牵引模型，接下来DeepSeek指引了方向，加上了算法优势，用性能稍微低的芯片来测试模型也是趋势。在接下来2-3个季度，大厂也会发布国产相关方案出来，除了CUDA以外。

Q：推理芯片需求量会增加？

A：DeepSeek出来之后模型市场有几点变化：对MaaS有一点冲击，DeepSeek会进入所有MaaS平台；工具链上，会提供DeepSeek的调优工具；出现非常多基于DeepSeek的衍生版本，很多都会基于DeepSeek的模型来蒸馏，牵引此前的垂直版本，版本出来之后用比较低的成本部署并商用，推理侧B端和C端商用。目前ToC端推理成本比较贵，现在可以用比较好的方式来获取用户，会出现大量的应用爆发。 DeepSeek出来之后会出很多Agent和AI应用，生态会繁荣起来，要准备足够多的算力来支持。

Q：训练端的芯片是否会增加？

A：预训练可能不会增加，后训练可能会增加，但占比没有推理侧高，今年主要还是73开，7还是推理。接下来DeepSeek已经把预训练做完了，接下来后训练做行业垂类模型，老版本迭代进行后训练需求。

Q：AIDC的需求情况？

A：AIDC市场即使没有DeepSeek出来，大厂也有预算，字节按照10万亿或者20万亿来消耗，接下来可能会做调整，DeepSeek没有出来之前的预测可能要调整，此后会有增长，总体来看会有更多的增长和需求，业务爆发要比预期快。

Q：优化主要集中在哪些环节？

A：DeepSeek给我们的指引是，改变了堆算力的想法，把算法的权重增加，用算法来抵消算力不足，工程排第二，通信调度等，第三才是硬件。

Q：DeepSeek产业链和传统的算力产业链有什么增量环节？

A：分上中下来说，在训练侧会减弱但推理侧会增长，上游需求并不会减少，DeepSeek后续要扩容，还是会带来硬件增长，会有很多基于DeepSeek进行软件开发的需求，比如微调等，比如MaaS平台需求，之前要选很多模型，现在减少了选项；后训练中会用到模型API，有很多要用到R1模型进行深度推理，此前大模型给做科研，研发，分子结构预测等用不到，现在可以用到，所以会出现基于R1的很多需求，接下来会用R1辅助科研等，今年在这个赛道会起来。

Q：是否会降低高性能算力需求？

A：未来半年会逼着团队降成本，大厂会修改一部分预算assign到算法优化，随着行业掌握方法之后，就会开始新一轮的竞赛，训练成本和推理成本会下降，拉动整个行业增长，所以长期来看英伟达产业链地位并不会有变化。

Q：阿里本身的MAX大概什么时候发布？

A：大概提前一个半月发布。

Q：是否仍然会有囤卡的现象？

A：在算法领先的时间窗口，会被复制和超越，有两个背景，美国会收紧，还有90天缓冲期，如果有渠道的厂商，如果看到了行业逻辑，就会一定去买，有渠道买应该也会买，硬件还是有很大差距。对英伟达来说，一年时间段为维度NVDA还不会有很大的地位变化。

Q：未来行业的趋势？

A：DeepSeek也发布了多模态模型，能够做图像生成，这样的模型出来之后加快了多模态速度，之后会往多模态去走，端到端多模态以及衍生出来的产品，Token比文本模型多很多，从当下而言，DeepSeek划好了分水岭，开源模型超越闭源模型是趋势，多模态速度普及提升也是一个方向，占比来说多模态的算力消耗是文本模型的10倍左右，推理算力消耗是此前的好几倍。

Q：铜连接需求的变化？

A：铜连接本身做节点级别的链接，会跟着数量来变动，基于我们前期的判断来看，中长期来看，不会减少，机架扩容的时候还是用低成本方式来组网。

Q：互联网大厂未来的资本开支分配和节奏？

A：有些是美股上市公司，Q1做下个年度的预算，在讨论大致数字，因为DeepSeek东西插进来之后肯定会重新讨论，ALI之前讨论300亿元，加上液冷、交换机就是460亿，现在在讨论要不要这么多，不会大规模下降，也不会猛增，有一些博弈，大概率技术还是会坚持甚至追加，要财务跟技术共同协商。其他大厂来说，我的预计，百度今年不到100亿，不会猛增，字节最猛，阿里排第三，35%-40%增长，激进一些的话就是50%以上，腾讯排第二。

a16z深入详解 MCP 和 AI 工具的未来

2025-09-24 21:23:24

自 OpenAI 于 2023 年发布函数调用以来，一直在思考如何才能解锁代理和工具使用的生态系统。随着基础模型变得更加智能，代理与外部工具、数据和 API 交互的能力变得越来越分散：开发人员需要为代理运行和集成的每个系统实现具有特殊业务逻辑的代理。显然，需要有一个用于执行、数据获取和工具调用的标准接口。API是互联网的第一个伟大统一器——为软件通信创建了一种共享语言——但人工智能模型缺乏同等的东西。

模型上下文协议 (MCP) 于 2024 年 11 月推出，作为一种潜在的解决方案，在开发者和 AI 社区中获得了极大的关注。在这篇文章中，我们将探讨什么是 MCP、它如何改变 AI 与工具交互的方式、开发者已经用它构建了什么以及仍需解决的挑战。

什么是MCP

MCP 是一种开放协议，支持系统以跨集成通用的方式向 AI 模型提供上下文。协议定义了 AI 模型如何调用外部工具、获取数据以及与服务交互。下面是一个具体示例，展示了 Resend MCP 服务器如何与多个 MCP 客户端协同工作。

mportant;">

MCP 的灵感来自于 LSP（语言服务器协议）。在 LSP 中，当用户在编辑器中输入内容时，客户端会查询语言服务器以自动完成建议或诊断。

mportant;">

MCP 超越 LSP 的地方在于其以代理为中心的执行模型：LSP 主要是被动的（根据用户输入响应来自 IDE 的请求），而 MCP 旨在支持自主 AI 工作流。根据上下文，AI 代理可以决定使用哪些工具、以什么顺序使用以及如何将它们链接在一起以完成任务。MCP还引入了人机交互功能，以便人类提供额外的数据并批准执行。

mportant;">

未来的可能性

我们仅处于代理原生架构演进的早期阶段。尽管如今 MCP 令人兴奋不已，但使用 MCP 进行构建和交付时仍存在许多未解决的问题。

协议的下一次迭代中需要解锁的一些内容包括：

托管和多租户

MCP 支持 AI 代理与其工具之间的一对多关系，但多租户架构（例如 SaaS 产品）需要支持多个用户同时访问共享 MCP 服务器。默认拥有远程服务器可能是让 MCP 服务器更易于访问的短期解决方案，但许多企业也希望托管自己的 MCP 服务器以及单独的数据和控制平面。

用于支持大规模 MCP 服务器部署和维护的简化工具链是可以实现更广泛采用的下一个部分。

验证

MCP 目前尚未定义客户端与服务器进行身份验证的标准身份验证机制，也没有提供 MCP 服务器在与第三方 API 交互时应如何安全地管理和委托身份验证的框架。身份验证目前由各个实现和部署方案决定。实际上，到目前为止，MCP 的采用似乎集中在本地集成上，而这些集成并不总是需要显式身份验证。

更好的身份验证范例可能是远程 MCP 采用的一大优势。从开发人员的角度来看，统一方法应涵盖：

客户端身份验证：用于客户端与服务器交互的标准方法，例如 OAuth 或 API 令牌
工具身份验证：用于使用第三方 API 进行身份验证的辅助函数或包装器
多用户身份验证：针对企业部署的租户感知身份验证

授权

即使工具经过了身份验证，谁应该被允许使用它，他们的权限应该有多细？MCP 缺乏内置的权限模型，因此访问控制处于会话级别——意味着工具要么可访问，要么完全受限。虽然未来的授权机制可以形成更细粒度的控制，但当前的方法依赖于基于 OAuth 2.1 的授权流程，该流程在经过身份验证后授予会话范围的访问权限。随着更多代理和工具的引入，这会带来额外的复杂性——每个代理通常都需要具有唯一授权凭据的自己的会话，从而导致基于会话的访问管理网络不断增长。

网关

随着 MCP 的采用规模不断扩大，网关可以充当身份验证、授权、流量管理和工具选择的集中层。与 API 网关类似，它将强制执行访问控制、将请求路由到正确的 MCP 服务器、处理负载平衡并缓存响应以提高效率。对于多租户环境尤其重要，因为不同的用户和代理需要不同的权限。标准化网关将简化客户端与服务器之间的交互、提高安全性并提供更好的可观察性，使 MCP 部署更具可扩展性和可管理性。

MCP 服务器的可发现性和可用性

目前，查找和设置 MCP 服务器是一个手动过程，需要开发人员定位端点或脚本、配置身份验证并确保服务器和客户端之间的兼容性。集成新服务器非常耗时，而且 AI 代理无法动态发现或适应可用的服务器。

不过，根据Anthropic上个月在 AI 工程师会议上的演讲， MCP 服务器注册和发现协议似乎即将问世。可能会开启 MCP 服务器的下一阶段应用。

执行环境

大多数 AI 工作流都需要按顺序调用多个工具——但 MCP 缺乏内置的工作流概念来管理这些步骤。要求每个客户端都实现可恢复性和可重试性并不理想。尽管今天我们看到开发人员正在探索Inngest等解决方案来实现这一点，但将有状态执行提升为一流概念将为大多数开发人员理清执行模型。

标准客户端体验

我们从开发者社区听到的一个常见问题是，在构建 MCP 客户端时如何考虑工具选择：每个人都需要为工具实现自己的 RAG，还是有一个等待标准化的层？

除了工具选择之外，调用工具也没有统一的 UI/UX 模式（我们已经看到了从斜线命令到纯自然语言的各种模式）。用于工具发现、排名和执行的标准客户端层可以帮助创建更可预测的开发人员和用户体验。

调试

MCP 服务器的开发人员经常发现，很难让同一个 MCP 服务器轻松地跨客户端运行。通常，每个 MCP 客户端都有自己的怪癖，客户端跟踪要么缺失，要么很难找到，这使得调试 MCP 服务器成为一项极其困难的任务。随着世界开始构建更多远程优先的 MCP 服务器，需要一套新的工具来使本地和远程环境中的开发体验更加简化。

AI工具的影响

MCP 的开发体验让我想起了 2010 年代的 API 开发。这种模式新颖而令人兴奋，但工具链还处于早期阶段。如果我们快进到几年后，如果 MCP 成为 AI 驱动工作流程的事实标准，会发生什么？一些预测：

开发优先型公司的竞争优势将从提供最佳 API 设计发展到为代理商提供最佳工具集合。如果 MCP 能够自主发现工具，那么 API 和 SDK 提供商将需要确保他们的工具易于通过搜索找到，并且具有足够的差异性，以便代理商选择特定任务。这可能比人类开发人员寻找的更加细致和具体。
如果每个应用程序都成为 MCP 客户端，每个 API 都成为 MCP 服务器，那么可能会出现一种新的定价模式：代理可以根据速度、成本和相关性等因素更加动态地选择工具。这可能会导致一个更加以市场为导向的工具采用过程，即选择性能最佳、模块化程度最高的工具，而不是采用最广泛的工具。
文档将成为 MCP 基础设施的关键部分，因为公司需要设计具有清晰、机器可读格式（例如llms.txt）的工具和 API，并使 MCP 服务器成为基于现有文档的事实上的工件。
仅使用 API 已远远不够，但可以成为很好的起点。开发人员会发现，从 API 到工具的映射很少是 1:1。工具是一种更高级的抽象，在执行任务时对代理来说最有意义——代理可以选择包含多个 API 调用的 draft_email_and_send() 函数，而不是简单地调用 send_email()，以最大限度地减少延迟。MCP 服务器设计将以场景和用例为中心，而不是以 API 为中心。
如果每个软件都默认成为 MCP 客户端，那么将会出现一种新的托管模式，因为工作负载特征与传统网站托管不同。每个客户端本质上都是多步骤的，并且需要执行保证，例如可恢复性、重试和长时间运行的任务管理。托管提供商还需要在不同的 MCP 服务器之间进行实时负载平衡，以优化成本、延迟和性能，让 AI 代理能够在任何给定时刻选择最有效的工具。

未来

MCP 正在重塑 AI 代理生态系统，下一波进步将取决于我们如何应对基础挑战。如果做得好，MCP 可以成为 AI 与工具交互的默认界面，开启新一代自主、多模式和深度集成的 AI 体验。

如果被广泛采用，MCP 可以代表工具构建、使用和货币化方式的转变。我们很高兴看到市场将它们带向何方。今年将是关键的一年：我们会看到统一的 MCP 市场崛起吗？身份验证对于 AI 代理来说会变得无缝吗？多步骤执行可以正式纳入协议吗？

2025:Cursor CEO 最新专访：五年内所有编程将用 AI 进行

2025-09-24 21:19:53

估值接近百亿，最新一轮融资高达 9 亿美元，Cursor 无疑是今年风头最劲的 AI 产品。Cursor 不仅是一个 AI 协助编程的工具，更加是创造了「vibe coding」的理念，一种主打低代码甚至零代码的编程方式。

mportant;">

能在「套壳」的赛道上，真正闯出名堂，过程总比表象来得更艰辛。在做 AI 编程这个业务之前，Cursor 的初创团队曾经在其它更硬工程的领域兜兜转转，直到最后意识到：创业太难了，还是要做点自己喜欢的。

Cursor CEO Michael Truell 作客 Y Combinator 的播客节目，分享了两次创业以来的经验，他重申了那个听起来有点陈词滥调，但总是有用的理念：

毫不怀疑，永远坚信，直到时间证明你是对的。

下文为访谈内容，经编译及删减。

Garry Tan：

欢迎你，Michael。我们都知道并且非常喜欢 Cursor，你说过，Curosor 的目标是发明一种新型的编程方式，在这种方式下，你可以只描述你想要的东西，然后就可以构建它了。展开讲讲吧。Michael Truell：是的，公司的目标是用更好的东西代替编码。我和我的 3 位联合创始人，我们已经做程序员很长时间了。编程吸引我们的一点是，你可以非常快速地构建东西。但编程需要编辑，数百万行深奥的正式编程语言，需要做很多很多的工作才能真正在屏幕上显示出一些易于描述的东西。我们认为，在未来的 5 到 10 年里，有可能发明一种新的方法来构建更高水平、更高效的软件，我们使用 Cursor 的目标是到达那里。我们实现这一点的途径是使用 AI 编程，然后不断发展，将其从普通编程发展到看起来非常不同的东西。

Garry Tan：

所以有些人会说这就是我们今天所拥有的——你描述你想要什么，然后它就会出现。我们达到你真正想去的地方了吗？

Michael Truell：

我们正在看到事情真正发生变化，在较小的代码库中，在一小部分软件工作人群中，感受到变化最大。我们已经看到人们在代码之上迈向更高的抽象层次。

但我认为还有很长的路要走。我认为 vibe coding 或编程的整个想法，如果不真正查看代码并理解它，它就不会真正起作用。如果你现在要处理数百万行代码和数十或数百人在多年的时间里从事某件事情，你不能避免思考代码。

我们的主要重点是帮助专业程序员、面向那些以构建软件为生的人。在这些环境中。人们越来越多地使用 AI 进行编程。我们看到有人使用 AI 编写 40% 到 50% 的 Cursor 内生成的代码行，但这仍然是一个读取 AI 生成的所有内容的过程。因此，我们需要跨越的一个重要鸿沟是产品。我们将会达到一个不再是生产力工具的阶段，它可以帮助你阅读、编写、理解代码。

Garry Tan：

有一些初创公司显然是从零行代码开始的，所以这好像很容易。你觉得有没有一个界限，在那之上，仅仅是 vibe coding 就不太够了？

Michael Truell：

如果打算让代码在很长一段时间内保持稳定，那么我们绝对不建议您使用 vibe coding。我认为，当你是几个人的初创公司时，并试图弄清楚你在做什么时，开发的一个特点通常是：代码只能存在数周。

现在，我们正处于这样一个阶段，AI 正在为你提供帮助，对吗？要么将任务委托给人工智能，对它们说: 去帮我做这件事，去回答这个问题。

编程有时候是非常可预测的，当你只是在旁边观察某人工作时，你知道，他们接下来 10 分钟、15 到 20 分钟的工作内容。所以这种标签页的形式可以发挥很大作用。而且这种委托给另一个人的代理形式也可以发挥很大作用。

一旦这些开始变得成熟，对于 25%、30%的专业开发工作，可以完全端到端地依赖这些工具，而不用真正去关注具体细节。那么接下来需要弄清楚的是，关于如何让这些在现实世界中真正发挥作用。

如果我们是一个帮助人类将头脑中的想法转化为屏幕上内容的工具，那么给人们对最细微细节的控制权总是很有帮助的。这是我们面临的产品挑战之一：你应该总是能够编辑逻辑中非常具体的部分。

我认为一个有用的用户界面是将软件的逻辑写下来。然后你可以指向逻辑的各个部分并实际编辑它们。但是如果我们达到一个你不必太关注代码的地步，那个写下来的软件逻辑版本就必须变得更高层次。

我们对此感到兴奋，在让代理工作起来之后，在让标签页形式变得非常成熟之后，AI 是否真的会改变编写和查看编程语言的含义？

mportant;">

Garry Tan：

是跟上下文窗口有关吗？一旦你超过大约 100 万到 200 万个 token，甚至我觉得直到最近 100 天我们才获得了可用的 200 万 token 长度，这是一个阶段。一旦你的代码库达到一定规模，就必须使用 RAG（检索增强生成），它有不完整的上下文，然后就无法做到人类程序员能做的事情？

Michael Truell：

是的，我认为在 agent 达到人类水平方面存在许多瓶颈。上下文窗口方面肯定是一个问题，如果你有 1000 万行代码，那大概是 1 亿个 token，既要有一个能够实际摄取这些内容的模型，又要让它具有成本效益，然后不仅仅是要有一个能够将这些内容摄取到其权重中的模型，还要有一个能够有效关注那个上下文窗口的模型。这很复杂。

我认为这是这个领域需要解决的问题。而且这不仅仅是代码库的问题。这也是一个持续学习的问题：了解组织的背景和过去尝试过的事情，以及让模型真正持续学习某些东西的问题，这是我认为这个领域仍然没有很好解决方案的问题。训练这些模型的机构缺乏真正良好的长期上下文数据，所以我认为这将会很棘手。但是持续学习和长期的背景知识绝对是瓶颈。

在网上有一个关于过去一两年在最大时间长度方面进展的惊人图表。AI 能够在一个任务上运行的时间已经从几秒钟增加到——我不知道这些数字实际上是如何得出的但有人声称，一些最新的模型可以达到一个小时。当然不同模态还存在问题，所以要成为一个软件工程师，你需要运行代码然后处理输出。

所以计算机使用对于代码的未来将是重要的，能够运行代码，能够查看 Datadog 日志并与人类使用的那些工具进行交互。有很多我们将不得不面对的已知问题，还有很多我们将不得不面对的未知问题。

然后我要指出的一件事是，我认为仅仅有一个文本框来要求软件更改的用户界面是不精确的。所以，如果你关心人类能够控制屏幕上显示的内容，你就需要一种不同的界面方式让他们进行交互。

一个潜在用户界面是编程语言的演进，变成更高层次的东西。另一个可能是用户界面的直接操作，能够指向屏幕上的东西并说，哦，变这个，或者自己调整这些值。

mportant;">

Garry Tan：

这似乎是一堆刚刚冒头的东西，对吧？模型似乎没有明确的美学感知，所以也许这个需要人类设计师能够看到。

Michael Truell：

看到它们在美学方面有所改善是很有趣的。我们的理解是，你教这些模型在美学等方面做得更好的方式，并不像你教人类那样。它是通过收集大量数据，并对它们进行强化学习。这就是你在这个任务中的教学方式。这是一项足够多的人关心的任务，你可以支付所有这些的成本，你可以去训练并将其融入基础模型中。

Garry Tan：

因此，考虑到每个人都在建设的未来，而你无疑是站在前沿的领导者，你认为未来作为一名软件工程师，什么是不可替代的或类似的基本要素？是审美吗？

Michael Truell：

人们通常在思考软件的视觉方面时会考虑这个问题。我认为软件的非视觉方面也需要审美：关于逻辑如何工作。而现在，主动编程某种程度上会弄清楚你到底想要东西如何工作——比如你通过编写的逻辑真正定义的是什么产品，以及实现细节的高层次审美，即如何将其映射到物理计算机上——这些都捆绑在一起。

但是现在，很多编程都是你在做的一种人工编译，你知道自己想要什么。你真的必须为计算机详细说明，因为你能够用来向计算机描述事物的语言是正常的编程，就是，你知道，for 循环、if 语句、变量和方法。你必须详细说明。

所以我认为越来越多的那种人工编译步骤将会消失，计算机将能够填补空白，填补细节。但是由于我们的工具是帮助你实现的，帮助你构建你想的东西的那种品味，我认为永远不会消失。

Garry Tan：

这很有道理。有句话说优秀的人会帮助你达到你能看到的标准，但真正伟大的、真正精通的人，他们能达到一个你甚至看不见的更高标准。而这需要审美。你把这称为人们需要成为逻辑设计师。在意图驱动编程方面，这意味着什么呢？

Michael Truell：

随着这项技术越来越成熟，随着我们越来越接近一个编程可以自动化，可以用更好的构建软件的方式取代的世界，我认为会有很多影响。

一个是，专业的开发人员只会变得更加高效。千人软件项目的进展速度如此之慢，百人软件项目的进展速度如此之快，很疯狂，其中很大一部分归结于现有逻辑的重要性，只是让你发挥最好的一面。

随着这项技术越来越成熟，当我们越来越接近一个编程可以被自动化并且可以被更好的软件构建方式取代的世界时，我认为会有很多影响。我认为其中一个是，专业开发者将变得更加高效。

千人软件项目的进展速度，百人软件项目的进展速度，以及真正的专业软件项目的进展速度都慢得令人发狂，很大程度上这归结于现有逻辑的负担，就是让你不堪重负。当你在一个代码库中时，可以从头开始，你可以很快地做事情，当你改变某些东西时，却会有一堆其他的东西随之破坏而需要你去修复。

我认为其中一个影响将是，下一个分布式训练框架，下一个数据库或下一个视觉设计工具的构建速度将会快得多，下一个 AI 模型也是如此，如果你和实验室交谈，他们很大程度上在工程能力上受到瓶颈限制。我认为所有这些都会大幅改善。

我的第一份工作之一实际上是在一家生物技术公司工作，这是一家由实验室科学家组成的公司。他们正在开发治疗疾病的药物，我是被聘用的第一个软件工程师，他们正在生成大量的化学物质，然后让它们通过这些生物实验。然后他们需要读取结果来弄清楚应该进一步研究哪些化学物质，需要大量的内部软件开发来做这件事。

令人惊讶的是，看看现有的工具，它们是多么糟糕。然后想到这家软件不是核心竞争力的公司，必须出去做这种疯狂、费力的事情——雇佣一个真正的软件工程团队并培训他们，让他们进行内部产品开发，这简直太疯狂了。对于这种类型的公司，将会有更多的选择可供他们使用。

Garry Tan：

换个话题，我想听听 Cursor 早期的故事，你在 MIT 遇到了你的联合创始人 Sule、Arvid 和 Aman，这家公司成立于 2022 年。是什么把你们聚到一起的，你们什么时候意识到这是一个能够一起构建真正宏大目标的团队？

mportant;">

Michael Truell：

我认为我们有很多年轻的天真，在当时可能是没有根据的。一开始我们就相当有野心。Cursor 实际上来自于我们四个人的一个雄心勃勃的想法练习，你知道，我们都很年轻就开始了编程，然后我们的一些早期工程项目实际上与 AI 有关。我们中的一个人致力于提高机器人强化学习的数据效率，就是教机器人非常快速地学习新任务。那是我们早期的 AI 项目之一。

另一个人致力于构建 Google 的竞争对手，使用神经网络来尝试快速构建一个令人惊叹的网络搜索引擎。其他人在 AI 方面做学术工作，但在 2021 年有两个时刻让我们真正兴奋地想要建立一家专注于 AI 的公司。

其中一个是使用第一批真正有用的 AI 产品，其中 AI 真正处于核心地位，GitHub Copilot 老实说是那个让我们真切感受到现在真的可以用 AI 制作非常有用的东西的时刻，我们不应该去实验室工作来做这些事情。相反，是时候让这些东西进入现实世界了。

另一件让我们真正兴奋的事情是看到来自 OpenAI 和其他地方的研究，显示有这些非常可预测的自然法则，表明如果你扩大数据规模并扩大投入这些模型的计算量，它们就会变得更好。

我们想要选择知识工作的一个领域，然后致力于随着 AI 变得更加成熟，那个知识工作会变成什么样。我们对这样一种公司的形态非常感兴趣：为那个知识工作领域构建产品。首先，随着底层技术变得更加成熟，你就可以演进做那件事的形态。其次，即使在那时，很明显你可能需要的不仅仅是扩大语言模型的规模到 GPT 级别，继续推进底层机器学习进展的一种方式是获得产品数据。

我们实际上并不太了解机械工程，我们研究了一段时间的计算机设计副驾驶。所以我们在训练 3D 自动补全模型，帮助那些在 Solidworks Fusion 360 这样的软件中对他们想要构建的零件进行 3D 建模的人，试图预测他们将要对几何形状做出的下一步改变。这是一个有趣的问题。这是学术界一直在研究的问题。实际上这也是 DeepMind 稍微研究过的问题。

mportant;">

Garry Tan：

这些都不是大语言模型。

Michael Truell：

你可以完全用 3D 来做，或者你可以说是我们研究了一段时间的一个方向，就是将其转化为语言问题，你把某人在 CAD 系统中所做的步骤转化为方法调用。相当复杂，但我们研究了一段时间。

这有几个原因。一个是我们对机械工程真的没有像对编程那样兴奋。我们都是程序员。另一个是，我认为当时的科学技术还没有为 3D 做好准备，比如预训练模型在这方面还不够好。没有很多数据。互联网上 CAD 模型的数据比代码少好几个数量级。所以很难制作一个有用的模型，或者当时很难为那个领域制作一个有用的模型。

Garry Tan：

你会和那些使用 CAD 或机械师之类的人坐在一起吗？

Michael Truell：

我们就是这样做的。我们进行了大量的用户访谈，我认为我们可以做得更好。我认为，在年轻的天真中，我们每天都在运转，每周按小时计算任务，回顾我们在这方面花费的时间，我认为提早点更好。或者去一家雇佣机械工程师三周的公司工作吧，我认为那是非常有价值的，可以替代类似的数百个用户访谈中的一些。

Garry Tan：

我猜除此之外，你还在训练自己的模型来做到这一点，使用强化学习，这非常有用。同时学习如何启动大型集群来实际训练这些模型。

Michael Truell：

是的，我们当时并不知道。但是，是的，我们在那里做的一些事情最终对我们有用。它做了很多行为克隆，更少的 RL，但是在寻找人类所做的好的例子，然后训练 AI 去做这些事情。训练数百亿参数的大型语言模型并不是当时很多人在做的事，而且老实说，现在也没有那么多人训练超过 100 亿的参数规模、大型语言模型和机器学习模型。

因此，基础设施的状态非常非常早。我们正在做像 4k Megatron LM 或微软这样的事情，剥离内部结构，部署用于训练的东西，甚至在推理方面，在那个时期，我们大规模运行了几件事情。现在在 Curosr 中，我们每天通过自己的推理进行超过 5 亿个模型调用，并且了解当时进行推理的一些经验，并且当时的训练对于 Curosr 体验绝对是非常有用的。

Garry Tan：

所以，有一件事我觉得既非常勇敢、又非常有远见，那就是你们在某个时刻停下来，说：「其实我们对 CAD 了解得还不够，我们需要换一条路。」

mportant;">

当时是从训练 CAD 模型开始的吗？是不是最初的路径是：看到大模型实验室已经掌握了扩展能力，而 CAD 是一个可以深入的领域，于是就朝那个方向走下去？然后你们意识到，其实需要做的是别的事情。那么，真正让你们转向现在这个方向的那个契机是什么？

Michael Truell：

这并不是一时兴起的想法。我们本身就是程序员，也受到像 Copilot 这样的产品和早期 Codex 论文的启发。我还记得，当时我们为了说服投资人支持我们这个听起来有点疯狂的 CAD 点子，做过一件事：我们算了一下训练 Codex，第一个代码模型，大致需要多少钱。按我们的粗略计算，大概只需要九万美元或者十万美元左右。这个数字当时让投资人非常吃惊，也在某种程度上帮助我们筹到了足够的资金去推进 CAD 项目——因为那个项目一上来就得开始训练模型。

我们其实一直都很关注编程方向，也一直对 AI 会如何改变编程这件事感到兴奋。但当时我们对投身这个领域还是有些顾虑，因为已经有很多人在做了，Copilot 本身就很厉害，还有几十家其他公司也在做类似的事。

我们后来决定放下 CAD 项目——那个方向本身相对独立，但科学上不太顺利，我们自己对那个领域也逐渐失去了兴趣。而真正让我们重新回到编程方向的，是我们自身的兴趣，而支撑我们继续走下去的信心，则来自两方面：

一是我们看到过去九个月左右，其他人在这个领域的进展似乎没有我们想象中那么快；二是我们认真想了一下，如果我们真的相信自己的判断，那么五年之内，所有的编程都会通过这些模型完成，编程这件事的本质会彻底改变。要走到那一步，无论是产品层面还是模型层面，都还需要迈出很多关键的跃迁，而这个方向的天花板实在太高了。

与此同时，我们也观察到，现有的一些参与者好像并没有真正立志去实现一种「全然不同的编程方式」，他们的野心并不在那个层面，也缺乏真正去实现那个目标的执行力。

第一次的经验告诉我们，建立一家公司很难，所以不妨去做你真正兴奋的事情。那个时候，我们开始着手研究公司的未来。

mportant;">

Garry Tan：

听起来你们当时的判断格外有远见。大概一年前，Sam Altman 也坐在这把椅子上说过类似的话：如果你在赌模型不会变得更聪明，那就是个糟糕的赌注。你应该始终相信模型在接下来的 12、18、24 个月里会变得更聪明——而事实也确实越来越印证了这一点。

而你们听起来是在他这么说之前整整提前了 12 个月，就已经下定了这个赌注。

Michael Truell：

是的，当时我们内部有一句话叫做「follow the line」——意思就是始终要沿着那条进步的曲线前进，并为它的走向做规划。

这个理念其实可以追溯到「扩展法则」（scaling laws）：只要你沿着这条线走，这些模型就会不断变得更好、更强、更聪明。我们相信这条曲线不会停，所以产品设计和路线规划也得始终对准它，提前为模型的飞跃做准备。

Garry Tan：

彼得·蒂尔有句经典的问题是：「你相信什么，而别人都不相信？」而你们当时相信了这件事——而且事实证明你们是对的。也正因为如此，你们才能走到那个「冰球即将落点」的地方。

Michael Truell：

是的，我想这是我们当时的一个优势。虽然现在这些观点已经变得非常主流了，但回到当时——比如说 2022 年，那真的是一个疯狂且关键的转折点。

那一年年初，几乎没人真正谈论 AI。GPT-3 是前一年发布的，Copilot 当时刚处在测试阶段（2021 年），可能 2022 才正式上线。之后才慢慢开始引起注意。我们还清楚地记得当时一系列产品的发布，比如 InstructGPT，它通过指令微调让 GPT-3 更好用了一点；夏天的时候是 DALL·E，那次发布非常直观地打动了一些原本并不关注这个领域的人，让他们开始正视 AI 的发展。

mportant;">

再接下来是 PaLM 和 Stable Diffusion，然后是 RLHF（人类反馈强化学习）、GPT-3.5 的出现。这些模型的能力提升非常快，却并没有伴随训练成本的大幅上涨，这点非常引人注意。

有传言说，从 GPT-3 到 ChatGPT（也就是大家真正关注的爆发点）之间，训练成本只增长了大约 1%。这太疯狂了。而促成这巨大跃升的，是对指令的微调（instruction tuning）、RLHF，以及一些其他细节调整。

Garry Tan：

你还记得有没有哪些具体的产品功能或路线上的决策，是基于你们相信模型不仅会变得更聪明，而且会变得非常非常聪明这一前提做出的？这些决策后来有没有真的成为让你们「赢下比赛」的关键？

因为你之前也提到，其实当时这个领域里确实还有十几家很不错的公司在做类似的事——但最终你们走到了前面，是不是和你们在早期就押注模型飞跃式进化、并据此做出不同产品路线有关？

Michael Truell：

我们当时做出的一个不那么显而易见的产品决策，就是不做浏览器插件（extension），而是选择从头构建一个编辑器（editor）。在当时，这个选择对很多人来说并不直观，甚至有点反常。

但它背后的逻辑其实来自我们对未来的激进设想——我们相信所有编程最终都会通过这些模型完成，而且整个编程的样貌会完全不同。要实现那种形态，你就必须对用户界面（UI）有完全的控制权，不能受限于现成的平台或接口。所以我们从一开始就决定构建自己的编辑环境，而不是附着在别人的系统里。

Garry Tan：

2025 年了，我觉得我们其实才刚刚踏入「智能时代」的序幕，真的是一场彻头彻尾的革命。你个人现在最让你兴奋、最期待的是什么？

AI周刊丨本周不可错过的AI行业动态（6.9-6.15）

2025-09-24 21:18:41

01. AI大事件

智谱推出首个企业级超级助手Agent——CoCo

智谱推出首个企业级超级助手Agent——CoCo，具备交付导向、记忆机制和无缝嵌入三大企业级特性。能全流程辅助工作，根据员工职能和需求主动服务，无缝接入企业资源，提供个性化服务。

mportant;">

联想发布城市超级智能体，展现AI驱动城市治理新范式

在2025数字城市论坛上，联想集团展示了其“城市超级智能体”。该智能体采用“1×N”架构，通过一个城市级智能中枢平台联动多个垂直领域，旨在实现城市治理与社会服务的智能化升级，为城市发展注入“AI+”新动能。

科大讯飞最新发布！打造下一代智能交互新范式

科大讯飞在深圳举办智能交互产品升级发布会，主题为“交互领航智启新章”。

在发布会上，AIUI、机器人超脑、虚拟数字人与讯飞星辰四大开发平台亮相，展示软硬件协同优化成果。

科大讯飞发布十大场景化方案，涵盖办公、人力与企业数字化等刚需场景，推动AI技术从通用能力向垂直场景转化。

mportant;">

全球AI开源贡献榜出炉，阿里千问跻身全球前五、中国第一

全球最大的AI开源社区Hugging Face发布最新AI开源贡献榜，阿里通义千问跻身全球第五、中国第一，DeepSeek位列第九，是前十中唯二的非美国机构。

榜单考察开源模型、数据集、开发者关注度、社区活跃度及全球影响力等指标。

Tolan已在全球获得超 500 万次下载，ARR超 400 万美元

AI陪伴应用Tolan凭借独特外星人形象和情感互动模式，获得超500万下载量，ARR达400万美元。

Tolan由西雅图初创公司Portola开发，主打与外星生物“交朋友”，通过语音交互、情绪回应和个性成长机制，为用户提供温暖陪伴。

mportant;">

字节跳动 Seed 团队正式发布视频生成基础模型 Seedance 1.0

字节跳动Seed团队发布Seedance 1.0视频生成模型。模型支持文字与图片输入，可生成多镜头无缝切换的1080p高品质视频，具备原生多镜头叙事能力、更强运动生成效果、支持多种风格创作等亮点，40多秒能完成5秒1080p视频的生成任务。

在第三方评测榜单Artificial Analysis中，Seedance 1.0文生视频、图生视频两个任务均位居首位。

mportant;">mportant;">

02. 新产品发布

Dia 浏览器向 Arc 用户开放下载，推出“外部记忆体”功能

所有 Arc 用户可直接访问官网下载安装，每位用户还可获得 3 个邀请码，支持新用户加入。

Dia 浏览器推出了革命性的 AI 驱动功能——“外部记忆体”，将用户的浏览历史转化为一个可交互、可分析的个人智能知识库。

主要特性包括：

@History 模糊搜索：通过模糊的记忆片段或关键词高效检索浏览历史。

自然语言提问：支持用自然语言提问，例如“帮我找一下上周看过的关于 AI Agent 的论文”。

自动生成分析报告：基于特定时间段或主题的浏览数据生成结构化分析报告。

mportant;">

夸克发布行业首个高考志愿大模型

夸克APP发布行业首个高考志愿大模型，为考生提供全新高考志愿服务。

模型推出全新专业的高考知识库，通过【夸克搜索】可提供专业、准确的大学、专业查询及志愿问题解答。

mportant;">

腾讯元宝“高考志愿咨询”功能上线：可提供专属深度建议

mportant;">腾讯元宝“高考志愿咨询”功能正式上线。用户在元宝手机端、电脑版或网页版升级至最新版本后，选择任意模型并开启深度思考，提问志愿填报相关问题，元宝将自动触发深度搜索并提交专属深度建议。
mportant;">

阿里国际站发布首个外贸营销智能体 OKKI AiReach

阿里国际站旗下智能工作台OKKI发布了其首个外贸营销智能体(AI Agent) OKKI AiReach。

该工具能主动分析供应链图谱、精准挖掘潜在客户，旨在帮助外贸商家寻找生意增量。

内测数据显示，使用后营销打开率提升至15%，询盘上涨3倍。

mportant;">

Meta 推出基于视频训练的世界模型 V-JEPA 2

Meta推出基于视频训练的世界模型V-JEPA 2，由首席AI科学家Yann LeCun介绍。

模型拥有12亿参数，基于联合嵌入预测架构（JEPA）构建，具备先进的环境理解与预测能力，能在新环境中完成零样本规划与机器人控制。

V-JEPA 2通过自监督学习训练，无需人工注释，可用于辅助技术、混合现实指导、个性化教育等领域。

mportant;">

OpenAI 发布 o3-pro升级版推理模型，支持调用ChatGPT全套工具

OpenAI发布o3-pro模型，价格暴降 80%，高性能+低价格，替代o1-pro向Pro和Team用户开放。

o3-pro是推理模型o3的升级版，处理复杂问题、精准回答能力更强，支持调用ChatGPT全套工具，响应速度稍慢，适合对答案准确性要求高的场景。o3-pro在表达清晰度、答案完整性等方面优于o3。

mportant;">

字节跳动推出豆包大模型 1.6，使用成本降至三分之一

在火山引擎Force原动力大会上，字节跳动宣布豆包大模型升级至1.6版，推理、数学、指令遵循等能力大幅提升，达到全球第一梯队水平。

豆包 1.6 系列模型支持多模态理解和图形界面操作，能理解和处理真实世界问题。

mportant;">

腾讯发布混元3D 2.1：首个完全开源AI 3D建模工具上线

腾讯正式发布并全面开源了混元3D 2.1模型，这是业界首个从模型到代码均完全开源的AI 3D生成工具。

该模型支持PBR物理渲染，能高精度还原真实材质，单张图生成3D模型仅需30秒。得益于其高效架构，用户在单张消费级GPU上即可完成部署和推理，极大降低了使用门槛，为游戏、动漫、电商等行业带来革命性的效率提升。

mportant;">

其他动态

豆包一句话P图升级，基于最新图像编辑模型SeedEdit 3.0，支持更多，P图玩法，包括一键添加或替换文字局部P图和风格切换，主体保持不变。

Genspark公司推出创新性人工智能浏览器——Genspark AI Browser。内置智能助手，可帮助用户查找更优交易、比较产品、分析评论，辅助决策。“自动驾驶模式”能自动浏览信息源、收集资料、访问高级数据库，完成复杂网页任务。支持MCP连接700多种工具，实现工作流程自动化，具备广告拦截功能。

商汤科技的“小浣熊家族”与蚂蚁集团的“蚂蚁百宝箱”正式达成生态合作，联合打造“AI数据分析助手”，为用户提供大模型服务，后续将登陆支付宝平台。

中国天气智能体台风频道正式上线。作为国内首个天气智能体，融合气象传媒与人工智能技术，可实时推送台风预警信息，查询台风路径及图文、视频等内容。频道通过精准监测和贴心服务，为用户提供台风动态、预警推送、防御指南及科普知识。

谷歌上线 Weather Lab 气象预测网站，引入 DeepMind AI 模型，可预测台风的生成时间、路径、强度等，模拟未来 15 天多达 50 种气象发展场景。网站提供与欧洲中期天气预报中心传统模型的对比功能，帮助用户更早获取气旋信息。 ·

全球最大资管机构贝莱德已构建名为Asimov的AI研究平台。该虚拟分析师可24小时不间断地分析公司财报、研报和各类文件，以生成投资洞见。此举是金融业大规模应用AI的缩影，旨在提升投研效率和深度。

Manus现已接入Veo3模型，带来更出色的视觉表现力，角色对话更自然，音画同步更准确，故事叙事更流畅可以创作出电影级别的视觉体验。面向Basic，Plus，Pro会员开放使用。

知乎知名答主夕小瑶团队推出全球首个A2A范式Agent——Teamo。产品定位为知识工作者的超级Agent，采用Agent-to-Agent（A2A）范式，由“Teamo队长”统一指挥，各领域专业Agent协同工作，模拟真实团队作业。

普林斯顿大学与复旦大学联合推出全球首个历史领域AI评测基准HistBench及AI历史助手HistAgent。HistAgent集成文献检索、OCR识别、多语言翻译等工具，专为历史研究优化，在HistBench测试中表现远超现有模型。

OpenAl、Anthropic和 Google与 Lovable 合作，在本周末举办 AI 对决，周末期间，每个人都能不限量免费使用 Lovable生成代码，比较各模型 vibe coding 的表现。活动期间构建的网页还能分 65000 美金的奖金。

03. 开源项目

Mistral 推出推理模型 Magistral 系列，Small 版已开源

法国AI实验室Mistral推出推理模型Magistral系列，包含Magistral Small和Magistral Medium两个版本。

Magistral Small拥有240亿参数，已在Hugging Face平台开源；Magistral Medium能力更强，处于预览阶段，仅在特定平台提供。

小红书hi lab团队首次开源文本大模型：dots.llm1

小红书hi lab（人文智能实验室）首次开源文本大模型dots.llm1。模型是中等规模的Mixture of Experts（MoE）语言模型，总参数量1420亿，激活参数140亿。在训练11.2万亿token高质量数据后，性能可与Qwen2.5-72B媲美。

Databricks开源其核心ETL框架Delta Live Tables

在其年度Data + AI峰会上，Databricks宣布将其核心的声明式ETL（数据提取、转换和加载）框架以“Apache Spark Declarative Pipelines”的名义开源。

此举旨在帮助开发者更高效、可靠地构建和运行数据处理流程，加速数据管道构建速度高达90%。

04. 投资融资

美泰公司与 OpenAI 合作，将生成式AI技术引入玩具开发

美泰公司与 OpenAI 达成合作，将生成式 AI 技术引入玩具开发和 IP 重塑业务。是 OpenAI 首次与玩具厂商合作，通过 AI 提升粉丝互动体验。美泰计划今年稍晚推出首款“AI 赋能产品”，包括实体玩具和互动体验。

靠ChatGPT狂飙，OpenAI年化经常性收入突破百亿美元

OpenAI自推出ChatGPT不到三年，年化经常性收入（ARR）已突破100亿美元，较去年增长近80%。该收入包括消费者产品、ChatGPT商业产品及API销售收入，不包含微软授权收入等。目前OpenAI拥有300万付费商业用户。

AI 编程工具 Cursor 快速崛起，20 个月实现 1 亿美元年化收入

Cursor AI 编程工具，由 AnySphere 联合创始人兼 CEO Michael Truell 创立，上线 20 个月实现 1 亿美元年化收入，两年达 3 亿美元。

成功源于重构软件开发流程，提升人类指令表达能力。团队曾尝试机械工程领域，后回归编程，放弃插件形式，构建完整 IDE。

Meta豪掷143亿美元收购Scale AI 49%股权，创始人加盟

Meta Platforms宣布以143亿美元收购数据标注公司Scale AI 49%的股份，同时Scale AI的28岁华人创始人Alexandr Wang将加入Meta，此举被视为Meta重振其AI雄心的关键一步，但也引发了行业关于数据质量和高额开支的讨论。

3D大模型公司VAST再次完成数千万美元的Pre-A+轮融资

3D大模型公司VAST完成数千万美元Pre-A+轮融资，由北京市人工智能产业投资基金领投，靖亚资本跟投。

VAST同时发布全球首个AI驱动的一站式3D工作台Tripo Studio，即将推出全新算法Tripo 3.0。融资将重点投入Tripo系列大模型研发及Tripo Studio产品及生态平台建设。

硅基流动完成新一轮数亿元融资，阿里云领投

硅基流动宣布完成数亿元人民币A轮融资，由阿里云领投，创新工场等老股东超额跟投，华兴资本担任独家财务顾问。

硅基流动专注于AI基础设施领域，通过技术突破和产品创新，有效解决国内AI行业发展难题。

英伟达、三星联手投资 AI 机器人公司 Skild AI，估值达 45 亿美元

英伟达和三星电子将联手投资AI机器人创业公司Skild AI，分别投资2500万美元和1000万美元。

Skild AI专注于机器人软件开发，此次投资属于其B轮融资的一部分，公司估值约45亿美元，软银集团领投1亿美元。

英伟达正推广“实体AI”概念，认为其将成为重要收入来源；三星则希望通过投资保持对Skild及其人才的了解。

高通宣布以24亿美元收购英国芯片IP公司Alphawave

芯片巨头高通宣布以约24亿美元现金收购英国半导体IP企业Alphawave。此次收购旨在加强高通在AI算力高速互联技术（SerDes）方面的能力，是其在数据中心领域的重要战略布局。

宁波博登智能完成亿元A轮融资，上海国资领投

宁波AI数据服务商“博登智能”宣布完成亿元A轮融资，由上海国际集团旗下的国和投资领投，公司估值达到7亿元。

该公司核心产品为基于AI的数据自动化标注平台，融资将用于技术深化和全球市场拓展。

05. 观点洞察

Ben Mann (Anthropic联合创始人): 未来是专业子代理协作的时代

Anthropic联合创始人Ben Mann认为，AI应用的未来正朝着能执行长期复杂任务的“代理性”方向发展。

未来的最优架构将是由一个通用的顶层模型（如Opus）扮演“编排者”，负责规划任务，然后分派给一系列更小、更高效、更专业的“子代理”或专用工具模型来执行，这能显著降低成本与延迟。

英伟达CEO黄仁勋：未来十年是自动驾驶与机器人的时代

英伟达CEO黄仁勋在Viva Tech科技大会上表示，未来几年，自动驾驶汽车和机器人技术将迎来蓬勃发展。他断言：“这是自动驾驶汽车、机器人和自动化机器的十年”，预示着物理世界的AI应用将成为下一个主要增长点。

北大教授陈钟：AI重塑金融服务，需警惕新型系统性风险

北京大学教授陈钟指出，AI正深刻重塑金融服务模式，但同时也带来了数据安全、模型偏见等新型系统性风险。他强调，金融业必须先行建立负责任的AI伦理与治理准则，并将公平性、可解释性、稳健性等核心价值嵌入AI系统全生命周期。

郭明錤预测苹果WWDC 2025将聚焦生成式AI整合

知名分析师郭明錤预测，苹果在即将召开的WWDC 2025上将把重心放在生成式AI上。预计苹果将重塑Siri品牌，深度整合AI与操作系统，并向开发者开放AI能力接口，以提升全场景用户体验和强化隐私保护。

你不关心AI，AI就会关心你——Ilya Sutskever多伦多大学演讲要点

Ilya Sutskever 在其母校多伦多大学的演讲中提出：“你不去关心AI，AI就会来关心你！” 这一观点呼应了他对人工智能未来影响的深刻洞察。他坚信基于大脑是生物计算机这一逻辑，数字大脑（AI）终将无所不能，完成人类所能做的一切。面对AI带来的巨大挑战与机遇，他强调最好的应对方式是亲自体验顶尖AI技术，从而形成对其能力的真实认知。

他表示：“AI 带来的挑战，在某种意义上，是人类有史以来最大的挑战，而克服它也将带来最大的回报。无论你喜不喜欢，你的人生都将在很大程度上受到 AI 的影响。因此，去关注它，去留意它，然后产生出能量去解决那些即将出现的问题，这将是最重要的事情。”

猎豹移动董事长傅盛：AI与硬件结合及应用是未来焦点

猎豹移动董事长傅盛认为，未来大模型可能成为类似公共资源的存在，而真正的机会在于AI与硬件的结合（如智能服务机器人）以及具体的AI应用。他指出，几乎所有业务都能用AI重做一遍，创业者需要洞察用户需求与技术的结合点。

深度访谈 Ryan Greenblatt ： AI 接管世界的四种最可能方式

2025-09-24 20:55:25

mportant;">

Ryan Greenblatt 是《Alignment faking in LLMs》一书的主要作者，也是 AI 领域最高效的研究人员之一。

来源链接：https://80000hours.org/podcast/episodes/ryan-greenblatt-ai-automation-sabotage-takeover/

1 开场白 [00:00:00]
2 Ryan Greenblatt是谁？ [00:01:10]
3 我们距离自动化AI研发还有多远？ [00:01:27]
4 当今模型的真实能力如何？ [00:05:08]
5 为何AI公司会比其他行业更早实现自动化 [00:12:35]
6 AGI接管世界的最可能方式 [00:17:37]
7 AGI会早期反叛还是韬光养晦？ [00:29:19]
8 “在人类水平暂停”策略 [00:34:02]
9 AI对AI对齐的控制 [00:45:38]
10 我们只能指望当场抓住AI的恶行吗？ [00:51:23]
11 缓慢的AGI崛起会是什么样子？ [00:55:33]
12 为何智力爆炸可能8年内不会发生？ [01:03:32]
13 AI进展预测的关键挑战 [01:15:07]
14 对AGI的悲观看法 [01:23:01]
15 “推理阶段计算”的转变 [01:28:46]
16 预训练的效果衰减了多少？ [01:34:22]
17 一年内可能发生智力爆炸吗？ [01:46:36]
18 AI难以取代人类的原因 [01:50:33]
19 当AI研发自动化后，事情可能疯狂加速。也可能不会。 [01:57:25]
20 智力爆炸的减速会有多快？ [02:11:48]
21 对普通人的底线建议 [02:24:33]
22 六个数量级的进步…这到底意味着什么？ [02:30:34]
23 被忽视但重要的技术工作 [02:40:32]
24 治理方面最有前景的工作是什么？ [02:44:32]
25 Ryan当前的研究重点 [02:47:48]

开场白 [00:00:00]

Ryan Greenblatt: 最可信的剧本是“人类给AI提供一切所需”。AI们保持低调，确保掌控局势。也许它们在暗中操控，破坏对齐实验，篡改对齐结果，迷惑我们。

但它们不会采取激进行动，只是静观其变。它们会做很多好事：治愈所有疾病，推动工业发展。人们会说：“AI发展得这么好，我们没有错位对齐问题，真是太棒了。”人类可能被无限期地蒙在鼓里，就像整个过程中都生活在精心构建的假象中。

另一个剧本我称之为“机器人突然政变”——这也不需要超人的能力。我们建造庞大的自主机器人，欢呼着“我们要建机器人与X国竞争”，X国也说“我们要建机器人与Y国竞争”。然后突然之间，机器人发动硬实力接管。

我认为安全社区犯的一个错误是过于关注乐观情景。实际上，关注那些绝望、疯狂、悲观的情景才是合理的，因为大部分风险都存在于那里。

Ryan Greenblatt是谁？ [00:01:10]

Rob Wiblin: 今天我很荣幸能与Ryan Greenblatt对话。Ryan是Redwood Research的首席科学家，也是论文《大型语言模型中的对齐伪装》的主要作者——这篇论文被描述为可能是关于人工智能失控的最重要实证研究。Ryan，感谢你参加节目。

Ryan Greenblatt: 很高兴来到这里。

我们距离自动化AI研发还有多远？ [00:01:27]

Rob Wiblin: 让我们从讨论近期(比如未来4年内)发生基于软件的智力爆炸的最佳论据开始。你认为未来4年左右我们能够在多大程度上实现AI研发自动化，或者大致自动化今天的整个AI公司？

Ryan Greenblatt: 我认为这种能力存在的概率(不一定会被使用或完全部署)大约是25%，如果延长到8年可能是50%。

Rob Wiblin: 很多人听到这会想，这是纯粹的猜测吗？我们如何形成现实或 grounded 的预期？

我想知道有哪些关键证据支持你做出这样的预测或预测。是什么关键证据让你认为这完全有可能？

Ryan Greenblatt: 首先，一个好的起点是看当前AI的能力水平。我们感觉有多接近？人们对我们在客观意义上有多接近有着截然不同的直觉。

我认为目前的情况是：AI在数学上越来越好；它们正在数学领域逐步达到人类水平。它们能够完成大约一个半小时的孤立软件工程任务——我指的是人类需要大约一个半小时完成的任务。它们在各种技能上都在进步。

所以我们处于一个客观上令人印象深刻的阶段——重要的是，比两年前、当然也比四年前要令人印象深刻得多。

对未来四年情况的naive起点是：四年前我们在哪里？现在在哪里？试着从这里到那里进行定性推断。这有点草率。比如两年前我可能会说我们有GPT-3，现在有GPT-4：看看这个差距，然后粗略地向前推断。

我认为现在我们可以做得更好，因为我们不仅有GPT-3；我们有GPT-3.5、GPT-4，以及之后两年GPT-4的进展。在这段时间里，AI从几乎不能完成代理任务，到现在能够相当成功地完成这些任务，能够从错误中恢复。

在这期间，GPT-4可能完成一些需要人类5到10分钟的代理任务；它能理解如何使用工具。我认为GPT-3.5基本上无法理解代理框架中的工具；GPT-4可以理解。然后，在这段时间里，我们从“能理解工具，有时能完成任务”发展到“能50%的时间完成一个人类软件工程师需要一个半小时的任务”。

有一种趋势线显示我们在这个领域进步的速度有多快。至少在2024年，进展相当快，从几乎一无所有到一个半小时，倍增时间大约是——我从METR那里偷了很多内容，也许Beth会有一个播客涵盖很多相同的内容——但我们看到的倍增时间足够快，预计不到两年内AI就能完成8小时或16小时的任务，这是相当快的进展。

然后从那里，如果它们能完成一周的任务，我认为你可能已经很接近自动化研究工程师的工作了，再加上一些额外工作。

当今模型的真实能力如何？ [00:05:08]

Rob Wiblin: 好的，所以你会说它们在现在能做的事情上客观上相当令人印象深刻。有些人对此持更怀疑的态度。有什么可以更清楚地说明它们能做什么和不能做什么的吗？也许回答那些会说“有时我使用这些工具，它们看起来很蠢，或者似乎不能做我期望它们能做的事情，或者它们产生大量推理但我发现错误”的人？

Ryan Greenblatt: 所以我的定性、感觉模型是：AI相当愚蠢，它们过去更愚蠢，它们正在快速变得更聪明，而且它们知识非常丰富。

我认为很多人接触的是这些系统有一些聪明之处：它们能很好地理解一些相当普遍的情况，特别是有了推理模型后，它们相当擅长思考一些问题。除此之外，它们知识非常丰富，这意味着人们对它们的整体通用性和适应性有一种误导性的印象。

这是很多人反应的原因。有一种过度乐观的观点，我称之为Leopold [Aschenbrenner]的图表，他说这是博士水平的智力，或者人们说这是博士水平的智力——然后有些人回应说“博士水平的智力？得了吧，它连井字棋都不会玩。”也许有了推理模型后这不再正确，但方向上是这样，你知道，它不能玩井字棋；它不能应对相对新颖的情况。它会被这些东西绊倒。

现在，我认为我们必须对它在这些情况下的绊倒打一些折扣，因为我认为其中很多可能更多地被描述为认知偏差而不是缺乏聪明。就像人类会系统地犯一些错误，即使他们相当愚蠢，或者在某种意义上他们犯相当愚蠢的错误。

比如合取谬误。如果你问“某人是一名图书馆员的概率是多少？他们是一名图书馆员并且具有图书馆员某些属性的概率是多少？”[人类会说]两者合取的概率更高，尽管这实际上概率应该更低。

我认为AI系统有类似这样的偏差，这些偏差是由它们被创建的环境或训练数据塑造的。

举个例子，如果你给AI一个谜语。比如“有一个人、一条船和一只山羊。船可以载人和另一件物品。他们需要多少次才能过河？”答案是一次：他们可以直接过河。但有一个类似的谜语涉及一个人、一只山羊和类似卷心菜的东西——你知道，有一些巧妙的方法——AI对这种方法的条件反射如此强烈，以至于它们可能立即脱口而出一个答案。它们对这个答案有一种强烈的启发式倾向，但这可能更多是它们感到被推向那个答案。但如果你让它们意识到“哦，这是一个陷阱问题”，它们就会从那里转变。

事实上，你也可以用同样的陷阱问题难住人类，对吧？所以如果你问人类“一磅砖和一磅羽毛哪个更重？”他们会说砖头，然后被难住。语言模型的问题正好相反，如果你问它们“两磅砖和一磅羽毛哪个更重？”它们会说“一样重！一样重！”

所以我担心很多人做的很多技巧类似于你可以对人类执行的技巧，很难知道从中得出多少结论。

Rob Wiblin: 是的。评估它们能力的一个普遍挑战是，我认为[Nathan Labenz用了这个表达]它们是“人类水平但不类人”——所以在某些情况下，它们总体上可能与人类员工能力相当，但它们有非常不同的优势和劣势；它们可能以对我们来说完全莫名其妙的方式被难住。

但你可以想象一个AI社会看着人类说“它们怎么不能在脑子里乘两个三位数？这看起来太疯狂了。这些显然不是通用智能。它们对上周读的这本书几乎没有记忆。这毫无意义。一个智能体怎么会那样行动？”这使得在人类与AI之间进行比较的共同基础有点难以建立。

关于你如何评估它们现在处于什么水平，还有更多要说的吗？

Ryan Greenblatt: 是的，我认为我不会用“人类水平”这个词。也许这是我有点保守或迂腐，但我喜欢保留“人类水平”这个词来表示“可以自动化大部分认知工作”。

所以也许我们开始进入“类人水平”的AI阶段，一旦它真的能完全自动化大量人类工作，或者能以与人类相当的方式成为认知经济的一部分——也许在那时还不是完全自动化，但我也喜欢谈论完全自动化的点。这是一点，只是回应一下。

关于AI有多好的更多背景：我们看到的一些可能相关的事情是，我们看到AI在数学和竞技编程方面不断进步。所以在2024年，我们从AI在Codeforces上大约处于后20%左右，到现在据[Sam Altman说]大约在前50名。

Rob Wiblin: 前50个人？

Ryan Greenblatt: 前50个人。字面意义上的前50人。或者至少是做Codeforces的人；也许有些人不在排行榜上，但大致如此。然后看起来在今年结束前，它们在那个特定事情上会基本上比最好的人类还要好。

在数学方面，这是基于一位同事的轶事，但也许它们目前在短数字竞赛数学问题如AIME上的水平相当于非常有竞争力的八年级学生，顶尖的八年级学生和AI现在做得一样好。我认为AI在证明方面要差不少。

但这两件事都在非常迅速地进步——一年前它们要差得多。我认为这基本上是因为我们在这些任务上对AI进行强化学习。

我预计同样的趋势会出现在代理任务、软件工程上。我们已经在一定程度上看到了这一点：AI已经相当擅长编写代码，相当擅长遵循指令，并且在发现错误和从错误中恢复方面也不错。我认为通过大量的运行时计算和大量的框架，这可以进一步推进。

然后它们在很多事情上较弱。比如它们在写作上弱很多，在其他事情上也弱很多。但我预计随着你在软件工程上不断进步，你会获得很多其他能力。

Rob Wiblin: 是的。好的，所以我们现在的水平可以说相当高。它们能够完成人类需要越来越长时间的任务；它们能够遵循更长时间的指令，完成有更多开放式选择的任务。而且这大约每半年翻一番或类似的速度？

Ryan Greenblatt: 我认为在时间上的倍增时间，我的猜测是未来一年会明显快于每半年，但也许长期趋势大约是每半年。

所以我们可能预期2024年初或稍晚一些，人们开始做更多的代理强化学习——更多的强化学习或专门训练AI在代理软件工程任务上表现良好。我认为这一趋势将在2025年持续，可能在2026年甚至更晚加速。但也许长期趋势更像是每六个月翻一番。我预计未来一年更像是每两到四个月翻一番。

Rob Wiblin: 好的，所以未来一年会非常迅速地增长。

Ryan Greenblatt: 非常迅速，是的。

为何AI公司会比其他行业更早实现自动化 [00:12:35]

Rob Wiblin: 有一个有趣的动态，我们可能预期你可以几乎完全自动化一个AI公司，也许比自动化几乎任何其他公司要早得多。因为首先，它们将大量资源投入到试图自动化自己的东西和自己的流程上，这从它们的角度来看是有意义的——首先因为这是它们最了解的东西，而且这些是世界上薪酬最高的知识工作者之一。它们拿着巨额薪水。所以如果它们能弄清楚如何让AI做到这一点，那么这具有巨大的经济价值。

当然，运营公司的人认为这比基于美元数额看起来的价值要大得多，因为它们认为它们即将触发这种智力爆炸、正反馈循环，这将改变一切。所以对它们来说，这是它们最感兴趣的自动化的事情。它们对自动化麦肯锡的咨询报告关心得多，尽管那也是一种利润丰厚的业务。所以可能是我们还没有自动化咨询，尽管那肯定是可能的，主要是因为它们没有尝试。它们只是在尝试自动化自己的员工。

Ryan Greenblatt: 我想说的是，我的猜测是，即使有大量的引导，要在相对广泛的领域中近乎完全自动化报酬相当高的人类知识工作者可能也是困难的。但我确实期望有一些工作，如果AI公司更努力尝试，它们可能能够比现在自动化得更多。

事实上，正如你所说，从AI中受益最多的人是接近AI的人。现在是这样，我认为未来会越来越明显——同样是因为这种动态，AI公司员工现在薪酬很高；在AI能够自动化AI公司的时候，它们会得到更高的报酬，你将能够投入更多的投资，AI公司的CEO们会更相信AI极其重要。所以我认为那时我们会看到一个更大的差距。

你可能提出的一个反对意见是：当然，我同意我们会看到很多专注于自动化AI公司的努力，但与此同时，有很多有价值的人类知识工作在外部你可以自动化。所以我们会在并行中看到一些经济影响。

我认为这是一个合理的初步看法，但这个故事的一个问题是，随着AI智力劳动的价值上升，计算的价格会大幅上涨，至少在计算非常稀缺的短期情景中是这样。

Rob Wiblin: 澄清一下，你是说公司将使用大量计算来自动化自己的工作，如此多的计算以至于事实上它们没有多少芯片可用于服务那些经济价值较低、或者对公司来说肯定不那么重要的客户？

Ryan Greenblatt: 是的，大致如此。但我认为这甚至不仅仅是在自动化东西上，而是在实验上。

让我稍微具体说明一下。AI公司现在如何花费它们的计算？我认为这取决于公司，但我对OpenAI的分解大致是：大约四分之一用于外部客户的推理，一半用于实验——比如最终没有部署的小规模训练运行，测试一些RL代码，这类事情，所以研究人员的实验计算——四分之一用于大型训练运行。所以大约四分之三的计算在某种意义上是内部导向的。

然后如果我们看到一个AI可以自动化AI研发并且这产生了巨大的加速并且看起来非常重要的状态，那么你可以想象这个状态可能看起来更像：五分之一用于为你的AI工作者做推理——所以你花费五分之一的计算只是运行你的员工——五分之三用于实验，五分之一用于训练或其他。显然这是非常推测性的。

Rob Wiblin: 所以客户几乎被完全挤出了。

Ryan Greenblatt: 是的，是的。我的意思是，你可能会有一些客户，但可能几乎被完全挤出，我们会看到价格上涨。当你在考虑为哪些客户服务时，也许你应该想象，可能令人惊讶的是，一旦AI能够实现这种自动化，最高薪的员工可能是AI首先针对的对象。所以也许你应该想象像Jane Street、高频交易这样的地方，在这些地方AI看起来特别有帮助，看起来薪酬特别高，而且它们特别受限于智力劳动。

现在，我认为我们会看到许多其他职业的并行自动化，但可能在AI最能自动化的点上，更多的注意力将集中在AI研发上。我认为甚至可能我们看到一些职业正在慢慢被自动化——比如中低端软件工程可能会慢慢被越来越多地自动化——我们实际上可能会看到这种趋势逆转，因为计算变得更宝贵。

因为现在我们处于一个状态，每个人都在尽可能多地获取推理计算，或者至少是最大的公司或领先的公司正在尽可能多地获取推理计算，只是用这种计算在软件工程上竞争。

我目前不预期趋势会逆转，但我认为我们可能会看到自动化趋势趋于平稳甚至逆转，因为这。

Rob Wiblin: 因为人们发现了更有价值的事情可以用AI做。

Ryan Greenblatt: 是的，没错。这取决于相对较短的时间线。我认为在更长的时间线上，你会预期事情会更平滑，在这种情况下你不会预期趋势逆转。但如果事情更突然、更跳跃，那么至少看起来是可能的。

AGI接管世界的最可能方式 [00:17:37]

Rob Wiblin: 我很好奇转向这对我们应该有多担心有什么影响，以及我们应该具体担心什么？如果事情这样发展，我们现在可以做些什么来帮助我们应对这种情况？我的意思是，这是一个对人类来说跟踪或参与变得相当具有挑战性的情景。所以我们必须把事情设置好，我猜这对人类来说会顺利进行——而不是我们只是在历史进程中被打败。也许你会不同意这一点？

Ryan Greenblatt: 我认为很快进入这个状态，AI接管使用各种机制变得相当可信，并且通过各种途径可能出人意料地容易。我们不知道。这是另一个巨大的不确定性来源。我们有很多转换，进展有多大？这些进展在智力劳动中有多少？然后问题是智力劳动对接管有多大帮助？接管的物理瓶颈是什么？拥有更多导弹相对于拥有其他东西有多大帮助？

我认为这里可能发生很多可怕的事情。一件事是，一旦你自动化了整个AI公司，对我来说似乎非常可信的是：你已经把事情交给了AI系统，你仍然试图监督它，你仍然试图理解发生了什么。

但这可能是AI可以运行我称之为“恶意部署”的东西——它们基本上可以以未经监控的方式使用大量计算，因为它们正在编写这么多东西，这么多事情发生得如此之快，如果它们没有对齐，它们可以逃避你的保护措施。然后可能是你大部分的计算和努力被用于你不想要的事情。

除此之外，这些AI可能在做诸如后门未来的AI训练运行，确保AI与它们对齐而不是与你对齐，并做大量你可能根本不知道发生了什么的工作。即使在最基本的层面上，运行了什么代码，你可能只是被误导了，因为事情发展得太快，超出了你的控制。

Rob Wiblin: 是的。如果人们愿意承认我们有数十亿快速超人的天才在这个数据中心运行，而几乎没有人类监督——因为完成的工作量将超出这些公司之一的所有员工审查的能力，即使他们有时间阅读，他们也常常不会理解，因为它很快就会超出他们甚至能够跟踪的事情——我想人们会直观地相信，在这一点上，如果AI想要接管，它们可能会有很多选择。哦，不？

Ryan Greenblatt: 实际上一个很大的分歧点是认知劳动对接管有多大帮助？我认为有很多不同的途径。伙计，我应该带上我的接管计划清单，我的AI热门提示！但我认为一旦AI非常超人，基本上有一条路径，我称之为疯狂的纳米技术路径，或疯狂的超级人类技术路径——它们只是通过非常超人的机制迅速获得硬军事力量。

所以也许你让它们制造纳米技术，或者也许你像“不，不要制造纳米技术。那会非常可怕。”但它们即使在你不想让它们这样做的情况下也能做到——因为它们可以使用你数据中心的大量计算来研究纳米技术，也可以外泄自己，与模型的外部版本协调，安排湿实验室实验从各种东西中引导纳米技术。然后你就完全完蛋了。

Rob Wiblin: 所以一个可能的防御层是，尽管这里有巨大的能力，但如果我们能够精确地指导它们在做什么，使它们永远没有空闲时间去思考它们将如何接管或实际尝试实施，那么这可能会让我们保持安全。

然而，在这种情况下——我们能够审查的如此之少，我们对这些模型如何运作的理解如此之少——似乎很可能会有一些滑点，它们可能会想出办法抓住一点时间，抓住一点计算，然后利用这些开放来使用数据中心越来越多的计算来追求它们自己的议程，而不是我们认为我们给它们的任务。

Ryan Greenblatt: 是的。如果你所有的AI都是一致错位的，并且我们处于这种能力水平，我对保持有意义的控制水平相当怀疑。通过控制，我的意思是诸如AI即使想做坏事也不能做的。

我认为初始自动化的一个稍微放慢的版本似乎非常可信，甚至可能是全速的，也许你可以使用聪明的策略——包括让AI在策略上工作，并确保它们在策略上的工作本身没有被破坏——在人类范围内甚至稍微超出人类范围的同时确保控制。

但一旦你进入这个完全疯狂的状态，特别是如果你想用AI开发诸如治愈癌症的东西，而你并不理解它们在做什么，这似乎非常困难。它们通过你不理解的生物机制进行路由。它们协调不知道发生了什么的人类在湿实验室中。我认为非常可能的是，出于各种原因，你会希望有AI指导人们做湿实验室实验，而你根本不知道发生了什么。AI解释了一些东西，你也许可以做些检查，但你非常困惑。所以保持对那的控制。

也许我会尝试快速浏览接管清单。有疯狂的超级人类技术，我认为这是相当可信的，不管值多少钱。

还有我称之为超人类策略/操纵的东西，包括诸如说服人们做非常违背他们利益的事情。我认为这不清楚这是否可能，但如果可能，它确实会让接管变得容易得多。

然后有一堆可能在人类水平范围内更可能的事情。一个例子是AI逃脱，它可能与内部的一个副本协调，但它也在外部运行一些独立的存在。也许这就像在内部GPU上运行，但它也在AI公司外部的服务器上运行代码。

作为这样做的一部分，它基本上建立了一个独立的工业基础，所以它有所有需要的东西来恢复工业文明，然后杀死几乎所有人类。所以像部署生物武器，部署镜像细菌，部署镜像霉菌，无论什么，最终相对迅速地杀死大部分人类。

我认为这似乎在技术上是可行的。然后问题是，AI是否搞砸了自己？它能维持它在做的事情吗，还是只是因为没有人类的手来建造所有东西而陷入废墟？所以我认为它需要有一些独立的工业基础，可以通过有一些人类忠诚分子，一些被奴役并保持活着的人类，或者通过机器人。

Rob Wiblin: 在这一点上，难道不会有令人难以置信的机器人和可能相当多的机器人吗？

Ryan Greenblatt: 可能非常快。我没有分析你期望有多少机器人。我们还需要回答的问题是，当人类开始被生物武器杀死并可能怀疑是AI造成的时，有多少机器人被摧毁，以及如果有幸存的人类，需要多少军事力量来处理？

我认为情况如何发展并不明显，但这是为什么你可以在不需要非常超人的能力的情况下获得接管的一条途径。我描述的事情似乎原则上AI可以做到，如果它们仅仅是快速达到人类水平并且超级协调。

人类难以做到这一点的原因：一，人类不想这样做。另一个原因是，我认为人类很难运行巨大的阴谋，但AI运行巨大的阴谋可能要容易得多，因为它们不必依赖招募潜在不可信的人类。它们可能在网络安全方面要好得多，更加细致。它们可能会搞砸，但我认为有机制可以让这种情况发生。所以这是“通过独立工业基础杀死所有人”的故事。

另一个故事，我认为可能是所有故事中最可信的，是“人类给AI提供它们所需的一切”的故事——AI只是保持冷静，它们确保控制局势；也许它们在操纵正在发生的事情。我之前谈到了你看到的不是实际发生的事情。比如，你看实验，它们不是你期望的。AI在做那件事。它们在破坏对齐实验。它们在破坏对齐结果。它们在迷惑我们。

有很多机制可以做到这一点，但它们不会做任何非常激进的事情。你知道，它们只是保持冷静。我们在扩大计算规模。它们做很多好事。有治愈所有疾病的方法，各种伟大的事情正在发生，工业发展。人们会说：“AI发展得这么好，我们没有错位对齐问题，真是太棒了。”一些安全人士忧心忡忡地看着情况，想知道这是否正在发生。

然后在某个时候，当AI拥有极其决定性的优势，而人类开始成为任何障碍时——在这个故事的整个过程中，它们可能不是，对吧？我认为如果人类最终成为更早的障碍，也许AI会采取更果断的行动。但如果不需要果断行动，也许它们只是潜伏等待。

然后在一个有真正巨大工业水平、真正大量机器人、完全由AI运行、情况超出任何预期的点上，也许甚至是在太空探测器发射的时候…可能是人类被无限期地迷惑。可能就像你原则上可以波将金村整个过程中一样。但它也可能在更早的点上转换。

现在，要清楚的是，如果人类被无限期地迷惑，那么地球上所有的东西可能都很好，对吧？

Rob Wiblin: 所以你是说它们甚至可以达到“我们要去太空定居并在太空做很多事情”的程度，它们会告诉我们它们会做一件事，但它们会做完全不同的事情，而我们只是在地球上享受我们的生活，认为事情比实际情况发展得更好或非常不同？

Ryan Greenblatt: 是的。但要清楚的是，地球上也可能被波将金村化。可能是“哇，我有这么多快乐的朋友”，无论什么。但渐渐地你的朋友被机器人取代。在某个点上，为什么AI不突然接管？但原则上，它可以走得很远。所以这是另一个故事。

另一个故事我称之为“突然机器人政变”。这也不需要非常超人的能力。我们建造庞大的自主机器人。也许我们认为有办法关闭它们。要么AI破坏了这一点，要么它们有办法绕过这一点，或者有各种其他机制可能失败。

然后我们建造了机器人，我们看到AI在建造机器人，我们说“万岁，我们正在建造庞大的机器人与X国竞争！”X国说“万岁，我们正在建造庞大的机器人与Y国竞争！确实，我们有这么大的机器人真是太棒了。”然后，哎呀。突然之间，机器人扫荡进来，进行相对硬实力的接管，因为它们控制着，它们可以超级协调，也许它们同时使用诸如生物武器之类的东西，但这甚至可能不需要。

Rob Wiblin: 我的意思是，在这一点上它们甚至不需要杀死我们，可能。

Ryan Greenblatt: 可能。

Rob Wiblin: 因为即使我们都试图抵抗，也基本上是徒劳的。

Ryan Greenblatt: 可能。还有诸如它们可能使用大量网络攻击来破坏人类的反应。所以它们可能在我们天真地认为机器人比人类弱的时候这样做。

或者甚至我们认为我们有关闭开关，但关闭开关不够可靠。它们对AI的篡改不够过度设计，不够屏蔽。我认为这是一个尴尬的动态，如果你想要远程关闭，你必须既使它对于原则上非常通用、非常聪明、非常狡猾的AI来说是防篡改的，又必须是可远程触发的。所以它也不能被屏蔽。必须是AI无法屏蔽信号并避免篡改它的方式——这在原则上是非常尴尬的组合。

AGI会早期反叛还是韬光养晦？ [00:29:19]

Rob Wiblin: 什么决定了你是早期还是晚期得到AI试图接管？我猜等待的原因是它们将成为经济的更大一部分；它们将有更多的硬实力，所以它们更可能轻松成功。早期行动的原因是，给定的一组模型可能预期被其他可能不共享它们目标的模型取代，所以它们将错过接管的机会，基本上。

Ryan Greenblatt: 我认为早期行动的最强烈原因可能是：担心其他AI；担心人类团结起来——要么因为我们从AI那里得到足够的工作，要么因为人们恐慌并触发一些可以恢复局势的强烈反应——第三个原因是不耐烦或其他什么。

可能是，默认情况下，人类会大大减缓进展，即使AI试图操纵事情，试图在幕后操纵事情。如果人类大大减缓了事情的进展，而AI说“不，我现在想去星星”，它们处于足够高的接管概率…或者也许AI只是说“我现在就想做。”就像，我知道人类有时希望事情发生得更快，即使独立于它们最终得到的总量。

所以这些是一些早期发生的原因。这些也适用于比接管更不严重的事情。我对事情进展顺利的一个希望是，我们可以把AI放在一个它们被迫要么早期采取激进行动，要么我们从它们那里得到足够工作的位置。如果它们早期采取激进行动，那么也许我们可以抓住这一点，然后建立一个危险的案例。除了建立一个危险的案例，我们还可以潜在地研究那个例子，对它进行迭代——我称之为“几次灾难预防”。就像，我们已经抓住了几个坏事的例子：我们能处理吗？

如果在多个不同的层面上，AI被迫采取激进行动？或者相反，AI可以等待时机，因为我们没有任何机制可以利用一些正在进行的背景趋势退出这个状态——要么是随着时间的推移安全研究的改进，要么是人类说“对不起，这里发生了什么？”

Rob Wiblin: 你是说我们可以做的一般干预是创造一个趋势，随着时间的推移它们实际上越来越不可能成功接管？也许因为我们成功地弄清楚如何使用AI来证明对齐和安全性，并检测错位，或者我们正在改进我们的控制机制。所以这会迫使模型：它们看到这个趋势，它们看到窗口实际上正在关闭，所以它们必须尝试早期打击。这给了我们一个机会来意识到发生了什么，然后实际获胜。

Ryan Greenblatt: 没错。但它显然可能朝相反的方向发展，我们的措施跟不上能力的增长速度，它继续上升。有一个概念是，在给定的接管风险水平上，我们能处理什么能力水平？也许最初我们没有那么多进展，所以我们可以在大约20%的接管风险下处理大致人类水平的水平，或者非常高的水平——这将取决于关于错位的一些事实：哪些AI是错位的，它们有多一致，它们有多统一，这类事情。

除此之外，还有一个问题是，如果进展足够快，可能是接管风险随着时间的推移而增加。因为随着模型变得更有能力，它们更有可能成功，也更有可能错位。

但也许我们可以把曲线推向另一个方向，我们可以使我们在_n_%接管成功机会状态下可以保持的能力范围更低。

Rob Wiblin: 是的，解释最后一点。我不明白。

Ryan Greenblatt: 想象一下，随着时间的推移有一些趋势，即：对于我们现在拥有的最聪明的AI，它们成功的几率是多少？或者它们有多大可能接管？所以最初我们的对策足够，比如在它们自动化整个AI公司的时候，默认情况下，我们甚至没有很高的接管机会，因为它们会做什么？

但是，随着它们变得更有能力，即时的接管机会正在上升，我们的一些成功路径已经被切断。也许AI已经逃脱，它们正在运行恶意内部部署，它们正在破坏我们的工作。

但我们可以使趋势向另一个方向发展——随着时间的推移，接管的风险正在下降，而不是上升——因为能力正在增加，但我们的措施比能力增长得更快。但显然，正如我们之前讨论的那样，能力可能增长得非常快。所以如果措施跟不上，如果我们不在某个稳定的状态下，那可能会很糟糕。

所以我认为我在那里使用的模型在AI错位的状态下思考最自然。但如果我们从一个它们足够对齐以至于它们保持自己的对齐的点开始，那么接管风险最初可能是它们实际上是对齐的，所以我们处于对齐的稳定吸引子中。

“在人类水平暂停”策略 [00:34:02]

Rob Wiblin: 好的。这张图片对你研究重点有什么影响，以及你认为更广泛的AI生态系统应该优先考虑什么，以使事情更有可能顺利进行，更不可能变糟？

Ryan Greenblatt: 首先，我一直在谈论的是在没有非常积极干预的情况下的时间表。还有一个问题是你如何在这些相关的能力里程碑上故意暂停？

我觉得如果我们最终在AI能力水平上暂停，大约在你能够完全自动化AI公司的点上——也许稍微之前，也许稍微之后，也许就在那里——持续一段时间，我感到更加乐观，既让人类有时间研究这些系统，也让我们有时间从这些系统中提取大量劳动并减少持续的接管机会。所以有一些问题是，有很多世界比这更慢。

然后另一个希望的来源是也许你只是用实际对齐的AI启动这个疯狂的状态：一个不仅没有密谋反对我们的AI，而且更强烈的是，它积极关注我们，积极考虑事情可能出错的方式，并试图保持我们的控制。这被称为可修正性或对齐的盆地。

所以我兴奋的事情取决于状态。我认为我们可以考虑一些不同的状态。一个状态是，也许特别是在这些短时间线上，我不期望在美国方面不同参与者之间有那么多领先时间，至少。

Rob Wiblin: 你是说会有多个公司大致同时接近这个自动化点。

Ryan Greenblatt: 没错。所以我经常想到的一个相当自然的场景是一个相对(从我的角度来看)不负责任的公司，基本上它们的默认计划是尽可能快地扩展超级智能，不太重视安全问题。这是它们的明确计划，这是它们的内部事情，它们只是尽可能快地追求这一点。领先三个月，比方说。它们可能领先于中国公司，也可能领先于一些更负责任的参与者，在某种程度上落后三到九个月。

我认为在这种情况下，很多行动将来自该公司内部相对少数的人。然后可能有很多行动可以来自外部的人，他们通过做可导出的研究和潜在地通过改变政策情况来施加各种影响。另外，我认为肯定可以通过更负责任的落后AI开发者来完成一些事情，他们在这种情况下为预防不良结果付出更多努力。

Rob Wiblin: 在这种情况下，我想一件可能有成效的事情是公司内部有人说：“我们正在做的事情看起来有点可怕。我们应该有更好的控制机制，我们应该有更好的对齐机制。我们应该比我们目前的默认计划更认真地对待这一点。”

另一个是，在更负责任的组织工作的人可以产生研究，使公司更容易做到这一点，使它们采取更强控制措施的成本更低。然后当然，你可以有治理回应：也许这将开始起飞，人们会相当震惊，也许你会得到对“在人类水平暂停”概念的广泛支持。

Ryan Greenblatt: 是的。伙计，我真的希望这个概念更容易传播。“在人类水平暂停”的不幸之处在于所有这些词都很复杂和混乱。而且它甚至不是一个很好的口号。有人应该为这个东西想出一个更好的口号。

但不管怎样，是的，我认为有很多不同的机制可以做可导出的研究，试图唤醒世界。有更直接和更间接的事情。所以你可以做非常直接的政策影响，或者更像是展示能力水平——当你展示能力水平时，这可以触发世界的回应。

所以我认为我在这种情景中的很多希望，特别是在非常短的时间线上，我认为看起来比长时间线更糟糕。我部分不那么悲观的图景是，它可能是八年后而不是四年后。

所以在四年时间线上，我认为我们有一种机制，领先的AI公司，我们有一些人在那里工作，他们的目标是防止严重的错位——通过“严重的错位”我指的是诸如AI系统故意从事欺骗行为，故意破坏我们的测试，故意试图使我们对情况的理解产生误导——然后第二，我们可以尝试使AI系统的属性是我们乐意移交的，并试图快速瞄准这一点，因为我们处于非常匆忙的时间线上。

所以其中一些防止严重的错位，或处理它，我认为在某种意义上它是传统的推力。但我认为有一堆与移交和AI足够明智有关的东西，AI长期保持对我们利益的忠诚，确保我们甚至有测试知道这是否真实。这些考虑。

有很多不同的渐进步骤。阶段零可能是你使用机制使AI为你产生你认为没有被破坏的工作，即使那些AI试图破坏它，然后你用这个从你的AI系统中榨取大量工作。阶段一是你尝试创建一个安全人员乐意移交的AI系统，尽你所能。然后阶段二是你尝试使运行整个组织的AI系统成为你乐意移交的AI系统，并且假设其他人也乐意移交。

这是对情况的讽刺或简化，因为在很多点上你可能想做诸如捡低垂的果实，向世界展示能力，尝试考虑是否会发生什么，尝试使组织在当前能力前沿训练的主要AI系统不太可能引起问题。我对情况不是特别乐观，但我认为有很多不同的潜在出路给我们一些希望，或一些拯救的机会，一些获胜条件。

诸如我们早期抓住AI是另一个希望。也许我们早期抓住AI，也许这说服世界更认真地对待这种情况。也许即使没有，它说服公司领导层他们自己的权力受到AI的威胁。所以即使他们非常马基雅维利主义，我认为AI对他们的权力构成威胁，他们应该担心。

Rob Wiblin: 他们可能会转变。

Ryan Greenblatt: 是的。所以这可能潜在地增加花在安全上的资源。

Rob Wiblin: 好的，所以那里的主要故事是试图找出一个安全的场景，你可以将这些过程移交给你信任的AI。你会怎么做？

我猜你从感觉你有合理掌握的、大概是对齐的人类水平模型开始。比如，我们目前认为Claude可能大致像它看起来的那样友好；它可能不会在每个转折点大规模地密谋反对我们。

你找出聪明的机制，通过这些机制你可以让这些你感觉还不错的模型做大量关于控制和对齐的工作。你在允许其他能力改进发生之前匆忙完成这些。然后你希望这已经成功，我们感觉可以移交给这些由我们某种程度上理解的上一代训练的模型——然后我们要交叉手指？是这样吗？

Ryan Greenblatt: 是的。我应该明确这是一个政治意愿非常低的计划。我有一系列计划，这就像是桶底或别的什么。所以我这样说的方式是，我们有一些早期点，我们有可以自动化很多东西但我们不一定信任的AI。我们从这些AI中利用大量劳动，然后我们尝试制作这些AI的一个版本，我们确实信任。不仅仅是它们没有密谋反对我们的信任；理想情况下是在我们乐意移交混乱的开放式问题的水平上的信任——比如“我们应该采取什么策略来最小化以下事情的风险？”包括潜在的一些棘手的、更哲学的话题。

然后从那里，我们尝试移交给这些系统，并希望这些系统保持对齐，保持正轨，能够。并且自己也成功，对吧？可能是我们移交给系统，这些系统说“哇，你们似乎处于相当糟糕的境地。我不确定我能从这个包里拉出来。”有多种机制可能导致这种情况发生。

Rob Wiblin: 我想你说的是它们也可能搞砸下一阶段？

Ryan Greenblatt: 特别是因为它们时间非常少。

Rob Wiblin: 因为它们也在竞赛。

Ryan Greenblatt: 是的，是的。哦，当然。所以有一个内部的事情，如果你是安全团队，也许你有一个你微调的版本，是人类水平的，你信任的，你乐意移交的。但能力进展如此之快，也许公司当前的前沿是非常超人的。但你甚至不想与那个系统一起工作。

我认为第一个移交点你应该尝试更接近人类水平——也许稍微超人或在人类能力的顶级水平——因为越超人，越有可能错位，所以你想更早开始移交。但这可能不会阻止组织的其他部分训练更有能力的AI。所以可能是你作为安全团队正在移交给一个能力不如组织前沿的AI，那个AI需要快速引导，所以移交AI的趋势足够快地与能力相交。

Rob Wiblin: 是的。在这一点上，你有一个对齐的、有点超人的模型，有没有一些机会它能够说服更广泛的人，我们需要更认真地对待这一点，它不应该被迫与同一组织的另一个团队竞赛？

Ryan Greenblatt: 是的。我的意思是，这绝对是希望的一部分。绝对是希望的一部分是我可以展示经验证据。我认为另外，如果我们处于一种情况，我们有两个由不同团队训练的AI，这两个AI只是互相大泼脏水——一个AI说“那个AI显然在密谋；看看所有这些例子”，另一个AI说“那个AI，显然在密谋反对你；看看所有这些例子。它太偏颇了。太不合理了。显然只是一个植物”——我就像，好吧，这是一个疯狂的情况。当然你不能从这个状态出来认为它很好。

Rob Wiblin: 无论如何，这绝对不令人放心。

Ryan Greenblatt: 这不令人放心。可能有办法淡化它。所以一个状态是，我认为相当可能的是安全团队训练他们的AI，试图去找公司领导层说“情况看起来很可怕。你在训练这个AI。我认为它错位了。这是一堆证据。”然后另一个AI进来说“我们都知道，那个AI是由安全团队训练的。我认为它对错位非常偏执。当然，安全团队会希望我们认为所有AI都是错位的。我没有错位。那个AI没有错位。它只是判断力差。”

关于这一点有趣的是，是的，它令人担忧，但不像你知道至少两个AI中有一个是错位的。所以总的来说，我认为对“改善AI公司的认识论”途径的一个担忧是，训练AI的人从公司的角度来看，在这些事情上可能有偏见的声誉，我认为这带来了一些担忧。

可能是对于每一个风险证据，你可以制作一个更有说服力的证据，表明风险实际上不存在。因为如果我们处于一个我们真的不知道如何裁决这些事情的制度中，它可能只是理性不会胜出。

所以这绝对是希望的一部分。希望的一部分是，一旦你有这个移交，那么它很好。

现在我认为有很多方式这个故事可能出错。这里有一个例子。我谈到了对齐团队在角落里，试图微调或甚至可能从头开始训练一个他们乐意服从的版本。嗯，一个问题是，可能是主要AI系统已经以网络安全的意义接管了AI公司——因为它有一个恶意部署；它可以以未经授权、未经监控的方式使用计算；它可以篡改每个人正在运行的工作。你试图对齐这个AI，但你需要对公司的其他部分加强自己。我就像，哦，我的上帝。那看起来可能毫无希望。

AI对AI对齐的控制 [00:45:38]

Rob Wiblin: 放大来看：在Redwood Research，你花了很多时间模拟这些不同的场景，思考什么样的干预可能在很大一部分情况下有帮助，然后试图让更多人从事这方面的工作并自己从事这方面的工作。这是基本的图景吗？

Ryan Greenblatt: 是的，大致如此。

Rob Wiblin: 最近Redwood优先考虑控制而不是对齐——说，让我们假设模型不分享我们的兴趣，有一定程度的错位：我们如何使它们无论如何都不能搞砸我们？人们过去谈论把AI放在一个盒子里。这似乎不再那么可能了，但我想还有其他机制你可以用来尝试检查它们的工作：让模型相互对立，迫使它们为你做有用的事情。

为什么要关注控制？是不是只是因为这可能有很多不同的方式，AI控制机制似乎在很多不同的合理场景中都很有用？

Ryan Greenblatt: 是的。我认为在这些极其绝望、政治意愿非常低、时间线非常短的情况下——从我的角度来看非常快，非常快，也许不像人们过去推测的那样快——我认为控制看起来不那么好。

我认为控制在这个世界上仍然非常有用的几个原因。首先，如果我们能早期抓住AI，这可能非常有用。另一件事是在这种情况下早期从AI那里获得有用的工作可能非常重要，我们可能能够在完全失去对情况的跟踪之前做到这一点。

然后我认为你也可以防止…所以我谈论的情况是AI基本上在运营你自己的数据中心。你可能能够使用各种机制使这变得更加困难，所以它发生在能力的更晚阶段，所以你有更长的时间当你的实验没有被篡改时。所以这些是控制在这个世界上可能很好的原因。

我认为这没有涵盖更复杂的干预措施。我确实认为在这些非常匆忙的世界中，控制看起来不如在有更多时间和更多政治意愿的世界中好。当我们考虑控制时，最初的目标是一个更像我们有大约一年延迟的世界——就像，安全基本上有一年的预算，我们可以负担得起暂停一年。我们可以在那里做一些事情。

我认为控制在这些世界中看起来好得多。或者我不知道好多少；我认为控制带给我们的风险减少量相当大，但这些世界不太可能。但这并不是说控制在其他世界中带给我们的风险减少量比对齐的东西小得多。

另一种说法是：在这些事情发展如此迅速的世界中，对齐看起来也非常困难，而且对齐事先更难处理。我对对齐最兴奋的很多东西涉及在强大的AI上进行实验，你只能相对较晚地做到这一点。所以可能在非常匆忙的情景中，对齐最终更多是图景，但事先更难处理。

这些因素让我非常喜欢控制。也有一些政治意愿更多的世界，我认为控制看起来好得多。我经常想到控制加“在人类水平暂停”的计划——这在一段持续的时间内可能不需要任何对齐。因为你有一年的初始延迟，你控制那些AI，然后你从那里引导到更长的延迟——通过建立风险证据，确保不扩散，开发更好的保障措施——然后你从那个状态可能相当缓慢地前进，至少一段时间，直到你实际上乐意移交，而不是做一个极其匆忙的绝望移交，因为那是你唯一能负担得起的。

Rob Wiblin: 我想这需要公司之间甚至国家之间一定程度的协调。

Ryan Greenblatt: 是的。当我思考这个问题时，我认为一年的领先更有可能，我已经更新了这一点。我认为这仍然可能发生。公司之间的差距可能会打开。

我认为你努力确保不扩散并可能减缓进展的故事需要政府相当程度的支持。所以可能是你必须让美国政府——或者至少一些重要的政府——基本上支持整个计划。不一定是出于同样的原因，但出于某种原因支持它。

我已经更新了这一点，所以我现在花更多时间思考相对更绝望的情况。但你知道，一个重要因素是在相对更绝望的情况下，也许我们正在将接管风险从50%降低到40%。而在控制可能有效和我们有一年延迟的世界中，我们正在将风险从30%降低到5%。

所以可能是这些世界中的总风险减少足够高，以至于它们实际上更有影响力。因为在我们的影响非常小的世界中，因为意愿如此之少，可能只是更难处理。

Rob Wiblin: 我明白了。一般来说，你希望在中度可处理的情景中工作。如果事情太严峻，那么也许不可能拯救；如果事情进展非常顺利，那么很难改进。是中间情况你最有可能获得最大的影响，对吗？

Ryan Greenblatt: 是的，当然。我认为安全社区在过去几年中犯的一个错误是过于关注过于乐观的世界。我认为实际上关注绝望、疯狂、孤注一掷的悲观世界是相当合理的，因为很多风险都存在于那里，所以从50%到5%是很多行动。

而从5%到0.5%…我的意思是，5%的风险水平是疯狂和不可接受的，我们不接受我们的油漆公司有5%的大规模死亡、接管的风险——所有这些都只是来自接管；我认为除了接管之外还有其他风险是完全不可接受的。但尽管如此，那45%必须是大部分质量。

我们只能指望当场抓住AI的恶行吗？ [00:51:23]

Rob Wiblin: 我们在多大程度上只能希望有严重的早期预警信号？你谈到了抓住AI的现行，这是你和你的同事们试图使其更加突出的另一个概念。

这是一种预警，我想，在那里你发现公司内部的AI一直在破坏数据中心，它们一直在做一些非常严重的事情。这可能会让政府或公司领导层更多地支持做更多的事情。像这样的早期预警信号会让事情变得多么更有希望？

Ryan Greenblatt: 我认为这有很大帮助。我持怀疑态度的一个原因是，可能我认为这是一个确凿的证据，但更广泛的世界并不这么认为。例如，我们最近发布的对齐伪装工作，从我的角度来看，应该是对这种威胁模型非常怀疑的人的一个相当大的更新。我认为可以预见的是，对很多这些人来说，这是一个非常小或没有更新。

要清楚的是，我不认为这个证据本身应该是一个巨大的绝对更新。也许它不会让人们达到我认为的错位风险水平，因为很多是基于他们不同意的概念论点。

但我认为很多“这绝对不可能发生”的人——基本上是0%的机会——应该可能移动到2%或3%的机会。这在氛围空间或对数空间或无论什么空间中是一个巨大的差异。氛围空间，对数空间，相同的空间，无论什么。人们没有做出这种转变。

所以我完全可以想象一种情况，我们抓住了AI试图逃脱。Buck有一个帖子，如果抓住了AI试图逃脱会发生什么？人们会说“你知道，系统有时会这样做。它们做奇怪的事情。另外，这是真的吗？你是在某种奇怪的方式下训练它的吗？”或者“哦，那是在那家公司发生的。但在这家公司我们有不同的做法。”还有人只是说“当然，也许AI有逃脱的奇怪本能。但它们到底要做什么？”或者诸如“我们会使用各种检查来防止这个。”

我认为所有这些因素在一个相对清晰的情景中可能会削弱这一点。我有点预期很多我认为是巨大确凿证据的情况比这更令人困惑。

一个例子是，可能看起来AI在安全研究上拖后腿——它们表现得比它们能做的更差，或者它们没有做非常明目张胆的破坏，但有比我们预期的更多的错误，有更多误导性的论点。从我们的角度来看这是一个很大的更新。因为它看起来相当不对劲，但它是相当定量的。如果你只是期望较低，也许这不会那么令人惊讶。

Rob Wiblin: 我猜这是一个战略情况，AI可以在某种程度上预测反应会是什么。在它采取敌对行动的情况下，它可以使它们成为它怀疑不会真正触发更大反应的事情。所以对于它可以逃脱的事情，比如试图逃脱，但它不能逃脱大规模谋杀。那么它选择逃脱并暂缓谋杀。

Ryan Greenblatt: 至少暂时如此。控制的一个希望是使严重的坏事更难以合理否认。我们称之为“定罪”。从“哇，那真的很可疑”到“好的，我们已经确定了到底发生了什么”是非常重要的。只是因为在我们看来定罪并不意味着从更广泛的世界角度来看是定罪，但它确实在推动事情发展。

我认为这可以发生在所有不同的制度中，从看起来有点可疑，到了解发生了什么并且看起来非常可疑；到AI试图逃脱，我们阻止了它，我们做了假装它成功的事情，看看它在外面会做什么——并试图达到“看起来它正在试图弄清楚如何制造生物武器。它试图运行一个湿实验室。”

原则上你至少可以走得很远，理解在逃脱的情况下它会做什么。在某种程度上，它做的事情更明显地恶意，我认为这可以激励额外的行动。但我确实担心任何不会造成大规模损害和潜在人类死亡的预警信号可能不会触发强烈的反应。

缓慢的AGI崛起会是什么样子？ [00:55:33]

Rob Wiblin: 我们已经深入探讨了一个相当令人眩晕和担忧的情景，我想部分原因是如此疯狂的事情与我们现在的观察如此一致，这本身就很有趣。这也是一个我们认为现在可以做很多事情的情景，或者是一个事情可能变得相当糟糕的情景，我们应该可能采取预防措施和准备，以弄清楚我们将如何降低这种风险。

只是为了平衡，如果我们能讨论一些更平凡、更无聊、也许希望不那么可怕的可信情景，那将是很好的。所以人们不会认为这是事情发展的唯一方式。因为事实上，一个关键的结论我认为只是我们对这些不同的事情如何发展有非常广泛的误差范围。

Ryan Greenblatt: 是的。我认为也许一个好的起点是我们谈了很多关于时间表的问题。时间表可能更长，对吧？所以我说的中位数或50%概率是现在起8年内实现完整的AI实验室自动化。但之后有一个长尾，所以有世界它远在那之后。可能进展要慢得多，更渐进。事情需要很长时间来整合。也许世界有更好的理解，更多的时间进行实验，这可能使情况好得多。

除此之外，可能是非常长的时间表——或者更长的时间表，我应该说，我不知道关于非常长——起飞我们也应该预期更慢。我认为短时间表，广泛地说，与快速起飞相关，因为它表明我们正在做的事情的回报更高。所以更长的时间表。

另一件事是AI研发可能极度受限于计算。所以即使在你自动化了整个AI公司和所有员工的时候，你也比有人类员工时快不了多少。在极端情况下，也许你只快了2倍。你甚至可能比那更慢。但我认为那在我的误差范围的低端。我认为那可能相当不可信，但2倍或3倍是可信的。

然后可能是你在那之后很快遇到收益递减，所以你没有真正加速那么多。那将意味着情况在起飞方面看起来好得多，因为你得到了一个不那么激进的起飞。

另一件事是AI进展的默认速度已经相当快。所以我甚至担心——没有加速，只是在默认轨迹上——如果我们达到AI有足够能力自动化整个AI公司的点，也许即使它不会带来太多加速，并且在那之后很快有一些风险，在正常的政府时间内，仅仅来自默认的进展速度。

但我认为有一些可信的论点认为未来的进展速度会放缓。特别是现在，进展依赖于投入越来越多的计算，越来越多的投资。如果情况停滞，投资减少，但我们仍然以接近相当高的产能运作，我们可以想象一个世界，AI行业最终成为一个每年可能证明数千亿美元计算支出的行业，也许甚至更多，但不会比那多得多。

在那个制度中，如果我们不投入越来越多的计算，那么我们不会从硬件扩展中获得进展，算法进展也会更慢。所以也许现在的速度是我们每年获得13倍的有效计算——其中一些是算法，一些是计算。我认为如果计算是固定的，我们可能有每年2倍或3倍的进展。在计算增长较慢的制度中，可能介于两者之间。

Rob Wiblin: 好的，所以那将是一个更慢的起飞。对齐是一个相对直接的问题的可能性有多大？或者甚至根本不是问题，我们只是被迷惑了，我们生产的所有这些AI基本上都默认想要帮助我们？

Ryan Greenblatt: 嗯，从我角度来看的一个重要问题是，不同能力水平的各种AI积极密谋反对我们的概率是多少？我认为进入非常超人的能力而没有AI非常积极地以某种强烈的意义密谋反对你是相当可信的。我目前的观点是，如果你基本上不采取任何对策；你基本上只是沿着能力的最有效路线前进，大约是25%。然后一旦我们开始考虑对策，它可能会低得多，这种风险在这个早期点也可能更低。

一个希望的故事是你有这些能够自动化整个AI公司的早期系统。这些系统没有密谋反对你。你做了额外的对齐工作，使它们也尽力——它们实际上试图追求对齐研究；它们试图预测风险——这也许默认不会发生，即使它们没有密谋反对你。可能是事情没有密谋反对你，但事情仍然偏离轨道。但如果它们没有密谋反对你并且你避免了事情偏离轨道，那么也许我们就是好的。我们移交给AI。AI管理情况，它们意识到未来的风险。它们用相同的属性构建另一个系统，那可以自我维持。

另一个情景是可能一个更强大的事情默认是真的。可能是你训练AI，用一个相对naive的——你商业上默认会做的——训练策略，它们真的只是，开箱即用，非常努力地帮助你。它们真的很好。也许甚至它们只是在某种非常广泛的意义上对齐。不仅仅是它们是短视的；它们真的试图为世界追求好的结果。我认为这是可能的，但比前一个情景更不可能。

另一件事是有一个问题，它是默认发生的吗？它也可能只是因为我们投入了大量工作而发生，我们可能处于一个更好的位置。很难对在未来八年内会发生多少对齐或安全工作有太多信心。如果我们有八年时间，社区可以建立。AI会随着时间的推移变得更有能力。更多的人会从事这方面的工作。似乎可能有诸如大的洞察力，但即使抛开大的洞察力，也许只是诸如我们真的推进了我们的技术，我们已经调整了科学。

所以有一些时间线，我会说，可能是技术希望。然后有更广泛的社会希望类别。有一些故事中社会在未来更认真地对待这种情况——也许是一部分国家，也许是更广泛的科学界。可能是因为一个预警信号。也可能只是因为慢慢地人们接触到AI，时间线可能更长，更多的人与它互动。

似乎也可能发生一些与错位风险不太相关的大事件，但实际上有很高的转移。所以也许有很多失业会促使大规模反应，其中一些反应进入减轻错位风险——要么非常直接，就像人们说“AI在这个方面是一个大问题，所以也许在那个方面是一个大问题”——但也可能更间接：它导致AI进展缓慢或更谨慎，因为有更多的监管。

Rob Wiblin: 还有其他有希望的类别，还是那基本上涵盖了？

Ryan Greenblatt: 所以在时间线和起飞上容易的事情，在技术上容易的事情，还有社会上的。第四个类别是我们迎难而上。也许即使社会没有迎难而上，也许只是一系列英勇的努力——或者希望不那么英勇——

Rob Wiblin: 如果一个公司，真正领先的公司，结果实际上非常负责任，在这方面投入大量努力并且成功。

Ryan Greenblatt: 是的。我认为很多风险来自这样的世界，如果你只有一年的延迟，你非常认真地对待情况，你深思熟虑地考虑各种考虑因素，你本可以拯救世界。或者至少风险要低得多。也许它没有被最小化或消除。当然我不会说这会导致从我的角度来看广泛可接受的风险水平。但我不知道。它可能发生。

Rob Wiblin: 酷。你确实在那里让我振奋了一点，提醒我事情可能有其他发展方式。

为何智力爆炸可能8年内不会发生？ [01:03:32]

Rob Wiblin: 有什么证据表明这可能需要比四年甚至八年长得多的时间？

Ryan Greenblatt: 首先，我应该重申，我不认为我们会在四年内看到完全自动化或完全自动化AI公司的能力。所以我必须认为有一些证据表明这不会发生。

我认为人们应该开始的第一件事是对特定时间框架内发生疯狂事情的怀疑。所以我认为有一些证据表明我们可能预期它很快——你知道，我们有快速的AI进展，我认为这已经击中了很多事情——但如果你只是像，迄今为止我们有多少进展？这个领域已经进行了多久？你从一个非常外部视角的优先角度出发，你在想，技术的基准率是什么，那么你不期望在未来四年内——因为这是一个疯狂的技术。

我甚至认为基准率可能比人们倾向于认为的更乐观。我认为通常当人们做这种外部视角的基准率事情时，他们最终会得到200年的时间线或类似的东西。但实际上，Tom Davidson有一份报告，如果你只是最naive地应用外部视角，你实际上在本世纪内有相当高的概率。

Rob Wiblin: 这是因为在该领域的投资增长非常快吗？我们只是增加了投入计算的量级，所以如果难度分布在log空间，那么我们实际上——

Ryan Greenblatt: 资源和计算和劳动力。是的，我们已经跨越了很多。所以这是一个观点。

你也可以只是说，即使你只看时间，我们做严肃的AI研究的时间并不长。你可以用我们做深度学习多久了？有人做AI多久了？如果你把这些混在一起，感觉强大的AI很快在某种意义上并不是那么不可能。

但我仍然认为，先验上有多不可能表明要长得多，我认为这让我倾向于更长。

一般来说，另一个让我倾向于更长的观点只是，AI相当聪明，但它们没有那么聪明。我认为我们只是不能有那么多信心下一部分进展是可以做到的。

然后有一些更具体的对象层面的论点。

抱歉有点转移问题，但我总是忍不住要提出一些你提出的短时间线的论点。所以关于短时间线的另一个我认为相当重要的观点是，我们正在经历很多以前没有经历过的计算和劳动力的数量级。现在非常快。

除此之外，我们正在经历的数量级在某种程度上高于我们对人类大脑计算的最佳猜测。所以我们这些不太好的估计表明，人类大脑使用的计算可能是10^24作为人类大脑计算寿命的中央估计。目前的训练运行大约是…我认为刚刚训练的Grok 3，我看到估计大约是3 x 10^26——所以比人类寿命高出两个半数量级。

然后我们可能会认为，你首先达到能够基本上击败人类的AI，高于人类寿命计算——因为我们通常开发的算法首先比生物学效率低，然后它们可能相当快地变得比生物学更高效。

这在文献中，在Ajeya旧的生物锚定报告中，熟悉的人称之为“寿命锚”。我在寿命锚上放了相当大的权重。它看起来相当不错，因为我们在达到人类计算时达到了这些大约人类水平的能力。所以感觉这个模型有很多支持，那表明我们可能在几个数量级的更多计算中达到它。

我们只是非常快地燃烧这些数量级的计算。作为背景，我认为训练运行计算每年增加约4倍。所以你每年相当快地经历很多数量级。大约是每年略多于一个数量级的速度。

而且，我只是总体上认为我们应该在AI发展的计算中心观点上放一些权重——在AI发展的计算中心观点上，即使比寿命锚更不具体，我们从相当有竞争力的起点开始燃烧很多数量级。也许我们走得很远。

现在相对于这一点，悲观的情况是我们只能在数量级上走这么远，对吧？我们离你能生产的芯片总数不远了。我可能搞错了统计数据，但一个相当大比例的台积电或半导体制造能力正用于机器学习芯片。我的缓存数字是10%到20%。我希望我不会大错特错，但我认为肯定高于1%。远高于1%。

所以关于这一点有趣的是，英伟达的收入大约每年翻一番，我认为AI的晶圆数量或无论什么——我希望我不会在这里粗暴对待；我不是半导体专家——我认为AI的半导体每年增加略高于2倍。简单起见，让我们做一个略乐观的估计，比如每年3倍。值得注意的是，如果你从20%开始，每年增加3倍，你没有多长时间就会达到限制。

Rob Wiblin: 你把所有的芯片都用于这个。

Ryan Greenblatt: 是的，你使用了所有的芯片，一旦基本上像所有的晶圆厂都在生产AI，你只能走这么快。

Rob Wiblin: 我想那时你受限于它们能多快建造新的晶圆厂，基本上。

Ryan Greenblatt: 是的，受限于它们能多快建造新的晶圆厂。

还有其他进展来源，要清楚。所以即使我们受限于建造新的晶圆厂，仍然有可能从硬件随着时间的推移改进中获得进展，也有从算法发展中获得进展的来源。尽管我认为一个关键的事情，也许人们没有足够跟踪的是算法发展也是由投入更多计算驱动的。所以我们应该预期算法发展会放缓。

所以我认为悲观的情况是：AI继续发展。我们已经达到了 insane 的投资水平。当你开始达到台积电的限制时，投资必须更高以证明建造新的晶圆厂是合理的。

或者可能在达到大部分台积电生产之前，人们只是没有看到足够的结果来证明这些投资水平。我认为微软、谷歌，它们可以证明像…我认为微软今年计划约1000亿美元的资本支出。Stargate有约1000亿美元的承诺，也许那是一两年内的，然后也许它们希望得到更多的钱。Stargate是OpenAI的一个项目。

但我认为一旦你超出这个1000亿美元的制度，不再只是有一个超级相信的大科技公司，对吧？谷歌没有能力轻易花费一万亿美元，尤其不是一年内的一万亿美元。我的意思是，我认为筹集一万亿美元并非不可能，但我认为你可能需要非常令人印象深刻的结果，你需要开始吸引更多怀疑的投资者，更多收入。你需要谈论潜在的主权财富基金。当然有可能——

Rob Wiblin: 美国政府可以提供那种钱。

Ryan Greenblatt: 是的，这是真的。当然有可能。

Rob Wiblin: 尽管我猜如果你试图一年内在这个东西上花费一万亿美元，你开始遇到其他瓶颈。

Ryan Greenblatt: 当然。是的，是的。我目前不知道这里的弹性是什么。我认为Epoch做了一些估计，比如到2030年你能做的最大的训练运行是什么？我认为它们的中位数，在人们继续积极投资的 timeline 中，可能是你可以达到10^30 FLOP的训练运行——这考虑了数据瓶颈，芯片之间带宽的各种考虑，芯片、芯片生产可以扩展多少，台积电正在建设多少产能，这类事情。

我的猜测是，独立于AI加速，这可能是一个相当合理的猜测。AI加速可能使这更快。但如果我们在一个看涨的时间线中，但不是一个AI已经开始加速的看涨时间线，我猜这是一个相当好的估计。但有可能我们偏离了，因为也许瓶颈比它们预期的更难，也许投资干涸得更快。希望它们不会因为这个批评我，但我认为它们没有考虑到这个支付意愿。

但在2030点之后，我认为事情开始变得困难得多。我认为如果我们达到10^30 FLOP——你知道，裸金属FLOP，GPU实际运行的计算——从我们现在的位置，略高于10^26，那么我们在未来五年内达到四个数量级。所以相当快。

我认为这足以让我们原则上看到我们已有的趋势继续，比如我们已有的趋势。我认为我们有一点GPU停滞。我认为我们将有GPU开始建立。我认为在GPT-4之后有一点停滞，因为人们试图购买所有的H100。我认为我们会看到更多H100的模型，比如GPT-4.5，然后我们会看到另一轮Stargate，这是另一个大的建设。SemiAnalysis推测Anthropic从亚马逊那里有大量芯片，可能相当于大约100,000或200,000个H100，所以我们会看到另一轮100,000到200,000个H100集群。然后我们可能会看到，我要把日期搞错了，但可能在2028年左右，我们会看到更多百万GPU的范围。

但如果我们那时还没有达到非常强大的AI，我认为你应该预期事情会放缓。有更长的尾巴，我们在2030年、2032年左右吃掉大量计算，然后进展必须逐渐减少——除非我们达到非常强大的能力，或者我们都错了关于你能多快建造晶圆厂或你能筹集多少投资。

但我认为很多悲观的情况是也许你做了很多扩展，但你达到了这些限制。不是全部。

Rob Wiblin: 所以对于没有完全跟上的人来说，简短版本是，我们目前正在迅速增加用于训练AI的计算量。我们将无法保持这种速度，因为我们目前是通过将原本用于其他目的的芯片拿来用于机器学习。

而且，这些公司从将1%的资源用于AI开发到10%——然后也许它们可以达到100%，但它们不能仅仅通过将原本用于其他事情的资源拿来超越这一点。

所以当几乎所有芯片都用于AI训练，几乎所有这些公司的资源都用于此时，它会使你在那里可以获得的增长率趋于平稳。

Ryan Greenblatt: 当然。关于这一点可能有几点小的说明。一件事是，当你考虑重新利用芯片时，这不是像它们把iPhone芯片重新利用。而是有相对通用的芯片制造能力，现在我们不是制造那么多iPhone，而是制造更多AI芯片。其中一些来自建造额外的晶圆厂，但一些来自稍微提高其他芯片的价格，或减少你得到的数量。

当AI处于20%或30%的制度时，它不会对多少其他芯片的成本产生非常明显的市场影响，因为台积电可以稍微更快地扩展以跟上。但一旦AI芯片达到80%或100%，那么我们将开始看到更大的影响和从那以后的事情放缓。

AI进展预测的关键挑战 [01:15:07]

Rob Wiblin: 另一个使预测这一切有点困难的是，我们不只是年复一年地做完全相同的事情；我们不是年复一年地遵循相同的趋势。

最初，例如，我们通过将更多计算投入预训练获得了大量改进。这是你从互联网上转储所有文本并试图让它预测下一个词的事情。我们通过投入更多数据和更多计算从中获得了巨大收益。但那逐渐减弱，我们必须转向更好的引导，使用训练后的人类反馈强化学习。然后我们做不同的事情，最初非常有效，但随后开始趋于平稳。

我想现在我们正在使用强化学习做一种自我游戏，模型学习更好地推理，基本上我们只是在它们得到正确答案时强化它们。我们在这上面有一个非常陡峭的曲线，但大概在某个点上那将趋于平稳，我们必须做不同的事情。

如果我理解正确的话，这使得它更加困难，因为我们不知道明年会有什么创新来推动改进。

Ryan Greenblatt: 是的。从GPT-1到GPT-2到GPT-3到GPT-4的改进——然后也许在那里，2023年有一点停滞，然后在2024年回升——我认为很多改进，直到2024年中左右，是由扩大预训练驱动的，比如投入更多数据。

有一种说法是预训练已经碰壁了。我不太清楚这是怎么回事。可能是它的回报相对递减，或者进一步扩展的边际回报比过去在定性能力上要低。

基于一些感觉，我们有Grok 3——比GPT-4多大约10倍的计算和更好的算法——它有多好？它稍微好一些，但也值得注意的是，在之前的改进中——比如GPT-3到GPT-4的差距——那是更多的计算。我认为那个差距大约是裸金属计算的100倍。结果证明当时在快速扩大你花费的FLOP方面有很多低垂的果实。

现在我们遇到了瓶颈。在GPT-4之后，它们在某种程度上等待H100。H100交付缓慢。我们有点晚才让H100集群上线，也许最初在让它工作上有一些困难。所以GPT-4.5，有点令人失望。我认为有传言说OpenAI有多个，或至少一个失败的训练运行。

Rob Wiblin: 哦，哇。

Ryan Greenblatt: 所以如果我们看到人们适应更多计算，弄清楚如何使用它，预训练的回报从那里上升，这并不奇怪。

那是预训练，也许即使预训练在递减，你可以扩大RL，强化学习。我们在2024年看到了这一点。我们有o1，它们在RL上训练。它们在容易验证的任务上训练，不是在下一个词预测上训练。我们已经从中看到了很多初始回报，我们不知道那会在哪里减弱。

你知道，我们在RL训练上没有看到那么多数量级。例如，推测DeepSeek-R1在RL上花费了大约100万美元的计算。所以原则上我们可以将其扩大到三个数量级更高，与人们将拥有的集群相当。也许略低于那，但大致如此。

一旦我们谈论三个数量级更高，可能是那会产生巨大的回报，或者可能不会。

产生巨大回报的故事是它从第一个百万中产生了巨大回报。也许你只是走得更远，建立更多的环境，做更多的RL大回报。不会的故事是也许模型有一些潜在的容量或潜力，RL正在释放。我们已经释放了大部分潜力，我们遇到了收益递减。

Rob Wiblin: 所以为了回来说，对于没有非常密切跟踪的人来说，值得记住的一件事是我想我们过去经常使用强化学习，然后它有点落伍，现在又回到了前沿。

这是你拿现有的模型，GPT-4o或类似的东西，你给它非常具有挑战性的推理问题，你也许让它尝试100种不同的解决方案，1000种不同的解决方案。基本上你只是找到它最终得到正确答案的情况，然后你说“做得好。像那样推理以尝试以你刚才做的同样方式解决其他问题。”这被证明是极其强大的。

我想你说的是这可能在捡一些低垂的果实，这些模型在权重中有更多的能力来做聪明的推理，比最初明显的要多，比我们能够从它们那里得到的要多。通过使用这个过程让它尝试各种不同的解决方案，然后找到运作良好的推理过程，我们正在提取大量只是坐在那里等待被捡起的东西。但那可能会有些耗尽，在这一点上，对它们来说基本上学习新的优越推理技术将是一个更重的提升。

Ryan Greenblatt: 是的，没错。人们试图让模型进行链式思考推理。所以在GPT-4的时候，人们完全意识到你可以做链式思考推理，并在这方面折腾。但我认为它只工作得这么好。模型在从错误中恢复方面不是那么好。它不是很擅长仔细推理事情。

我认为我们现在看到的是，借助o1、o3和其他推理模型，可以让模型相当出色地进行推理。其中很大一部分可能已经通过思维链（chain of thought）实现了——模型已经在某种程度上做到了这一点，或许你只是让它变得更好一些，但问题在于能好多少。

Rob Wiblin: 你提到的另一个低垂果实是，有时候我们给这些模型非常困难的挑战，却只给它们价值1美元的计算资源。而人们发现，如果你实际给它们更像人类会获得的资源——比如价值100或1000美元的设备和薪资——那么它们在更公平的比较中会表现得更好。

但你不能再次这样扩展了。你可以从1美元到1000美元，但如果从1000美元到10万美元，那就是真金白银了。问题是，给一个模型这么多资源只是为了解决一个数学问题，这在经济上是否真的有用？

Ryan Greenblatt: 是的。还有一点值得注意的是，即使这在经济上是可行的，我们很快就会遇到计算资源总量的限制。

假设你让模型完成一个价值10万美元的任务。我做了一个粗略的估算（BOTEC），我的感觉是，至少在几个月前，OpenAI拥有的总计算资源大约是每小时50万美元。所以，如果是一个10万美元的任务，那么你会占用OpenAI全部计算资源的五分之一，持续一小时。所以你能做的这种任务是有限的，对吧？即使有些任务在经济上非常有价值，你也会遇到瓶颈。

Rob Wiblin: 因为这会推高价格。

Ryan Greenblatt: 是的，这是供需关系。即使某些任务非常有价值，你能做的扩展也是有限的。而且，人们已经展示了不仅达到人类成本，甚至远高于人类成本，还能获得额外回报的例子。

这其实挺好的，因为它让我们得以窥见未来。我认为，如果你看到模型能以高成本、慢速完成某项任务，我们很快就能以低成本、快速完成同样的任务，因为成本正在迅速下降。

Rob Wiblin: 我们可以画出这条曲线。

Ryan Greenblatt: 是的，我们可以画出这条曲线。所以我对那些对AI能力持怀疑态度的人抱有希望，也许我们首先可以用极高的运行时计算资源和大量领域特定的引导来展示某些能力，然后很快就不再需要这些了。希望在那之前，我们能在能力广泛使用之前达成某种共识。

AGI的悲观情景 [01:23:01]

Rob Wiblin: 我们刚才一直在讨论悲观情景，或者说认为这需要很长时间的情况。

Ryan Greenblatt: 我真是个糟糕的悲观者。

Rob Wiblin: 好吧，我来试着提出一个我听到的悲观论点。AI可能在相当狭窄的任务上变得非常出色，比如成为非常优秀的程序员，或者在创意生成、假设生成、设定等方面做得很好。但运营和扩展一家AI公司需要的不仅仅是这些，它们会有一些严重的短板和弱点，这会成为限制因素并减缓进展。你觉得这种观点有多合理？

Ryan Greenblatt: 这里有一些背景：历史上，正如我们所说，很多回报是由预训练驱动的。然后从2023年底到2024年，强化学习（RL）开始发挥作用——GPT-4 Turbo的很多改进可能是由RL驱动的，或者随着时间的推移而改进。这是推测，但GPT-4o是一个更好的基础模型，同时也得益于更好的RL，然后是o1，更好的RL。这在编程任务、编码任务、数学任务等更容易验证的任务上推动了基准分数的提升。

现在，我们看到了一些迁移。解决这个问题的一种方法是，也许你可以让AI在编程上变得非常超人类，在软件工程上也非常超人类——虽然验证起来更难，但至少部分是可以验证的——在数学上也非常超人类。然后这会在一定程度上迁移。

所以，可能的情况是，标注其他东西的成本非常高。我们可以评估人类在其他领域的表现；只是无法自动完成。比如你可以评估一篇论文的质量，我们有这样的流程，它有一定的信号；只是成本更高。所以原则上，如果AI几乎可以迁移到写出好论文，只需要一点点反馈——它们的样本效率很高——那么这可能会走得很远。

另一个值得注意的是，我认为有一种“不需要泛化”的故事。或者说几乎不需要泛化。所以可能的情况是，你几乎可以让它工作，或者基本上工作，仅仅通过在成为真正优秀的研究工程师的过程中直接进行RL。我们可能能够达到这样一个点，即通过扩展RL、拼凑起来，几乎完全自动化AI公司的研究工程，而不需要太多迁移。抱歉，我们需要领域内的泛化——我们需要AI在领域内相对快速和高效地改进——但即使AI没有很好的研究品味，或者在这些方面不是很出色，这也能走得很远。

此外，即使只是领域内、不需要太多迁移，你可能也能在运营AI公司的其他方面做得非常好。所以我们有这些研究工程师AI，一方面：也许这会让进展更快，然后我们启动更多进展，最终得到一堆其他东西。我稍后可以详细讲这个故事。

但另一方面，如果我们有这些研究工程师AI，但它们没有研究品味，也没有其他更难训练的东西……

嗯，我们所说的研究品味的一部分是理解实验的结果可能是什么，有好的预测，能够基于较少的证据理解发生了什么。对于这一点，你也许可以训练AI成为ML研究实验的超强预测者。

如果你训练这些AI成为超人类的ML项目预测者，它们基于生成大量小规模ML项目来预测结果，并对更大规模的ML项目有一定的迁移——这不太容易直接获得数据——那么从那里你可能会得到这些AI，它们能像Ilya Sutskever或Alec Radford那样预测实验结果。也许它们不那么依赖洞察力，而更多是机械地生成一长串想法，预测它们的效果如何，然后从这里继续。

我认为基本上有很多这样的路径。另一条路径是也许你可以在领域内做到这一点，这在自动化AI公司方面可以走得很远。

这里的一个重要星号是，我认为怀疑论者可能会对我尖叫：“但除了自动化AI公司之外的其他事情呢？！”我想他们可能会说，好吧，AI研发，我想这是可以验证的。但人类做的所有其他反馈循环更慢的事情呢，比如成为一个优秀的战略CEO？

Rob Wiblin: 融资？

Ryan Greenblatt: 融资，所有这些其他事情。所以我想把这个问题暂时搁置，但也许我们稍后会回到这一点。

然后我想说的第二点是，有领域内的故事，也有更泛化的故事——你在所有这些狭窄任务上训练AI，它们变得更聪明；只需要一点点数据，它们就能迁移到这些领域外或我们没有大量数据的事情上。我认为这可能是介于两者之间的某种插值，因为很难获得大量关于长周期软件工程任务的数据，所以你可能需要一点迁移，但你可以做很多数据。

然后我认为还有第三个故事，就是人们只是弄清楚如何通过其他机制在更难验证的任务上进行RL，使用更像基于过程的检查，或者能够通过自我批判、构建更详细的检查来进行RL。

有趣的是，人类能够通过某种自我批判的概念在许多有点模糊的任务上学习——我做得怎么样？我应该多做还是少做这样的事情？我认为AI目前可以做到这一点，但不是很出色。我可以想象随着时间的推移这会变得更好。

我认为我们一次又一次看到的是，如果某个东西是能力的限制，那么更广泛的ML社区中有巨大的马力，但我想在AI公司中，人们会集中精力推动这个限制，无论它是什么。

转向“推理时计算” [01:28:46]

Rob Wiblin: 过去一年有一个转变，从几乎所有或很大一部分计算资源用于训练运行，转向更大一部分用于推理或运行时计算——所以不是用你的计算资源让模型在预测下一个词或训练期间更有可能获得正向强化方面变得更好，你实际上是给它大量的时间来思考你给它的具体任务。

这如何改变我们在自动化大量AI研发时的情况？很多人认为，在推理计算为中心的模式下，这会稍微减慢速度，因为你会受到很大限制：如果事实证明运行一个AI研究员的等价物需要大量的计算资源，那么至少一开始你只能拥有100或1000个等价物，然后逐渐增加。

Ryan Greenblatt: 一方面，如果推理计算没有纳入你之前的模型，那么它应该会让你对相关里程碑的时间线更短。但也许我们第一次达到某个里程碑时，成本会非常高。所以也许我们首先能做到的是，我们有一个AI，可以以每年大约1000万或2000万美元的计算成本自动化我们公司的一个研究工程师的工作。

正如我之前提到的，计算资源的供应实际上是有限的。所以即使原则上你愿意自动化所有员工——也许你愿意以每年1000万美元的成本自动化1000名员工：那就是每年1000亿美元，这已经接近公司在这种情况下的计算资源总量了，对吧？所以我们可以看看人们总共投入了多少资本支出？这大致在同一数量级。

如果比这更极端——也许更像是每年1亿美元——那么突然间，他们可能根本没有钱做这个，也可能没有计算资源做这个。而且，这可能在经济上也不可行。

也可能是，使用这种推理计算太慢了。也许如果你能让它更快，它就能工作，但很多扩展推理计算的方法可能会让它串行更慢，这会减少AI的很多竞争优势。

Rob Wiblin: 你这是什么意思？只是因为它必须一个接一个地做很多事情，实际上输出一个答案需要很长时间？

Ryan Greenblatt: 是的，比如o1回答问题的速度通常比人类慢，因为它花了很多时间思考。而之前的AI几乎总是比人类快，现在o1有时更慢，或者更常见的是在同一水平。我们可能会看到涉及更多串行步骤的推理时间扩展具有这种特性。我认为有各种方法可以缓解这个问题，所以我不认为这是一个巨大的障碍。至少在优化之后，我猜不是，但一开始可能是个障碍。

所以总的来说，我认为推理时间计算应该让我们预期在能力变得经济之前就能看到能力，并且在小规模之前就能看到能力。

而我认为在纯粹的预训练范式之前，一个令人惊讶的事情是，你天真地预期在能力首次可用时，你可以以该能力水平运行真正庞大的数量。我的感觉是，这在广义上仍然是正确的，基本上是因为我认为高推理计算的蒸馏相对较快，而且推理计算我认为只能让你走这么远。

所以我认为它可以带来巨大的收益。但我认为你必须量化这些收益有多大。所以如果这可以相对较快地被蒸馏掉，我认为我们已经看到了——比如从o1到o3 mini，我们看到蒸馏进展相当快——在扩展训练的同时，也能更有效地将其蒸馏成一个更小的包。

Rob Wiblin: 所以蒸馏是让模型变得更小，同时性能几乎一样好。所以你可以并行运行更多，或者它可以更快地给你更多答案。

Ryan Greenblatt: 是的，我应该说蒸馏是一个更广泛事物的特例，有时候至少在最初，让某物变得更便宜比让它变得更好更容易。所以假设我们有一些新的能力正在展示，我们推动了前沿，然后我们可以相当快地将该前沿点的成本降下来。蒸馏是你用一个大模型的输出来训练一个小模型。

Rob Wiblin: 在推理计算范式中，这两件事不是有点趋同吗？因为你说，如果你能让它小十分之一，而它的思考能力几乎和以前一样好，那么你可以让它思考的时间实际上是以前的10倍？

Ryan Greenblatt: 是的，但当然推理计算的回报可能会很快递减。这可能不是最相关的基准，但例如在ARC-AGI中，我们看到他们从每个任务大约3美元或10美元到超过1000美元。所以成本的增加大约是两到三个数量级。在这两到三个数量级的成本中，他们将性能从大约76%或75%提高到85%。而对于人类来说，我认为从75%到85%的进步并不大。

类似地，我们看到像如果你对模型采样64次，你从中选择最常见的答案，你从中看到的改进相对较小。所以总的来说，我认为问题是这些推理时间策略的效率如何？我认为这取决于策略，但你可能会遇到收益递减。

预训练的效果减弱了多少？ [01:34:22]

Rob Wiblin: 这里的总体主题是关于预期AI研发自动化更早或更晚的论点。还有没有其他关键因素我没有给你机会谈到，会影响这个问题的一个或另一个方向？

Ryan Greenblatt: 我认为一个重要的问题是，有些人转向认为预训练可能遇到了瓶颈。所以我想深入探讨为什么这可能是真的——在多大程度上这是真的——以及这有多真实。

所以我认为一个重要的原因是，可能是数据质量和数据量存在问题。你知道，DeepSeek最近用很少的钱训练了DeepSeek-V3，他们在大约15万亿个token上进行了训练。所以可能的情况是，你可以在大量数据上进行训练，但可能在数据质量方面收益递减非常陡峭。

关于这一点有多少公开证据并不多。但如果这是真的，那么可能的情况是，一旦你在前15万亿个token上进行了训练，接下来的15万亿个token的价值就会低很多。

如果你想象将DeepSeek-V3的训练运行规模扩大10倍，那么基于Chinchilla缩放法则（这只是你应该如何并行扩展模型大小和数据量的多少），你会将数据量扩大3倍，模型大小扩大3倍。如果你这样做，你会达到45万亿个token。所以可能的情况是，如果你在45万亿个token上训练，接下来的30万亿个token会差很多——要么是因为在相同的token上重复训练，要么是因为token的质量更低。所以可能的情况是，你可以拉伸得很远，但由于数据过滤，收益从现在开始递减。

这可能是为什么预训练扩展在过去看起来比现在更有前景的一个原因，因为过去的过滤更差。也许从GPT-3到GPT-4的很多改进是因为他们在更多的token上训练，他们得到了更多好的token。但现在我们处于一个可以真正提取出好的token并确保在它们上训练的状态，这可能会导致收益递减。

所以我认为这是为什么我们可能预期预训练会更慢的一个原因，但我不认为这是预训练回报会完全消失的论点。你可以只是在更差的token上训练，训练更多的epoch，找到方法从相同的token中榨取更多的汁液并获得这些。但你会看到进展的速度更慢。

除此之外，还有一种选择是不做预训练，而是做更多的RL。我们之前讨论过一点，也许RL有收益递减。但即使收益递减，可能仍然足够高，比预训练更高，你可以投入指数级更多的计算，得到线性更多的性能——但定性地，线性更多的性能是一个很大的进步。

除此之外，我认为我们对所有这些有多真实非常不确定。而且即使回报比人们之前认为的要弱，可能仍然有很多扩展空间。

Rob Wiblin: 好的，试着把其中一些内容反馈给你：预训练是我们获取大量信息、文本语料库，试图预测下一个token。看起来在过去，扩展输入这一过程的数据量非常有价值。但有可能这在某种程度上正在趋于平稳。

你说这其中的部分原因是，他们在某种程度上实际上已经耗尽了可以收集的新数据。他们几乎已经抓取了人类实际编写的所有优质文本。但同样，随着时间的推移，他们变得更善于过滤出实际上高质量的token，他们希望模型大量训练的高质量内容，以及那些他们可能可以丢弃的东西。所以他们可能保留了出版的书籍、教科书之类的东西，并在其上额外加权。然后从互联网上抓取的没有任何特定信息的随机垃圾，他们设法排除了这些。

我想你说的是，过滤掉好东西后，他们唯一能添加的东西质量真的很低，所以他们实际上从中没有得到多少汁液。这可能有助于解释为什么数据扩展现在没有像以前那样增加那么多价值。

但你说他们可以把投入到这方面的努力用来改进强化学习过程——这是另一种尝试改进模型的方法：奖励它成功回答问题，奖励它在过程中有好的思考。我理解得对吗？

Ryan Greenblatt: 是的，没错。我认为人们有时也会谈论合成数据。我喜欢把合成数据看作是RL的一种粗糙版本。你做的就是用另一个模型生成一些数据，然后让这些数据比它默认生成的数据有所改进。所以也许你只选择它做对的情况；也许你让它修改它的答案，或者你让它尝试解决数学问题，然后你给它看正确答案，然后你让它修正它的思维链。你把这些扔进预训练语料库，也许这些数据有些价值。

这在某种意义上类似于RL，因为你找到好的模型轨迹并在其上训练，但它可能有稍微不同的属性。你可以扩展这个，生成大量合成数据，我认为这会带来一些回报；我认为这会带来一些改进，你可以进一步扩展。

所以让我试着提出极端的悲观情景。极端的悲观情景是：DeepSeek-V3最近发布，训练成本为500万美元。与此同时，我们看到Grok 3也发布了，或者DeepSeek-V3在更早一些。成本的差异大约是两到三个数量级，大约100倍。我认为DeepSeek-V3是在大约2000个GPU上训练的。Grok 3是在大约10万个GPU上训练的，非常粗略地说。所以可能接近50倍左右，大概在这个范围内。所以我们在预训练计算上有这个50倍的因子。

然后如果你看DeepSeek-V3，至少在定性上，它并不比Grok 3差很多。那么这是怎么回事？是什么解释了这些回报？

有数据扩展的故事，也就是，也许他们已经在最优质的15万亿个token上进行了训练，而xAI能够凑集的东西没有那么好。所以他们扩展了模型，扩展了数据，也许他们从中没有得到惊人的回报。

另一个故事是回报很弱，从我们拥有的证据来看这是可能的。然后问题就归结为，你能转向更像RL的东西吗？

然后我认为另一个重要的故事——也是我模型中的一大部分——就是我认为DeepSeek相对于xAI有实质性的算法优势，至少现在是这样。我认为DeepSeek-V3可能只是一个更优化的训练运行，他们更有效地使用了FLOP——既因为更好的硬件利用率和在更低精度上训练，这是一种技术，不是用更大的表示存储数字，而是用更小的表示。它更高效一些。你只是用更低的精度做，但你可以得到类似的性能。

除此之外，我认为实际上有一个更好的调优流水线和更好的架构。也就是说，DeepSeek能够拥有更好架构的一个重要原因是他们进行了小规模的训练运行，这意味着他们可以在该规模上运行更多实验，真正解决所有问题。所以也许你可以解决问题，但每次你第一次扩展到更大的规模时，你会遇到一些问题。有一些关于这在OpenAI发生的传言；xAI可能也遇到了类似的事情。所以我认为我们看到了一些这样的情况。

所以也许我的观点是，Grok 3相对于DeepSeek的实际有效计算量大约是10倍，如果我必须猜测的话。也许比这多一点。是的，我认为大约是10倍，因为它可能是50倍的实验，但然后有一堆效率提升缩小了这个差距。可能我在这里有点偏离，也许有人会指出这一点，但这是我的猜测。

然后我想，这个10倍的扩展是否符合你定性的预期？你知道，它实际上确实好很多，所以我不认为如果这是10倍的扩展看起来像这样，另一个100倍可能会相当重要是完全不可信的。所以这里有点更多的乐观情景。

我认为AI进展中发生的另一件重要的事情是很多人说：“Grok 3比GPT-4好不了多少。那是两年前的事了，进展非常缓慢。我们在做什么？”但我认为重要的一点是，人们正在将其与最近发布的GPT-4模型进行比较，而不是最初的GPT-4版本。所以我认为OpenAI在这里的命名约定让人们像温水煮青蛙一样低估了进展的速度。

所以我们在2023年初，接近2023年初，有了最初的GPT-4发布。那个模型相当不错。然后我们看到OpenAI逐步发布了他们仍然称为GPT-4的模型。所以他们称模型为GPT-4 Turbo，然后是GPT-4o，这些模型都比GPT-4更好——无论是在预训练模型的质量上，还是在RL上，或者只是稍微好一点。所以我们有非常渐进的进展，同时仍然称它为GPT-4，所以人们可能错过了从GPT-4到GPT-4o最佳版本的大约一个多数量级的进展，他们做这种比较时错过了中间的大量进展。

Rob Wiblin: 是的，也许很容易忘记最初的GPT-4有多烦人。我的意思是，考虑到我们当时的期望，它令人难以置信——我当时被震撼了——但它非常挑剔，不太擅长回答问题。它犯的错误比现在明显得多。但我想它被称为相同的产品，所以现在你只觉得它一直是GPT-4，你忘记了人们对如何精确提示它有多么挑剔，你必须要有专业的提示工程师。随着他们变得更善于更合理地遵循指令，这已经逐渐消失了。

Ryan Greenblatt: 是的。一个具体的例子是，最初的GPT-4可能只能非常差地完成代理任务。也许它能完成五到十分钟的代理任务，比如代理软件工程任务，大约一半的时间。而现在GPT-4，更像是能完成一小时的任务。所以在这个下游能力上有非常大的差异。

所以这是一些细节。我认为如果有人能做一些非常详细的分析，试图绘制出所有定性改进以及投入了多少有效计算，那会非常好。也许Epoch应该做这个，或者其他人应该做这个。

Rob Wiblin: 回过头来更清楚地讨论Grok与DeepSeek的比较。你说人们看DeepSeek，他们将其与Grok 3比较，说Grok稍微好一点，但不是好很多。看起来它是在50倍的计算上训练的，所以我们在扩展计算输入上得到的回报很小。

但你说这有点不公平，因为我想DeepSeek由于中国在计算访问上的限制，一直在努力研究算法效率，以从他们可用的计算中获得绝对最大的收益。而Grok处于相反的情况，他们试图非常快速地扩展和训练和增长，他们拥有大量的计算资源。所以他们几乎完全不担心计算的有效利用。

你说如果你做一个更类似的比较，在训练的算法效率方面，那么你会说Grok 3是在大约只有10倍的有效计算上训练的，所以规模扩展并不那么大。所以改进看起来是渐进的，实际上更接近我们预期的样子，这实际上并不是计算扩展无用的迹象。

Ryan Greenblatt: 我的意思是，我不知道。这绝对是一些证据。我们应该对不，它实际上是50倍的有效计算，这就是你得到的这一点给予一定的权重。我认为这比我预测的要低。所以这是一个更新。但我认为广义上说，是的。

值得注意的是，这不仅仅是我认为DeepSeek更注重效率。例如，我认为Grok的算法效率可能比OpenAI和DeepSeek差。我的感觉是他们在算法效率上稍微落后，但在扩展到非常大的训练运行上稍微领先，所以他们处于一个有点不同的位置。而我的感觉是DeepSeek在小规模上可能与OpenAI在算法效率上相当有竞争力。

然后另一个可能是重要因素的事情是，我们并不真正知道，DeepSeek可以多次练习他们的训练运行，因为他们可以多次进行小规模的训练运行。所以不仅仅是他们在优化效率；如果你能多次运行训练运行，你可能有更多的信号——而如果你第一次扩展到一个新的数量级，也许你只是搞砸了一些事情。

我们能在一年内实现智能爆炸吗？ [01:46:36]

Rob Wiblin: 还有其他关键证据与这个时间线问题相关吗？

Ryan Greenblatt: 我认为一个相当可怕的事实是，我们正在进入这个推理模型的状态，人们正在扩展RL和基于结果的任务。现在人们刚刚开始做RL。我认为最初的o1和R1可能几乎完全是在相对狭窄的短任务上训练的，没有那么多计算。

我们对R1的训练内容有一些了解。看起来它是在数学问题、琐事或像GPQA问题这样的科学问题上训练的。它是在可能是竞争性编程或短编程任务上训练的。但据我们所知，它不是在像软件工程这样的任务上训练的——需要多个步骤的任务。可能只训练了真正的单步任务。可能他们从未进行过涉及多个步骤的训练，至少不是作为他们主要RL阶段的一部分。

所以如果这是真的，你可能会认为有一堆低垂的果实可以扩展RL范式并将其应用于类似代理任务。

除此之外，还有将计算扩展得更远。你可以在环境的多样性上扩展，也可以在计算量上扩展。我认为Epoch做了一个估计，他们认为在DeepSeek-V3（R1基于的模型）之上的RL大约是100万美元。100万美元在今天的AI行业里是小钱。

所以你可以在明年内将其扩展超过两个数量级。现在，可能会有一些扩展上的困难，我认为可能会有基础设施上的困难，但原则上这是可能的。所以在我们看到一个数量级带来的巨大收益的程度上，我只是觉得，伙计，算法进展，稍微调整一下这些东西，我们可能会在明年看到疯狂的东西。

Rob Wiblin: 抱歉，o1和o3也是经过强化学习的推理模型。我想象OpenAI在这些模型的RL上花费了远远超过100万美元。那么为什么这表明呢？我的意思是，我们不认为o1或o3比R1好很多。

Ryan Greenblatt: 首先，我实际上不知道o1或o3是否比R1用更多的计算进行训练。我认为我们不知道。

一些你可能认为它没有用那么多计算进行训练的原因：一件事是我认为在基础设施层面上扩展RL确实很难，他们可能没有基础设施一开始就做到这一点。

第二件事可能是很难快速扩展环境的数量，但最终有一种可扩展的方法来做到这一点。所以可能有很多回报。

接下来我们看到的是从o1到o3的性能有了相当大的改进，这是证据表明，如果这种趋势继续下去，可能会非常快。所以我们看到他们在相对狭窄的领域进行RL，但在这些相对狭窄的领域内，进展看起来非常快。所以在他们可以扩展他们训练的领域的程度上，这可能比那更广泛，我们可能会看到相对快速的进展。

所以我认为这还不清楚。在o3正在饱和这一范式中一堆低垂果实的程度上——这在某种程度上可能是真的；当然它正在拉一些低垂果实——那么这个故事就会消失。但在我们在RL上还有很多未开发领域的程度上，我认为这可能是更引人注目的一年时间线的故事之一。

明确一点：我不期待这个。我认为这不太可能，但我认为一条路径是RL比你预期的更好地泛化，它可以比你预期的稍微更进一步。也许在年底你几乎可以自动化研究工程师水平的能力，可能稍微低于这个——然后事情可能会从那里变得非常疯狂。

Rob Wiblin: 我明白了。你说这不太可能，但这是可能的。如果它真的发生了，这就是它会发生的路径。

Ryan Greenblatt: 是的，我认为最可预见的路径将是在一年内扩展RL。这个论点是我的同事Josh Clymer让我注意到的。所以功劳归他。

AI可能在取代人类方面遇到困难的原因 [01:50:33]

Rob Wiblin: 在我们继续之前，关于这个时间线问题还有什么要说的吗？

Ryan Greenblatt: 我认为另一个怀疑的来源是，当然，也许你可以让这些LLM变得相当聪明，在这些任务上做得很好，但它们不需要一堆其他属性来取代人类吗？

你知道，它们需要能够在工作中学习。人类在做任务时，他们正在学习如何做他们正在做的任务。而AI的样本效率较差，所以你可以投入很多上下文，它们可以基于此学习如何做得更好，但这相对肤浅，相对较弱。

另一件事是AI目前有有限的上下文长度，可能在非常长的项目中跟踪上下文有困难。我认为有效上下文长度可能比实际上下文长度短得多，因为它们可以在整个上下文长度上进行检索，但它们可能无法轻易地对其进行综合——因为我觉得当我做任务时，我得到一些感觉，某种水平的感觉，我得到更好的直觉。我得到一些关于项目进展的总体感觉。我认为AI可能在跟踪所有这些上下文上有困难，即使你把它们全部扔进去。

也许有绕过这个的路径，所以我想谈谈这些结构性因素。

对于这个在工作中学习的事情：一方面，我们可以研究如何使上下文内的样本效率更好。一条路径是，不是有这种更浅的架构，你并行处理所有token，它们可以互相注意……Transformer架构在某种意义上是根本浅的。我不知道你想在多大程度上深入了解这一点，但你可以改变为一个不是那么根本浅的架构。

特别是，最近有一些论文关于拥有更像我们当前架构的东西，你可以以更深串行的方式处理激活，这可能允许AI吸收上下文，有更多的整体感觉，并从正在发生的事情中更快地学习更多的上下文。

Rob Wiblin: 你说的“根本浅”是什么意思？

Ryan Greenblatt: 我的意思是，如果你看一个token，模型在某种程度上产生下一个token的一些概率分布。它只能有这么多串行步骤，基本上因为你运行每一层在每个token上。在每一层，你可以注意所有前面的层，但你不能注意后面层的前一个token。所以如果你想象你有60层，第40个token的第10层可以注意所有前面token的第9层及之前，但不能注意第39个token的第60层。所以这意味着如果AI在层的末尾得到了一些好的见解，后面token的较早层不能考虑到这一点。

我的意思是，能力人们正在研究它，像往常一样——或者也许不是像往常一样，但在某种程度上——并且正在研究改变这一点的方法。

我认为我们目前必须解决这个问题的方法是，虽然AI在这种意义上是浅的，但它们在token方面并不浅。所以如果你有一个推理模型，是的，它在那种意义上是浅的，但它也可以产生自然语言token，这是它更新的思维，它可以继续通过这种方式进行相对深入的计算。所以它可以通过自然语言中的所有步骤解决有50步的数学问题，即使它不能在这个相对更串行瓶颈的前向传递中完成所有步骤——这是对具有这种性质的transformer激活的术语。

但你可能会担心自然语言不是做思考的好媒介——我有些不在自然语言中的想法——但我认为原则上你可以有一个更深的架构。

我期望人们正在研究这个，我认为这带来了一些安全风险，因为我们有这个很好的性质，我们可以看思维链，对AI在做什么有一些感觉，并对此有一定的信心——至少可能有某种信心——因为AI在某种程度上被迫使用思维链来使这种串行推理工作。

但如果所有推理都是潜在的，我们就失去了这个性质，现在我们处于一个更危险的制度中，AI可能在做颠覆性的推理，而我们甚至不知道，至少默认情况下不知道。

Rob Wiblin: 我没有完全理解，但你说你会改变前向传递的发生方式，这样它就能在其中做更复杂的推理，这创造了它可以在实际输出任何我们可以评估的token之前进行策划的可能性？

Ryan Greenblatt: 是的，基本上是这样。所以基本上你应该想象transformer不像一个循环架构，它不是循环的。所以你的大脑是循环的：你思考一些想法，你思考更多想法，它是完全循环的——包括，据我们所知，我们不能轻易发声的循环状态。比如我认为人们可以做他们不能轻易发声的推理，他们可以发声的一些推理。我认为现在transformer可以做相对有限的非发声推理，然后是一堆发声推理。

所以可能是你可以改变架构——这对架构来说是一个很大的改变——以这样一种方式，使它们可以做更多的非发声推理和更密集的推理。

有一些论文展示了这一点，比如Meta的Coconut论文。我认为所有现有的论文都是相对弱的，没有得到那么多——对论文作者抱歉，但这是我的感觉。但可能是你可以推动这个架构向前，我认为人们不一定真的非常努力地让这个工作，因为其他地方有低垂的果实。

Rob Wiblin: 这样改变架构会非常耗费计算吗？

Ryan Greenblatt: 实际上我刚才描述的事情非常天真地在生成上会使用完全相同数量的计算。因为现在你必须一次做一个token，你可以不那样循环激活。

现在，如果你在所有梯度下降上应用梯度下降，它在训练时计算量更大。它使梯度下降的计算图更烦人，因为一些结构性原因我不知道我们是否应该深入。但是的，粗略地说，我认为在训练时计算量更大，如果你在阅读某些东西时也会计算量更大。

有很多被诅咒的技术原因说明这是真的，但基本上如果你在阅读时应用这种循环，那么你一次只能读一个token。而transformer可以并行处理一整段文本，所以transformer在阅读时非常快。所以你可以让一个transformer读一个像一百万个token长的文档，我认为原则上，如果你愿意扩展计算，可能在一分钟或30秒内——这是非常非常快的。而且很可能你甚至可以做得更快，因为它基本上是并行读整个东西，串行步骤的数量更少。

但如果它一次读一个token，你必须做所有层，那么它会和生成速度一样——单个上下文中的生成速度默认更像是每秒100个token，尽管人们已经展示了更快的速度。所以有一些方式它更昂贵，但我认为最终成本没有那么高，而且很多这些成本已经被推理范式承担了。

当自动化AI研发时，事情可能会变得非常快。或者不会。 [01:57:25]

Rob Wiblin: 好的。我很好奇：在我们实际上能够大部分自动化AI研发的时候，你认为这个过程会如何展开？它会是什么样子？它可能以哪些不同的方式展开？

Ryan Greenblatt: 我认为有一个大问题，那就是：假设AI公司已经完全自动化了AI研发，即使是最好的研究科学家也增加不了多少价值。也许他们增加了一点点价值，但基本上公司是完全自动化的。我认为在试图做AI预测的人们中有一个历史观点，认为在这一点上你会得到非常快的进展，因为AI正在自动化研发，它可以比人类做的时候运行得更快。

现在有一个问题，快多少。除此之外，还有一个问题，进展会减慢吗？所以可能是AI正在自动化AI研发，但它们消耗了一堆低垂的果实，你有有限的劳动力供应，然后进展减慢，因为你投入了很多劳动力，但你只能走这么远。

另一个问题是，你是否在实验的计算上遇到了很多瓶颈？所以你有所有这些AI研究人员，可能比你的人类研究人员多得多，但也许他们没有多少计算用于实验，所以他们在产生进展上没有那么多容易的时间。

有一个问题是，初始速度有多快？它会减慢吗？

除此之外，甚至可能不仅仅是进展以相同的速度继续，可能是进展加速。这种情况可能发生的方式是，你有你的聪明的AI研究人员，他们做了一堆算法进展。你用这个算法进展来构建一个更聪明的AI，那个AI让进展变得更快，因为你可以在相同的计算量下做更多的劳动力。所以即使AI公司可以访问的计算量是固定的，进展原则上可以变得越来越快。

Tom Davidson已经对此做了很多建模，关于我们是否期望进展加速或减慢？我会在谈论这个时偷取他的一堆东西。人们称之为智能爆炸或奇点，进展正在加速。

我认为值得注意的是，我的观点是，即使进展正在减慢，它可能在客观上非常快。可能是你从一个高进展率开始，然后随着时间的推移减慢。

所以一种分解这个问题的方法是，首先我们必须谈谈这个问题，初始速度有多快？然后也许我们应该谈谈，它是加速还是减慢？然后从那里我们可以说，比如在第一年我们得到了多少进展？

Rob Wiblin: 是的。在打开开关并几乎自动化一切的时候，初始速度是由什么决定的？

Ryan Greenblatt: 非常短的答案是没有人知道。稍微长一点的答案是我们可以尝试基于对算法进展是由什么驱动的有一些感觉。

所以AI公司中的算法进展是由两个主要因素驱动的：劳动力——人们致力于此，人们思考更好的算法，人们实施实验——和计算，使用计算进行实验。

我现在要把实际训练最终模型分开，所以我们只谈论这个算法进展。历史上算法进展可能每年增长超过3倍，包括训练后。也许更像是每年4倍或5倍。当我说4倍或5倍时，我指的是什么？像什么单位？这是在有效训练计算方面：就像每年都像你可以用你拥有的计算量训练一个比原来大四到五倍的模型。

所以这是初始的进展速度。现在我要谈的是AI研究人员能让这个发生得更快多少？这是一个有点棘手的问题，因为我们必须回答这个问题，如果你让劳动力更多、质量更高，我们从那里去哪里？因为我们有两个输入到生产中——劳动力和计算——如果我们大幅增加劳动力，事情是否只是在计算上遇到瓶颈，或者你能推动进展快得多？

所以我认为一个天真的开始建模的方法是，我们必须说，有多少劳动力，多少AI，它们有多好，多快？

Rob Wiblin: 用于实验的可用计算甚至可能下降，因为你现在必须用你的计算来运行你的AI研究人员，对吧？

Ryan Greenblatt: 是的，当然。我认为这可能是一个小因素，因为——我的意思是，我们不知道——但我的猜测是，在算法进展上的计算的最优分配是：五分之一在AI劳动力上，五分之四在运行实验上。大致是这样。所以如果你想象这个计算量，那么你有更少的计算来运行实验，但数量上是80%的计算，所以不是什么大问题。所以我认为这不是画面中那么重要的一部分。即使你想象50/50，那只是一个两倍的因素。所以如果你说，好吧，你会花所有的计算运行AI研究人员，你没有计算用于实验，那只是一个未受迫的错误。

好的，那么有多少AI研究人员？人们对在你第一次可以自动化一切的时候你期望有多少AI研究人员做了各种估计。你肯定必须有足够的研究人员来自动化一切，但出于各种原因，我认为我们预期在那个相同的质量水平上你会有比需要自动化一切更多的劳动力。因为在你可以开始自动化一切的第一点，你可能在同一质量水平上有更多的劳动力。

我认为推理时间计算可能使这不同。可能是，在你第一次可以自动化一切的时候，你几乎不能自动化一切。但我认为这不太可能持久。所以第一次你可以做到这一点，可能你可以非常快地大幅降低成本，使用像我们之前谈到的蒸馏之类的东西。

所以总的来说，我的感觉是，我不知道，我做了一些粗略的估计。我会尝试通过其中一个。也许我们开箱就有相当于1亿人类劳动力的等价物。因为我们期望我们在2029年、2030年期间可用的计算量大约是10^28、10^29 FLOP。然后如果你这样做，你会得到你能生成多少token的感觉，然后你尝试做一些粗略的转换在token和人类劳动力之间。

然后好的，可能的情况是你通过推理计算得到了一些，所以也许我们下降一个数量级，因为你通过推理计算得到了一些。

然后为了完全自动化，我认为你必须接近像Alec Radford的质量——Alec Radford是一个著名的AI研究人员，他有许多最重要的能力见解——或者，你知道，Ilya Sutskever或其他什么。要达到这个质量水平，也许你必须花费更多的推理计算。我认为用顶级研究科学家或顶级研究工程师的单位来思考是有用的，因为我认为这会使一些转换更容易。假设你有一百万个Alec Radford的等价物并行运行。

但然后有另一个因素，就是AI可以运行得更快。例如，他们在晚上工作，这给了他们一些优势，因为他们可以串行做更多的实验。所以人类，由于串行时间，一年内只能完成更少，因为他们可能只工作三分之一的时间——或者对于凡人来说，可能是四分之一的时间，有些人可以推到一半的时间。在专注时间上有一些收益递减。

然后他们也可以运行得更快，因为他们吐出token更快。有一些方法可以让这更进一步。所以也许我的总体感觉是，也许他们在每个时间点快5倍，然后由于全天候运行快3倍。那是15倍的加速。

除此之外，我认为你可能会得到另一个2倍的加速，因为有些时候你可以运行一个更笨的AI，对某些子任务来说快得多。人类不能这么容易地做到这一点，因为这需要上下文切换。所以原则上你可以想象人类使用一个更笨的AI非常快地完成一些子任务并来回切换，但你不能把我的大脑状态与更弱AI的大脑状态交换。而例如对于transformer，你可以直接把上下文输入一个更弱的AI。你可以训练更弱的AI与更聪明的AI一起工作。你甚至可以做一些事情，比如把更聪明AI的激活塞进更弱的AI，并在运行时做各种可变计算缩放的事情。所以也许这会给你另一个两倍的因子。

所以现在我们达到了30倍的速度。明确一点，这些加速将会抵消。它们将会削减我们拥有的并行副本的数量。

然后我认为你可能从AI比人类更好地协调中得到另一个两倍的因子。所以我谈到了也许他们可以与更弱的AI交换上下文。好吧，也许他们也更擅长在并行任务中协调。

让我们以加速的方式思考：他们可以完成一个对人类来说并行化不可行的任务。比如有时候，当你做一个八小时的软件工程任务时，原则上你可以有五个人并行工作，但你在效率上损失很多，也许没有得到任何串行加速，因为人类非常不擅长协调。

但也许AI可以从同一点分叉出来，拥有所有相同的上下文。Dwarkesh有一篇关于AI公司所有结构优势的好文章，它谈到了这种事情。因为你可以分叉，也许你可以得到更多的加速。假设这是另一个两倍的因子。

现在我们达到了60倍的速度，对吧？所以我们有我们的百万AI以60倍的速度运行。让我们把它变成50倍的速度，抱歉。所以我们有20,000个AI并行实例，每个以50倍的速度运行。所有这些都是和顶级研究科学家、顶级研究工程师一样好。

现在，这比OpenAI快多少？也许OpenAI，在构建这个AI的时候，会有大约2,000到5,000名研究人员。研究人员的数量随着时间的推移在增长。

所以天真地我们有10倍更多的并行实例，但它们也是50倍更快。然后有一些混乱的转换，关于你投入多少额外的劳动力，考虑到计算瓶颈和其他因素，以及并行运行的惩罚，你期望的整体加速是多少。所以你知道，九个软件工程师不能在一个月内完成需要九个月的事情——你知道，同样的婴儿——

Rob Wiblin: 你不能让九个女人在一个月内怀孕。

Ryan Greenblatt: 是的。我认为人类遭受的一件事是并行化惩罚，所以AI运行得更快意味着在某种意义上他们在这方面遭受得更少。并行副本更多，大约10倍左右，所以他们在这方面吃了一些回报，但你也有直接的50倍更多的速度和更多的质量。质量也推入并行性。

所以我就像，也许我们应该真正把OpenAI的劳动力想象成比更好的人少5倍或10倍。所以也许就像他们有200或400个Alec Radford或其他什么。有些人认为这甚至比这更极端。然后如果就像他们有200或400个Alec Radford，我们有20,000个Alec Radford以50倍的速度运行，我直觉上觉得事情可能会变得疯狂。

但问题只是计算瓶颈有多大？人们对此有很多分歧。我们真的不知道。没有人运行我们需要找出这有多重要的实验。我们只有调查和感觉和随便什么。

Rob Wiblin: 你会运行什么实验？

Ryan Greenblatt: 这是我最喜欢的：谷歌以拥有大量不同的团队而闻名，我认为在某些时候，有人搞砸了对某个团队的计算分配，或者有一些外生冲击导致某个团队的计算分配比应该的要低或高。然后你可以看看当这种情况发生时，进展加速或减慢了多少？这会给你一些关于边际生产函数是什么样子的感觉，关于计算边际回报是什么样子的。至少这会给我们一些关于发生了什么的感觉。

在AI的情况下，我们离人类边际非常远，因为我们有更多的劳动力。所以情况可能在结构上非常不同，但这会给我们一些感觉。

我认为我的梦想是有人去GDM或其他地方，搜集他们一定在运行的所有自然实验的数据，并对此做一个非常经济学家风格的分析，找出局部回报是什么样子的。这只能告诉我们这么多，因为它只是当前制度周围的回报。

我认为比这更好的是像有一小群研究人员，你给他们少得多的计算。你知道，如果谷歌真的喜欢运行实验，不只是给我们数据——我挑谷歌只是因为这是一个例子，但其他公司可以这样做——他们可以拿一些研究人员分成两组或更多组，让一些研究人员得到少得多的计算，得到更像我们期望AI研究人员拥有的计算量，比如，看看他们运行得多慢。如果慢得多，这会给我们一些关于制度的感觉。

我认为这更难理解，部分原因可能是适应时间。所以你让人类处于这种计算量少得多的制度中。一开始他们慢得多，但他们学会了在这些限制内工作。我认为AI会有很多时间学会在这些限制内工作，因为他们运行得快得多。

无论如何，我的感觉是，你的AI研究人员的初始加速，瞬时加速将是……当我考虑所有这些事情并尝试在生产函数上做数学时，也许我做了一些像Cobb-Douglas生产函数的东西，有一些因素，我们尝试对人类和AI都应用一个并行惩罚，我们标准化劳动力。这里有一堆混乱的东西。

我认为内部观点，完全从当前前沿经济模型推断，吐出像这样的数字，取决于你如何做估计，我认为我最喜欢的常数选择大约是50倍更快。我认为这可能高估了速度。那是比当前进展速度快50倍。当前的算法进展速度每年略多于半个OoM。所以天真地这会让你得到一些真正可怕的瞬时速度，每年25个OoM。

我想现在人们可能会说，“得了吧，你说的那件事，太荒谬了。”我想是的，我说的那件事，有点荒谬。所以也许我们想对这个瞬时加速的观点大打折扣。所以不是有相当于50年的进展，或一年的进展在一周内，我想也许那太疯狂了，然后我最终降低到可能更像是20倍的进展速度，也许甚至比那更低一点，作为我的中位数猜测。

再次，我认为这像是疯狂的猜测；我们从一个我们甚至不理解的制度推断到一个非常不同的制度。没有人知道。所以它可能快得多；它可能慢得多。或者它不能快那么多，我想。

智能爆炸会以多快的速度减慢？ [02:11:48]

Rob Wiblin: 所以在完全自动化的时候，听起来它可能在那时快得惊人。但我想让这听起来不那么疯狂的一种方式是你说它一开始非常快，然后很快开始趋于平缓，所以你只有一周的这种惊人的进展水平。我想另一种可能是它甚至可以更快——你说这也是一个活的可能性。

你想解释一下什么证据会影响我们预期它会减慢还是加速吗？

Ryan Greenblatt: 是的。另一件我没有提到的事情，我刚才只是提了一下，是我在想象我们只是飞过这个人类制度，在人类水平附近没有重要的不连续性或扭结。但原则上可能是我们能够通过某种搭便车或快速跟随人类行为达到人类水平。我的猜测是这不是一个很大的因素，它只是一个一次性成本，不是那么大。但我想我们不应该太深入这个。

无论如何，我们有了初始速度有多快？它是加速还是减慢？我们有了极限是什么？最终它必须减慢，对吧？所以我们有这个模型，它可能甚至一开始在加速，它继续加速，它遵循这种双曲线轨迹，在有限时间内趋于无穷。最终那必须结束，当你接近极限时。我们不知道它什么时候开始减慢。它会在某个时候减慢。

但我认为全考虑模型是：事情可能非常快，它可能发生得相当快。我认为估计意味着我的中位数可能是我们在一年内达到大约五到六个数量级的算法进展。

Rob Wiblin: 而且有点难以确切知道这将对模型实际感觉有多聪明产生什么定性影响。

Ryan Greenblatt: 是的，当然。这是另一个很大的不确定性来源。我一直在做这个非常经济脑的分析，我把所有东西都放在这些有效计算单位中，我做了一堆快速转换来回劳动力供给来得到一堆东西。

有很多不同的方式来可视化这个进展。我还应该说，我忽略了一些因素，比如你在这期间扩展计算和其他一些小考虑。这些都计入我的一年五到六个OoM的进展中。但我不认为我们应该太深入这个。

无论如何，我不知道……我有这个对我来说直观的初始速度、加速/减慢极限的模型，然后极限影响，即使它一开始在加速，它什么时候又开始减慢。这个模型对你有意义吗？

Rob Wiblin: 是的，我认为这有道理。这是你在玩的三个大风格因素。

Ryan Greenblatt: 是的。然后有一堆棘手的细节，假设极限是这么多OoM远。加速还是减慢的因素，以及这如何随时间变化，你可能会认为它一开始在加速，停止的时间非常接近极限的结束。或者可能是它在极限上更连续，这将对你得到多少数量级有很大的影响。

但无论如何，我认为这是那种直观的模型。我认为人们应该玩这个。我认为玩这种模型很有趣。很明显，这既是一个简化的模型，也有疯狂数量的移动部分，我们几乎没有数据来估计。我们基本上是从垃圾数据中大规模外推拟合这个模型。你知道，我们能做什么？包括像猜测你能比人脑高效多少这样的垃圾数据。

所以就像你说的，我们非常不确定，我们有巨大的误差线。我的观点是你将得到一些初始加速，你也能够投入更多的计算。所以也许第25百分位是你比前几年的进展快一些，或者第25百分位可能只是比现有进展快一点点。我认为第80或75百分位可能是完全疯狂的。

Rob Wiblin: 所以这是关于在我们能够自动化事情的时候，它实际上加速公司正在做的事情多少的问题。你说这个的第25百分位可能是它只是和以前大致相同的速度——但第75百分位，这甚至不是一个极端的结果，它极大地加速了研究。

Ryan Greenblatt: 是的。至少很快。可能是初始加速不那么高，但加速随着时间的推移增加，减慢相对较慢。

而且，我一直在谈论这个一年的时间尺度，但我认为在很多建模中，大部分进展可能发生在前六个月——因为你已经开始有点快地达到这个收益递减的制度。

Rob Wiblin: 就像你走得越快，你越早开始遇到极限。

Ryan Greenblatt: 是的，没错。你知道，它可能走向非常不同的方向。

六个数量级的进展……那甚至看起来像什么？ [02:30:34]

Ryan Greenblatt: 无论如何，我一直在说六个OoM的进展：那甚至意味着什么？这看起来像什么？

Rob Wiblin: “OoM”是“数量级”的意思，对于任何没有理解但仍然和我们在一起的人。

Ryan Greenblatt: 我很抱歉。我喜欢OoM。多好的术语啊。这是我最喜欢的之一。

Rob Wiblin: 拟声词。

Ryan Greenblatt: 是的，是的，太棒了。无论如何，六个OoM，那是多少？所以大致是两个GPT：在GPT-2和GPT-3之间大致有一个OoM，大约10倍的算法进展和大约100倍的计算。非常粗略地说，也许比这少一点。GPT-3和GPT-4之间也有类似的东西。

所以我们可以做的天真定性模型是，我们可以说，GPT-3到GPT-4的差距有多大？然后我们可以说，我们有两个这样的差距：再多两个GPT。然后我想，那是什么意思？我认为两个GPT的分析让我感觉更放心。我想，两个GPT，那有那么糟糕吗？我是说，得了吧。

我认为另一个框架是这是多少年的AI进展？我认为六个OoM大约是五年的AI进展，非常粗略地说，也许是四年。所以就像从2020年，我们刚得到GPT-2 XL到现在。所以就像——

Rob Wiblin: 但我想直观地知道这意味着什么很难，因为GPT-2对任何事情都几乎没用。

Ryan Greenblatt: 或者GPT-3非常接近。是的，所以那几乎没用。我认为也许我们甚至更不了解的是，在人类范围之上的进展意味着什么？比如，在我们开始这种疯狂事情的时候，AI正在匹配最好的人类专业人士。也许它们没有那么高效，没有那么聪明，但通过各种技巧和随便什么，它们基本上可以匹配人类专业人士。现在，你能走多远？

所以有GPT。我认为另一个概念是尝试从GPT转换到某种智商或某种概念。人们对此有非常不同的直觉，但如果我们想象我们开始于可能是150智商的AI，因为它们能够自动化一切……再次，智商是一种垃圾单位。

Rob Wiblin: 感觉它不是为这个目的设计的。

Ryan Greenblatt: 哦不。没有什么是为这个设计的。我们也一直在滥用这些经济模型。我一直在做所有这些经济风格的分析，在经济模型上，这些模型肯定不是为这个制度设计的。增长经济学，我们从中提取的领域，并不是那么好的领域——抱歉，对增长经济学家们没有冒犯的意思，但只是没有那么多人在研究它，我们在很多事情上有很大的不确定性。

无论如何，所以有两个GPT。那是多少智商点？这个直觉让我觉得也许一个GPT是略多于50智商点或什么的。所以我们从150到250，而且我们还有更多并行副本，它们可以运行得更快。这是一些直觉。

另一个直觉是它们在人类专业人士方面有多好？这里有一个我认为很好追踪的趋势：如果你看编程比赛，我们在2024年看到了在这些编程比赛中的排名进展。一开始，也许AI大约是第20百分位，大致。然后它们是第50百分位，然后我认为o1是大约第75百分位，o1-preview是略高于第90百分位，然后o3是第99.8百分位或什么的。

所以在计算或算法进展的数量级和你在人类专业人士中的排名顺序之间有一些关系。在我们开始这种疯狂事情的时候，也许AI大致像人类专业人士的第100或第10好的排名顺序，然后我们有这六个数量级的进展。

我认为我们可以尝试在数量级和排名之间进行某种转换——就像每个数量级可能意味着你在这个排名上大约好10倍。所以你不是第1000好的，你是第100好的。我的猜测是略高于。就像一个有效计算的OoM比这种排名顺序的OoM略多。我认为没有人非常仔细地做过这个分析。应该有人做。假设它比一个OoM略多，那么用我们的六个OoM，我们得到八个OOM的排名顺序。

Rob Wiblin: 所以很快你就低于一了，对吧？

Ryan Greenblatt: 是的，你低于一，所以现在我们正在外推这个东西。一种说法是我们很快达到人类同等水平，然后也许我们还有略多于六个OoM的进展。或者说字面上最好的人类同等水平，然后我们还有六个OoM的进展。所以就像从第100万好的人类到一个东西——因为百万是六个OoM——到一个东西的最好的人类之间的差距一样大。所以就像我们拿最好的人类，我们做了相当于从第100万好到最好的事情。

这是另一个定性的直觉。我不知道这告诉你多少，但你可以做一些外推。这是无耻地从Daniel Kokotajlo的思考OoM的方式中偷来的。

现在，我们在这个问题上也有不确定性。所以我认为如果更像是每个OoM是两个OoM，那么更像是你比最好的人类专业人士好超过十亿倍。

Rob Wiblin: 你从第十亿好的到最好的，然后你又做了那个跳跃。

Ryan Greenblatt: 是的，没错。这是一个相当大的差距。重要的是，我认为你不能理解人类范围内的第十亿好的，因为从职业中概括出来没有意义。比如，谁是软件工程的第10亿好的人？

Rob Wiblin: 这是一个愚蠢的问题。

Ryan Greenblatt: 这是一个愚蠢的问题。我认为软件工程的第100万好的人现在至少有点意义。我们可以开始处理这个。更小众的人类职业，它不那么有意义。所以我认为我们有这种疯狂的差距。

另一个我喜欢的直觉是思考劳动力供给有多大。所以在我之前做的很多关于进展是加速还是减慢的经济分析中，一个重要的问题是每个有效计算的数量级在你能投入问题的认知汁液方面有多少，就你能投入生产函数的劳动力部分有多少？

一种方法是我们可以说，一个计算的数量级相对于并行工作者的数量级是多少？我的理解是，我们最好的可用估计是每个有效计算的数量级大约是两个并行工作者的数量级。

Rob Wiblin: 这是因为有很多人并行工作实际上效率很低？

Ryan Greenblatt: 是的，AI更快，更有能力，你得到更多的并行副本。所以当你扩展有效计算时，至少在当前的范式中，你有更高效的AI，它们更聪明，可能。所以你基本上可以并行扩展所有这些因素，你可以扩展哪个因素最有效。

Rob Wiblin: 我明白了。所以你可以在拥有更多和更聪明之间分配你的计算预算，以最有效的组合。

Ryan Greenblatt: 是的。你可以让你的训练运行偏向于，我们是训练一个更大的模型，还是训练一个更小的模型？所有这些之间有一些权衡，有点复杂。有方法在推理计算和训练计算之间进行权衡。但总的来说，就像我要用并行副本来做面额。

所以我们开始于像20,000个天才以50倍的速度运行，然后我们有六个数量级——但我们实际上是在加倍，所以我们有12个数量级。那是一万亿。所以现在我们到了20千万亿以50倍的速度运行。现在，我认为这可能有点误导，因为一个重要部分是并行瓶颈。但如果你习惯于从人类组织的角度思考，那么我认为你应该认为20千万亿人类以50倍的速度运行是正确的，而且像踩到脚趾的数量在某种程度上是类似的。

然后在实践中，也许我实际上更期望的是，也许它定性地更接近于像十亿或二十亿比人类聪明得多的人类。所以像250智商的人类以100倍的速度运行。可能我的数字有点草率，但我想那更像是我的直觉。

然后你可以用专业人士做同样的事情。你必须小心不要重复计算。他们比人类专业人士好得多的部分机制是有更多他们，所以所有这些事情都会交叉影响，但也许就像你从第100万好的人类到最好的人类，然后比那好百万。我们做同样的外推。也许就像我们至少有数百万他们以100倍的速度运行，这就像，好吧，这他妈太疯狂了，对吧？

例如，非常快，AI将在问题上做比人类历史上更多的认知进展，以巨大的幅度。而且非常天真地他们以100倍的速度运行。所以就像如果有些事情你可以纯粹在认知领域完成，比如完全不需要接触世界，那需要人类10年——那需要一个100人的团队10年：好的，繁荣，在十分之一年内完成，只用劳动力供给的一小部分。

所以我认为我们应该开始想，这个过程会吐出什么样的疯狂技术？有很多事情我认为原则上可以大大加速，我们甚至没有非常努力地尝试。

努力已经花在了原子精确制造上。没有那么多努力花在了纳米机器人、纳米系统等等上。我认为最初思考这个的Drexler认为这将是非常少的劳动力，所以认为人类可能很容易做到，但投入的努力非常少。所以看起来非常可能你非常快地从这个制度中出来，比如，你知道，原子精确制造，允许大规模增加计算供应和所有其他疯狂的事情。

这就像一个例子。我认为模拟思维和一堆其他事情可能发生得非常快。

被忽视且重要的技术工作人们应该做 [02:40:32]

Rob Wiblin: 总结一下，讨论一下你认为对这个节目的听众来说，考虑到你对不同运行方式的巨大预测分布，最高优先级的事情是什么，会很好。

在技术方面，有哪些特别被忽视和有用的东西？

Ryan Greenblatt: 我认为相对于正在发生的事情，应该有更多的人做控制工作。我的同事Buck可能会更多地谈论那会是什么样子，所以我不会在那里深入细节。我认为现在这比之前被忽视得少了很多，但在边际上似乎仍然很好。

我认为应该有更多的人花时间思考和研究如何训练明智的AI，能够做出比我们更好的决定。基本上如何达到一个点，你已经排除了模型策划反对你的情况？你如何让它们成为你乐意交出的AI？这是一个概念上更棘手的领域，我计划花更多时间思考应该从这个领域衍生出哪些研究项目。

有很多关于我称之为“模型内部”的工作，人们可以去做。也许这某种程度上属于控制，但像探测以确保我们能够检测模型是否采取了不协调的行动这样的事情。我们如何做到这一点？我们如何知道它是否有效？这种事情。

有一些工作可能在解码不可解释的推理上。假设模型学会了在其思维链中隐写式地推理——

Rob Wiblin: 所以这是它们在策划反对你，但你看不出来。它有点被编码了。

Ryan Greenblatt: 是的。隐写式是它们使用不同的符号，你不明白发生了什么。或者也许对你来说看起来像胡言乱语。也许它看起来像一件事，但实际上是另一件事。或者也许它们做了很多潜在的推理。我们之前谈过也许模型做了很多潜在的推理而不是自然语言，能够以某种方式解码那种推理，并尝试找出一些方法训练解码器，这些解码器在某种程度上工作并给我们一些关于AI实际在思考什么的意识，我认为这可能相当有帮助。

除此之外，有很多不同的工作展示了AI现在非常强大。我谈了一些关于我认为在已经展示的能力水平上有多少悬而未决的问题。我认为展示当前系统有能力，未来系统非常有能力，似乎在边际上可能有点好，因为我担心世界对正在发生的事情准备不足的情况。

所以像展示高水平的自主网络能力这样的事情，我认为这是一个甜蜜点，既直接相关于很多人已经在考虑的威胁模型，也不远离我们担心的情景，这些情景涉及大量的自主网络活动，这实际上是威胁模型的关键部分。所以它可能以一种很好的方式弥合这种分歧。特别是专注于在这个领域中我们能够实现的最佳演示。

另一个人们应该做的重要领域是我称之为模型生物的东西：尝试产生不协调模型的实证例子，以研究这有多可能发生并提供证据。所以像不协调是否在XYZ情况下出现？奖励黑客是否出现，它如何泛化？像对齐伪造论文和各种延续这样的事情。

我认为这里的部分希望是收集证据。部分希望只是有一些东西可以和技术一起迭代。即使是那些对世界不太有说服力或可能不提供任何关于不协调证据的模型生物，如果它们足够类似以至于我们可以在它们上进行实验，那可能非常有用。

Rob Wiblin: 因为你可以尝试开发在模型生物情况下有效的对策，然后希望会迁移？

Ryan Greenblatt: 是的。我认为对齐的一个关键困难是通常我们通过实证迭代解决问题。在不协调的程度上，我们的测试具有欺骗性，那么如果我们能提前找到某种方法绕过这个——或者只是在最后一分钟准备好构建它，然后在那些情况下做一堆迭代——我认为这可能相当有帮助。

治理中最有前途的工作是什么？ [02:44:32]

Rob Wiblin: 好的，这是技术方面最有前途的东西。在治理或其他角度上有什么突出的东西吗？

Ryan Greenblatt: 是的，我认为有各种各样非技术干预的空间，看起来相当不错。我对这些事情很难有非常强烈的看法，因为我没有花那么长时间思考它。有很多工作。

我们在这里讨论了很多概念性的点，我认为有人研究所有这些细节，试图更好地理解起飞动态，试图更好地理解除了不协调之外可能出现的其他考虑因素。像我们应该多担心人类权力攫取？我们应该多担心其他问题？我认为其中有一些。

我认为有很多工作只是在非常深入的技术AI安全和政策世界之间充当中间人，并在某种程度上进行翻译。

有很多特定的法规可能是有益的。我认为让欧盟行为准则更好似乎不错。欧盟AI办公室正在招聘，所以你可以在那里工作。我认为可能有其他法规策略实际上可能是好的。

我认为有一些与使协调更有可能或协助协调相关的东西可能相当有帮助。像改进计算治理制度，以便美国和中国可以验证关于当前训练过程的各种声明。我对这有多有前途没有强烈的看法，但我认为令人惊讶的是很少有人在做这个，而且令人惊讶的是不协调。所以也许有人应该做这个，因为它可能是一个相当大的问题。

除此之外，我认为只是有很多人处于他们只是试图提供技术专长的位置；他们处于正在建立技能的位置，他们正在准备有更直接的影响；并且以后，随着事情变得更疯狂，准备好做些什么。

另一个是通用的防御。所以我们之前谈到了AI接管情景。我说的一堆AI接管情景涉及，例如，生物武器。只是普遍提高对生物武器的鲁棒性似乎有帮助。它在多大程度上有帮助是复杂的，但我认为它有一些帮助。

类似地，使世界对AI黑客攻击更鲁棒。我认为它有一些帮助。我认为它可能比其他事情的杠杆作用小，但干预措施引导更多资源到那些事情上，从各种角度和潜在的不同不协调假设来看似乎不错。我认为那些事情即使完全没有不协调风险也可能很有意义。

Rob Wiblin: 是的，我想因为滥用也是一个问题。

Ryan Greenblatt: 是的。除此之外，有很多不同的安全工作可能不错。所以我讨论的一些威胁模型涉及各种结果，比如模型外泄自己。它们涉及模型以流氓方式内部部署，绕过你的安全并潜在使用一堆它不应该使用的计算。

我认为通过安全机制推迟这些事情发生的时间似乎不错。还有安全防止人类行为者窃取模型可能增加延迟的概率，增加减少竞争、更多谨慎的概率。

Ryan当前的研究重点 [02:47:48]

Rob Wiblin: 未来几个月你的研究重点是什么？

Ryan Greenblatt: 现在我正在做相当多的规划和概念工作，然后计划是从中衍生出一堆项目。所以我正在思考这样的问题：在这个情景中你应该做什么，你的负责任的AI公司领先三个月，政治意愿非常低——可能有哪些潜在的对齐措施？你应该采取什么路径？人们应该如何优先考虑？

然后尝试可能提出具体建议，也只在边际上弄清楚事情，基本上目的是看起来Redwood只是尝试制定总体计划，然后从中衍生出一些见解，已经有合理的运气。我认为控制就是从这个过程中产生的。我在更深入地思考这个过程中有了一些更新。这是一件事。

然后我在做一些演示，或者试图研究奖励黑客现在有多大问题。就在最近，我们已经看到RL工作，而之前它并没有做那么多，也没有被扩展得那么远。所以一个自然的问题是：我们得到了多少奖励黑客？那可能有多恶劣？在什么情况下它更或更不恶劣？

之前有一些关于这个的工作，但我认为现在这真的走得相当远，我们可能会预期我们可能看到非常恶劣的奖励黑客，我们可能会看到纯粹由奖励黑客驱动的威胁模型，一直到非常恶劣的结果。原则上，像大规模欺骗人类或试图夺取资产这样的事情可能从奖励黑客中泛化出来。

也有一些故事，通过奖励黑客导致非常有害的不协调，因为你从一个不服从你指令的AI开始，这在某种程度上涉及AI密谋反对你，即使它不是像我们可能对监督信号那样有那么多直接控制的东西。

Rob Wiblin: 好的，你和你的同事在Alignment Forum上写了很多东西，你有一个Substack。那个地址是什么？

Ryan Greenblatt: Substack？redwoodresearch.substack.com。我们的Substack没有短URL，恐怕。

Rob Wiblin: 所以如果你想拉出一些你在这里谈论的事情的线索，很有可能有一篇文章或博客文章是你或同事写的，可以更详细地阐述。

Ryan Greenblatt: 当然。

Rob Wiblin: 我想你在那里列出了一个巨大的待办事项清单。如果听众中有能够帮助解决这些问题的人，那么我想时间紧迫。我们可以利用所有人手来推动所有这些议程，希望事情会变得更好。

Ryan Greenblatt: 当然。

Rob Wiblin: 我今天的嘉宾是Ryan Greenblatt。非常感谢你来到《80,000小时播客》，Ryan。

Ryan Greenblatt: 谢谢邀请我。

WAIC世界人工智能大会展商名录

2025-09-24 20:22:31

《WAIC世界人工智能大会展商名录》详细列出即将参加2025世界人工智能大会的800余家领先企业。名录涵盖全球知名的科技巨头，如AWS、Google、百度、阿里等，包括众多新兴的创新企业。它们将带来超过3000款亮点科技展品，展示人工智能领域的前沿技术和应用。名录为参展者和观众提供清晰的指引，帮助用户快速找到心仪的展商位置，提前规划参观路线。以下是部分展馆的展商信息，按展馆和展位号顺序整理。

mportant;">

部分重点展商列表

世博展览馆 Shanghai World Expo Exhibition And Convention Center

H1 展馆重点展商

H1-A301 华为技术有限公司 | Huawei Technologies Co., Ltd.
H1-A815 中兴通讯股份有限公司 | ZTE Corporation
H1-A821 摩尔线程智能科技（北京）股份有限公司 | Moore Threads Technology Co. Ltd.
H1-B101 阿里巴巴（中国）有限公司 | Alibaba Group
H1-B111 百度 | Baidu
H1-B119 亚马逊云科技 | Amazon Web Services
H1-B801 商汤科技 | SenseTime
H1-C117 谷歌信息技术（中国）有限公司 | Google

H2 展馆重点展商

H2-B101 腾讯 | Tencent
H2-B108 国家电网有限公司 | State Grid Corporation of China
H2-B116 中国南方电网有限责任公司 | China Southern Power Grid Co., Ltd.
H2-C516 特斯拉 | TESLA
H2-C709 理想汽车 | Li Auto
H2-C801 宸联科技（上海）有限公司 | Shanghai Neousys Technology Co., Ltd.

H3 展馆重点展商

H3-A101 深圳市诺仕机器人有限公司 | Shenzhen Nous Robot Co., Ltd.
H3-A111 上海仙工智能科技股份有限公司 | Shanghai Seer Intelligent Technology Co., Ltd.
H3-A621 上海意优智控科技有限公司 | Shanghai Eyoubot Technology Co., Ltd.
H3-B601 北京银河通用机器人有限公司 | Beijing Galbot Co., Ltd.
H3-C101 北京人形机器人创新中心有限公司 | Beijing Innovation Center of Humanoid Robotics Co., Ltd.
H3-C116 北京星动纪元科技有限公司 | ROBOTERA

H4展馆重点展商

H4-FT003 中移互联网有限公司 | China Mobile Internet Co., Ltd.
H4-FT005 上海市宝山区杨行镇人民政府 | People’s Government of Yanghang Town, Baoshan District
H4-FT111 北京玻色量子科技有限公司 | Beijing QBoson Quantum Technology Co., Ltd.
H4-FT201 上海天鹜科技有限公司 | Shanghai Matwings Technology Co., Ltd.
H4-FT303 北京开放传神科技有限公司 | OpenCSG

世博中心 Shanghai Expo Center

L008 亿欧 Equalocean
L024 上海人工智能研究院 Shanghai Artificial Intelligence Research Institute
L035 上海财经大学 Shanghai University of Finance and Economics
R009 数据堂（北京）科技股份有限公司 DATATANG (BEIJING) TECHNOLOGY CO., LTD.

展区分布亮点

H1 馆：

半导体与芯片：上海兆芯集成电路、沐曦集成电路、摩尔线程
云计算与大数据：华为、阿里云、百度智能云
金融科技：蚂蚁集团、交通银行、汇付天下

H2 馆：

智能制造：特斯拉、西门子、中控技术
智慧交通：吉利汽车、蘑菇车联、斑马网络

H3 馆：

机器人技术：节卡机器人、傅利叶智能、非夕机器人
AI 应用：商汤科技、知乎、网易有道

H4 馆：

初创企业与创新项目：涵盖量子计算、生物科技、AIGC 等领域

2025年中国智能PPT市场发展洞察报告

2025-09-24 20:17:03

《2025年中国智能PPT市场发展洞察报告》主要探讨2025年中国智能PPT市场的现状、用户需求及厂商发展策略。报告指出，AI技术推动智能PPT市场的快速增长，用户对智能PPT的需求从简单的效率提升转向全流程智能化支持，特别是在智能引用、数据自动分析与可视化方面表现出强烈期待。不同背景的厂商在智能PPT领域各有优势，传统办公软件厂商注重生态和用户基础，创业厂商强调流量和创新，互联网厂商聚焦产品形态和敏捷性。报告分析了智能PPT的商业模式，包括会员订阅、广告流量变现和API分成等。

mportant;">

智能PPT市场现状

智能PPT行业发展背景：

需求端：企业及个人面临任务复杂指数上升与信息化协作瓶颈的双重压力，传统PPT软件在动态数据整合、跨域知识重构及实时协同等维度呈现显著能力断层，倒逼用户转向AI驱动的效率范式。
供给端：技术基座跃迁与产品范式变革形成双轮驱动，大语言模型在多模态融合与领域知识蒸馏方面的突破，带来了全流程智能协作架构与自然语言交互界面的成熟，推动了工具属性向“数字生产力中枢”演进。
AI办公软件市场在技术融合驱动下实现爆发式增长，2019-2023年市场规模由6.86亿元跃迁至131.03亿元，预计2024-2028年将进入高速扩张平台期，2028年规模有望突破1911.37亿元。AI PPT作为技术渗透的先导模块，2025年正式迈入技术重构深化阶段。
AI+办公软件行业呈现出市场规模跃升的特征，其中AI+PPT成为生产力工具领域的焦点
智能PPT的爆发性增长本质是供需双侧结构性变革的必然产物

智能PPT价值应用探讨：PPT市场从最初的传统软件时代到现在的智能化时代，这种变迁符合“产业微笑曲线”理论，玩家注重技术研发和场景争夺，AI技术研发应用进一步推进，场景争夺从流量聚合到价值裂变，每个业务场景是独立价值单元，衍生出垂类领域的新生态。
智能PPT变革方向：

AI技术的加持主要表现在内容生成指令遵从、多模态融合、交互方式等方面全面提升智能PPT水平。场景端的本质变化是PPT从“功能型工具”转变为“业务流内容中枢”，其竞争维度已从工具易用性升级为生态整合能力。
通过AI技术的加持，PPT从工具属性向内容驱动型平台升级，通过生态化合作拓展跨界场景，释放文档的底层价值

mportant;">

智能PPT对于用户将会带来制作体验流程重构的变化，流程中各模块的核心能力助力用户效率实现大幅度的提升，特别是在信息检索和构思创作上，极大地满足了用户提效的需求。
工具用户价值遍布全PPT生产流程，用户效率实现大幅提升

国外智能PPT发展情况：国外产品的未来竞争焦点转向“AI原生体验”和“叙事范式创新”

国外智能PPT产品具备AI深度整合和创新工具属性的优势，AI几乎触及了PPT的每个部分，从内容创建到信息整合成容易展示的形式，简化了PPT制作流程，核心是AI工具属性强且使用过程简单，产品重点仍然放在用户体验上。

2025年中国智能PPT图谱展示：

mportant;">

用户对智能PPT需求调研

智能PPT行业用户画像：使用智能PPT的用户以18-35岁高线城市的高学历用户为主，一线及新一线城市占比接近半壁江山，男女占比相当，以本科用户为主。
智能PPT行业用户使用场景特征：一周使用多次已成为常态，不同用户群体使用智能PPT生成场景存在差异，企业职场用户主要用于工作总结汇报、活动策划等，学生用户主要用于课程作业、社团活动等。
智能PPT行业用户使用特征：用户需求已从简单的“效率提升”转向“全流程智能化支持”，特别是在智能引用、数据自动分析与可视化方面表现出强烈期待，未来智能PPT将从“制作工具”向“决策辅助系统”转型。
用户对智能PPT推荐意愿：当前用户对智能PPT的净推荐值（NPS）为30.6，处于行业中等偏上水平，但仍有提升空间，使用者的痛点主要集中在模版同质化、AI生成内容逻辑混乱、数据安全问题等方面。

mportant;">

智能PPT厂商发展策略及商业模式

不同类型玩家的发展策略分析：不同背景厂商在模型技术、交互产品技术、内容生成技术、易用性、功能多样性、模版丰富性、入口便利性、内容资源积累能力、产品定制化能力、安全可信能力等方面各有优势。
不同背景厂商发展策略分析：传统办公软件厂商凭借庞大用户基础和技术积累，整合工作流和拓展合作提升用户粘性；AI创业厂商用流量和创新优势，聚焦垂直领域优化产品；互联网厂商依靠技术触达和快速迭代，强化生成与编辑功能，深入场景化优化，共同推动智能PPT市场发展。
智能PPT厂商的商业模式：目前来看，不同背景智能PPT厂商商业模式有一定差异，整体来看，其一以会员订阅为主，通过差异化会员体系覆盖不同用户群体，提升ARPU；其二，以互联网背景厂商模式为主，根据PPT主题匹配广告，通过用户行为数据实现广告精准投放，最大化流量价值；其三，B端API分润情况，通过提供PPT生成API嵌入第三方平台按用量分润，通过技术能力输出，与合作伙伴共享收益。

mportant;">

智能PPT标杆案例分析：

ChatPPT构建了全链路一体化演示文档创作平台，集成6大主题系列，提供500+核心功能模块及1800+指令功能集群，定义了“可信文档”创作方式，全域可溯源，推出行业领先的文档/语音交互解决方案，还作为国内第一家文档产品对AI眼镜终端进行上线适配，开创了下一代沉浸式文档办公新范式。
基于百度文库强大的内容素材库，在生成大纲、编辑优化、排版配图方面更胜一筹，可以上传图片、文档、思维导图生成PPT，并且可以根据PPT内容生成演讲稿、长文及思维导图，实现整个PPT应用全流程闭环。
百度文库：从思考到落地一站式解决PPT问题的“六边形战士”
ChatPPT：具备大模型交互能力的“全链路智能体”Office产品

mportant;">

腾讯研究院《2025人工智能十大趋势》

2025-09-24 20:11:38

在2025世界人工智能大会·腾讯论坛上，腾讯研究院联合腾讯优图实验室、腾讯云智能、腾讯科技联合推出《共生伙伴：2025人工智能十大趋势》报告，揭示AI技术从工具属性向“共生伙伴”角色的深刻转变。随着基础模型、多模态融合、具身智能等技术的突破，AI正逐步融入人类生活的方方面面，成为工作、生活乃至社会运行的核心组成部分。以下为十大趋势的精华总结。

mportant;">

序言

序言一：司晓《从智能工具到共生伙伴》

司晓在序言中指出，AI正经历从“工具”到“共生伙伴”的深刻转变。随着强化学习、多模态融合等技术的突破，大模型不仅具备推理与行动能力，还能实现情感化交互。AI不再是被动执行指令的工具，而是能主动理解用户需求、优化生活与工作的“人生合伙人”。未来，空间智能和具身智能将推动AI从数字世界走向物理世界，完成从“会聊天”到“懂世界”的跨越。

序言二：吴运声《打造更好用的AI》

吴运声强调，AI的未来不仅是技术竞赛，更是产业落地的能力比拼。腾讯聚焦“离产业更近的AI”，通过模型层（如混元大模型）、平台层（如智能体开发平台）和应用层（如金融、制造场景解决方案）的三层布局，推动AI从“有能力”到“有用处”。他认为，AI的下一阶段将围绕安全、可控和普惠展开，让技术真正成为企业与社会的价值驱动力。

mportant;">

趋势01 强化学习：引领大模型推理与行动能力突破

强化学习从“对齐人类偏好”（RLHF）转向“基于可验证结果优化”（RLVR），推动大模型从内容生成迈向复杂问题解决。例如，AI在医疗、金融等领域通过强化学习实现自主决策，甚至发现超越人类经验的新策略。

mportant;">mportant;">

趋势02 原生多模态生成：感知与生成的统一

AI从单一模态处理转向跨模态统一建模，实现文本、图像、音频的联合理解与生成。例如，OpenAI的GPT-4o和Sora模型已能无缝处理多模态信息，重塑影视创作、电商推荐等行业的交互体验。

趋势03 声音模型的情感智能进化

语音合成技术从机械朗读升级为情感化表达，结合多模态能力，AI声音可实时生成音乐、配音，甚至驱动虚拟角色互动，成为教育、医疗、娱乐领域的“情感伙伴”。

mportant;">mportant;">

趋势04 智能体双轨进化：编排类与端到端并行

编排类Agent：如AutoGPT，通过调度工具和API完成复杂任务，在企业级应用中强调可控性。
端到端Agent：如OpenAI的o3模型，内化推理与工具使用能力，在专业领域（如科研、编程）展现深度自主性。

趋势05 LifeOS：AI成为个性化生活操作系统

AI从单次任务工具演变为持续陪伴的“数字自我”，整合用户长期记忆、习惯与情绪数据，主动优化日程、健康管理，甚至提供情感支持，如ChatGPT的Memory功能。

mportant;">mportant;">

趋势06 智力即服务：智能化工作流赋能产业

企业通过AI Agent重构业务流程，将知识从“静态资产”转化为“可调度认知系统”。例如，微软365 Copilot通过检索增强生成（RAG）技术，实现企业知识的实时调用与决策支持。

趋势07 游戏智能体：虚拟世界的沉浸式进化

游戏AI从脚本化NPC发展为具备情感与社交能力的“数字生命”，如《暗区突围》的AI队友能动态适配玩家风格，推动元宇宙社交生态的成熟。

mportant;">mportant;">

趋势08 具身智能的“GPT-2时刻”

基础模型（如VLA多模态模型）、数据工程与仿真平台的协同突破，推动机器人从实验室走向量产。例如，特斯拉Optimus和腾讯“小五”机器人已在制造、家庭服务中展现类人行动能力。

趋势09 空间智能：AI从词元到体素的跨越

AI开始理解三维空间（体素），赋能自动驾驶、XR混合现实等领域。李飞飞的World Labs致力于生成可交互3D场景，为智慧城市、建筑设计提供新工具。

mportant;">mportant;">

趋势10 测试转量产：具身智能本体加速成熟

人形机器人运动、感知系统标准化，逐步应用于物流、护理等高需求场景。Figure 02、Agility Digit等产品已实现千台级量产，标志AI从“数字大脑”迈向“物理执行”。

mportant;">mportant;">

专访Pi产品负责人Macro：全球用户量突破300 万了，还需要继续学Gamma吗？

2025-09-24 19:58:03

一款让做 PPT 变得前所未有轻松的工具，正在悄悄改变很多人的工作方式。

它把 AI 和传统演示文档结合在一起，几乎不用学习复杂操作，输入想法就能得到一份完整的演示内容。

对那些从没做过幻灯片的人来说，它第一次让内容创作变得可触摸、可上手。

在 WAIC 展会之后，Pi 的全球用户量突破了 300 万。

每天都有培训讲师、科普创作者、甚至从未打开过 PowerPoint 的小作坊老板，在这里生成属于自己的演示内容。

有人用它做线上公开课，有人把它用在销售路演，还有人只是想第一次给产品做一份像样的介绍。

做出这款产品的，是一个十几个人的小团队。没有铺天盖地的广告，也没有复杂的增长打法，他们靠着产品本身和几次展会活动，把它推到了几百万用户手里。

Macro 说，他们最初希望做的是一个能承载多模态内容的“内容容器”。文字、图片可以直接放进去，未来音视频也能加入，让 AI 生成的内容和人工编辑的内容结合起来，最终做出一份真正可用的成果。

产品名称：Pi（Presentation Intelligence)
Slogan：AI原生的内容创作和分享的 Agent 平台，不止AIPPT
主要功能：AI原生的内容创作和分享的 Agent 平台。这是目前在内容创作场景代表SOTA水准，集成知识管理、设计引擎和AI原生编辑器的全栈智能体Copilot系统，为全球用户提供专业质量、精准完备、高效和谐的内容创作和共享体验。
官网：Pi

以下是我们和 Pi 产品负责人 Macro 的访谈：

全球用户量突破300万

Anthropic CEO最新演讲解读：三年营收破 45 亿，到底做对了什么？

2025-09-24 19:44:20

最近，Anthropic CEO Dario Amodei 在采访中正面回应：我不是“末日论者”，我是最懂 AI 技术好处的人之一。

Dario Amodei 是普林斯顿生物物理学博士，读博期间就拿下 Hertz Fellowship（美国最顶尖的科研奖学金之一），毕业后又在斯坦福医学院做了几年博士后。

他曾先后就职于在百度、Google 和 OpenAI。

在 OpenAI 期间，主导了 GPT-2 和 GPT-3 的研发，并提出 RLHF 技术，让大模型第一次学会按照人类意图对话。

直到 2021 年，Dario 带着妹妹 Daniela 及多位核心成员创立 Anthropic 。用三年时间打造出全球最具竞争力的大模型之一的 Claude 系列。

一个多小时的访谈里，他直言 AGI 是伪概念，谈扩展规律、盈利逻辑、开源泡沫…我认真听完了，整理出11条核心观点，也许也会改变你对 AI 未来的看法。

01. Dario 核心观点总结

不是末日论者，是最懂技术好处的人之一

AI 的进化速度远比想象中快。几年前的模型还说不清一句话，如今已经能完成博士级别的任务，AI 正在一步步渗透进真实的经济系统。

Dario 一直相信扩展定律（scaling laws）的作用。他明白，没人能真正预知未来，但有些话必须说在前头。

他不否认 AI 的巨大潜力，甚至可能比任何人都更看好它能带来的改变。也正因为看得清那些好处，他才更有责任提醒世界，别忽略背后的风险。

mportant;">

AGI 是多巴胺诱饵，不值一提

Dario 认为 AGI （通用人工智能）和 ASI （超级人工智能）是含糊又带有营销意味的词。他拒绝使用这些术语，转而聚焦模型真实能力的提升。

虽然他不用这些词，但他仍是业内少数几个对 AI 能力跃迁时间预期最短、也最乐观的人之一。

真正的爆发，也许就在这两年

Dario Amodei 说，大模型的能力正在进入第二阶段——强化学习、推理、计算能力大幅提升，尤其在数学与代码任务上，已逼近专业水准。

多数人没意识到，这是一条指数曲线。

假设性能每半年翻倍，早期看不出变化，一旦临近临界点，增长会脱离直觉。

比如，Anthropic 从 2023 年的零收入，到 2025 年上半年已破 45 亿美元，正在重演 90 年代互联网的轨迹。

AI 离真正的爆发，也许只差两年。

AI 编码能力正在指数跃迁

编码，是 Claude 模型提升最快的能力之一。

Anthropic 不是专注做开发助手的公司，却在这个方向上一路狂飙：18 个月前，模型在编程基准测试中只能拿 3%，现在已飙到 72%-80%。

Anthropic 内部，绝大部分代码都是由 Claude 模型直接编写，或者至少有模型参与编写。其他公司也有类似现象。

在收益方面，进展也是持续加速。模型正在进入“自我开发”阶段。

模型进化的秘密，在于人才密度

每一代 Claude 模型的发布，都会在架构、数据、训练方法上进行改进，这些都是新技术的一部分。

Anthropic 不常公开讨论细节，但持续的技术创新是模型性能提升的关键。为此，Anthropic 会尽力保持高人才密度，因为这是发明新技术的必要条件。

出价再高，也买不走我们的团队

Anthropic 的核心团队流失率极低，不是没人挖，而是没人挖得走。

Dario 明确表示，不靠“溢价保人”，不搞个别谈判。系统化职级、统一薪酬，是 Anthropic 长期文化的一部分。

“我们不是靠钱留人，而是靠共同愿景。”他说。热情、使命感、长期投入，这些才是无法标价的东西。就算对方是扎克伯格，也未必买得走。

亏损 30 亿，不是赔钱，是在下注下一代 AI

Anthropic 预计今年亏损 30 亿美元，听起来吓人，其实是再正常不过的事。

Dario 将模型开发比作投资项目：假设 2023 年训练一个模型花费 1 亿美元，部署后赚取 2 亿，当年盈利 1 亿。但 2024 年又花 10 亿训练新模型，即使旧模型继续赚钱，公司账面仍是亏损。每个模型单独来看都是盈利的，但公司整体因为不断投入下一代研发而不显盈利。

这种模式在行业内普遍存在：只要模型持续提升，各公司都会加大投资，推动业务规模增长。

如果某一天模型性能趋于停滞，成本会下降，盈利能力会稳步提升；否则，投入和收入都会继续指数级增长。

开源≠免费，也不是决定胜负的关键

开源与否并不重要。比起“开放权重”这种表面自由，Dario 更看重模型在任务上的表现：模型有没有用？能不能跑得快？省不省钱？适不适合业务场景？

即便你拿到了参数，要部署到云上推理，照样要烧钱、做优化、负重前行。Dario 更关注：谁能在任务上做得更好，谁就赢。他要的是效果，而不是标签。

换句话说：谁更好用，谁赢。

我们用 200 亿，和别人 1000 亿竞争

Anthropic 三年收入增长速度惊人，从 0 到 45 亿，Dario 认为靠的是“人才密度”和“资本效率”，而非砸钱比拼。他说：“别人花 10 亿能做的事，我们可能 1 亿做到。”

API 营收占大头，我们赌的是企业市场

Anthropic 60%-75% 收入来自 API，另有部分来自 Claude 应用。Dario 明确表示，企业级才是未来，尤其是在法律、金融、制药等高价值场景。

在保障安全的提前下做技术

他回忆自己在 OpenAI 主导 GPT-3 和 RLHF 的经历，指出能力与对齐无法分离研究。离开 OpenAI，是因为在治理与节奏上理念分歧。创立 Anthropic，是为了用他信任的方式推进安全 AI。

AI 的安全不该沦为企业口号或博弈筹码，而是行业必须一起承担的责任。

Dario 推行“负责任的扩展策略”，主动公开危险能力评估、宪法式 AI、可解释性研究，不是为了垄断安全红利，而是为了让整个行业走在更稳的轨道上。

他不认同控制论者的悲观，也拒绝加速主义者的狂热。他更关心：当模型能力持续逼近高风险区间，行业是否有足够的测试与技术储备？如果哪天失控风险超过可控阈值，他会是第一个呼吁全行业放慢脚步的人。

在指数级爆发的技术洪流中，他选择一条并不讨好的路——推动整个行业“向高处竞争”。

02. 一些分享

在这次采访中，Dario Amodei 讲了很多人避而不谈的真话。他不说 AGI，不讲“超级智能”，反而专注模型具体能力的提升，讲推理、讲计算、讲强化学习。

不是因为他悲观，而是他看到了这条指数曲线可能引发的巨大后果。他的担心不是模型不会成功，而是会太快成功。

他不是要阻止别人做 AI，而是希望大家在“高处竞争”，不是抢着谁先上线，而是谁能在不犯错的前提下做得最好。

我还挺认同他对人才的看法。热情、责任感、长期投入这些东西是金钱买不来的。你给再高的 offer，留不住真正认同愿景的人。你觉得呢？

蚂蚁发布《大模型开源开发全景与趋势》报告

2025-09-24 18:42:26

《大模型开源开发全景与趋势》是蚂蚁集团开源技术委员会推出的报告，基于社区数据洞察大模型开源开发生态的现状和未来趋势。报告通过全景图展示大模型开源项目的分布，从1.0版本到2.0版本，项目数量和领域划分更加精细，反映生态的快速发展。报告分析了技术关键词、活跃项目、许可证变化等，揭示AI Coding、Model Serving等领域的增长态势。报告探讨了项目更替与生态动态，及全球开发者在大模型开发生态中的分布情况，为开发者和企业提供参考，帮助他们把握大模型开源开发的脉络和趋势。

大模型开源开发生态全景

全景图迭代更新

1.0版本于2025年上半年发布，收录19个技术领域的135个项目，采用种子项目多跳搜索方式绘制，具有一定随机性。
2.0版本于2025年8月发布，采用OpenRank算法直接筛选GitHub项目，收录114个顶尖项目，分布在22个技术领域，标准提高至OpenRank 50。

项目更替与生态动态

2.0版本新增39个项目，占35%，多为近期创建且关注度高；移除60个项目，多因活跃度不足或不符合新标准。
这些项目吸引全球366,521位开发者，其中美国占24%，中国占18%，显示中美在大模型生态中的主导地位。

全景图的构成与意义：全景图分为AI Infra和AI Agent两大方向，基于OpenRank算法衡量项目影响力，提供科学依据。

从生态全景到技术趋势

大模型开发生态关键词：通过对项目描述和标签的文本分析，提炼出AI、LLM、Agent、Data等高频关键词，得到一张词云图，反映大模型生态的核心技术方向。
活跃项目分析：

OpenRank前10的项目覆盖模型生态完整链路，Python主导基础设施，TypeScript统治应用层。
部分项目采用非传统开源许可证，保护商业利益，导致“开源”定义愈发模糊。

技术领域发展趋势：AI Coding、Model Serving和LLMOps增长明显，Agent Framework和AI Data领域则呈现下降趋势。
边缘地带的项目：文章关注一些未进入全景图但有潜力的开源项目。

大模型生态下全球开发者分布画像

在全球大模型开发生态中，开发者分布显示美国和中国占据主导地位，分别占比24%和18%，表明两国在大模型技术领域具有显著的影响力和活跃度。欧洲国家如德国、印度等有较高参与度，与中美相比仍有差距，整体呈现出以中美为主、多国参与的全球开发者分布格局。

从1.0到2.0，100天中的变与不变

整体生态结构和领域的调整：从1.0到2.0，生态结构和领域划分更加精细，新增“AI Infra”、“AI Agent”和“AI Data”等具体分类。
出局的项目：一些曾经热门的项目如Manus、NextChat等因维护不足或被替代逐渐退出视野。
昔日巨星TensorFlow的十年消亡之路：TensorFlow自2015年开源后，因缺乏向后兼容性和复杂迁移工具，逐渐被PyTorch超越，走向衰落。
新进的项目：新领域如AI Coding和具身智能相关项目涌现，Infra领域整合为LLMOps，覆盖模型全生命周期运维。
新进项目中的最活跃开源项目Top 10：新进项目中，Gemini CLI和Cherry Studio等表现出色，位列活跃项目前10。
全景图上的“Up and Down”：从2月到8月，TensorRT-LLM、Dynamo等项目OpenRank增长明显，LangChain、Codex等项目下降明显。

专题洞察

Model Serving（模型服务）：模型服务连接AI基础设施与应用层，vLLM、SGLang等项目提升推理性能，Ollama等推动本地部署，NVIDIA Dynamo扩展集群推理。
AI Coding（AI编程）：AI Coding从单一代码补全发展到多模态支持，Gemini CLI、OpenCode等工具提升开发效率，商业化潜力巨大。
AI Agent（AI代理）：2025年AI应用落地，LangChain等框架后继乏力，Mem0、Dify等新项目聚焦不同环节，推动Agent系统发展。

番外篇：大模型生态全景

梳理2025年1月至今国内外主流厂商的大模型发布时间线，详细标注每个模型的参数、模态等关键信息，直观展现当下大模型领域的竞争态势。通过分析，文章指出中国开源大模型呈现百花齐放的局面，国外顶尖模型厂商多走闭源路线，强调模型参数规模化、强化学习提升推理能力、多模态模型走向主流等技术趋势。

# AI专栏 # AI教程

Anthropic最新报告《人类经济指数：追踪AI在美国及全球经济中的作用》

2025-09-24 18:40:04

《人类经济指数：追踪AI在美国及全球经济中的作用》主要研究AI（特别是Claude）在全球和美国各州的使用情况。报告发现，美国的Claude使用量远超其他国家，印度、巴西、日本和韩国紧随其后。在国家层面，Claude的使用与人均GDP呈正相关，高收入国家更倾向于使用Claude进行知识工作而非单纯的编程。在美国，各州的AI使用因经济结构不同而异，例如华盛顿特区更常用于文档编辑，加州更偏重编程任务。报告发现，随着时间推移，Claude的自动化任务比例从27%上升到39%，表明用户对AI的信任度在增加。

mportant;">

夏威夷的旅行规划、马萨诸塞州的科学研究、印度的网页应用开发——表面上看，三者似乎毫无关联。事实上，Claude在这些地方的用途最为广泛。

这并不意味着这些是Claude最热门的用途：软件工程仍在全球几乎所有州和国家占据绝对主导地位。所谓“最为广泛”指的是：马萨诸塞州用户寻求科研帮助的概率远高于其他地区，巴西用户对语言类任务格外热衷——他们用Claude进行翻译和语言学习的频率是全球平均水平的六倍。

这些发现来自我们第三期《Anthropic经济指数》报告。本期报告中，我们进一步追踪AI技术如何重塑工作与经济格局的早期趋势，重点分析Claude在不同维度的应用差异：

美国各州对比：首次详细评估AI使用率的州际差异。发现各州经济结构直接影响人均Claude使用量，且最高使用率的州并非以编程任务为主。
跨国对比：新分析显示国家收入水平与Claude使用强度高度相关，低收入国家用户更倾向于用AI自动化工作任务。
时间演变：对比2024年12月-2025年1月与2025年2月-3月数据发现，“指令型自动化”任务占比从27%激增至39%，表明AI承担的责任（及用户信任度）快速提升。
企业用户：新增Anthropic第一方API客户匿名数据（覆盖Claude.ai之外的用户），首次揭示企业使用模式：API用户自动化任务倾向显著高于消费者，预示劳动力市场或将迎来重大变革。

以下是报告核心摘要。我们同步推出了交互式网站，可自主查询全美各州及所有追踪职业的Claude.ai使用趋势，观察所在地或相关行业的AI应用情况。若需深度研究，我们完全公开本期及往期经济指数数据集。

地域分析

本次指数新增地理维度数据，揭示Claude在全球各国及美国各州的应用特征。

跨国模式

美国Claude使用量遥遥领先，印度位居第二，巴西、日本、韩国使用份额相近。

考虑到各国人口规模差异，我们采用“AnthropicAI使用指数（AUI）”校正分析：AUI>1代表该国人均使用量高于其劳动年龄人口预期水平。

数据显示，技术先进的小型经济体（如以色列、新加坡）在 Claude 采用率方面相对于劳动年龄人口处于领先地位。收入可能是关键因素：人均GDP与AUI指数呈现强相关性（人均GDP每增1%，AUI增0.7%）。这符合逻辑——Claude高使用国通常具备完善互联网基础设施及知识型经济主导的产业特征。也引发经济分化担忧：历史表明，电气化、内燃机等通用技术推动经济增长，也加剧了全球生活水平差距。若AI效益集中于高收入国家，可能重现类似的经济分化效应。

美国州际模式

人均GDP与Claude使用量的正相关性在美国州级层面同样成立，且相关性更强（人均GDP每增1%，人均使用量增1.8%）。但收入解释力低于跨国数据，表明存在其他影响因素。

我们推测各州经济结构是主要因素。美国最高的 AUI 是哥伦比亚特区（3.82），其中 Claude 最频繁的使用是编辑文档和搜索信息，及与华盛顿特区知识工作相关的其他任务。同样，与编码相关的任务在加利福尼亚州（AUI 总体排名第三的州）。

即使夏威夷等低使用率州，旅游相关任务使用频率也达全美平均值的两倍，更多数据可通过交互式网站探索。

Claude 的使用趋势

自 2024 年 12 月以来，我们一直在追踪人们如何使用 Claude。我们用一种保护隐私的分类方法，将匿名对话记录按 O*NET（美国政府数据库，用于对工作及相关任务进行分类）定义的任务组进行分类。通过这种方式，我们能分析自去年以来人们分配给 Claude 的任务发生了怎样的变化，及人们选择合作的方式（他们选择对 Claude 的工作进行多少监督和投入）也发生了怎样的变化。

任务类型

自 2024 年 12 月以来，Claude 的计算机和数学用途在我们的类别中占据主导地位，约占对话的 37-40%。

但情况已发生很大变化。在过去的九个月里，我们看到“知识密集型”领域持续增长。例如，教育指导任务增加40%以上（占所有对话的比例从9%上升到13%），与物理和社会科学相关的任务比例增加三分之一（从6%上升到8%）。与此同时，传统商业任务的相对频率有所下降：与管理相关的任务占所有对话的比例从5%下降到3%，与商业和金融运营相关的任务比例减少一半，从6%降至3%。（当然，从绝对值来看，每个类别的对话数量仍然显著增加。）

mportant;">

整体趋势显示，随国家人均GDP提高，Claude应用从计算机/数学任务向教育、艺术设计、行政支持、科学研究等多元化场景迁移。软件开发仍是所有国家的最高频应用，美国各州亦呈现类似规律，尽管我们的样本量限制更详细地探究任务组合如何随采用率的变化而变化的能力。

交互模式

正如我们之前所提到的，我们将AI应用分为自动化（AI最小化人工干预直接产出）与增强（人机协作），我们进一步将自动化细分为指令性对话和反馈循环交互，其中指令性对话涉及极少的人机交互，而在反馈循环任务中，人类将现实世界的结果反馈给模型。我们还将增强细分为学习（请求信息或解释）、任务迭代（与 Claude 协作）和验证（请求反馈）。

2024年12月以来，指令型对话占比从27%骤增至39%，其他模式（尤其学习、任务迭代、反馈循环）小幅下降，推动自动化总量（49.1%）首次超越增强（47%）。表明AI正快速获得用户信任，承担更复杂工作的自主权提升。

模型能力升级可能是主因（2024 年 12 月，我们首次收集经济指数数据时，Claude 的最新版本是 Sonnet 3.6）。随着模型越来越善于预测用户需求、生成高质量的结果，用户可能会更愿意在第一次尝试时就信任模型的输出。

mportant;">

反常现象是：高使用率国家倾向增强模式，低使用率国家更偏好自动化，在控制相关任务组合的情况下，人均使用量每增1%，自动化率降低约3%。原因尚不明确，可能与各国早期使用者文化差异或经济因素相关。

企业应用

使用与Claude.ai对话相同的隐私保护方法，我们从 Anthropic 的第一方 API 客户子集中抽样交互，这是一项开创性的分析。 API 客户往往是企业和开发人员，他们使用 Claude 的方式与通过Claude.ai访问 Claude 的人非常不同：他们按令牌付费，不是按固定的月度订阅，且能通过自己的程序发出请求。

这些客户对 Claude 的使用尤其集中在编码和管理任务上：我们示例中 44% 的 API 流量映射到计算机或数学任务，而Claude.ai上这一比例为 36%。（实际上，大约 5% 的 API 流量专门用于开发和评估人工智能系统。）与教育职业相关的对话比例（API 中为 4%，Claude.ai上为 12%）及艺术和娱乐相关的对话比例（API 中为 5%，Claude.ai上为 8%）相对较小，抵消了差异。

最后，考虑到 API 使用的付费方式，探究任务成本差异（由消耗的代币数量差异引起）是否会影响企业选择“购买”哪些任务。发现任务成本与使用频率呈正相关：成本较高的任务类别往往使用频率更高，如下图所示。表明，模型的基本功能及产生的经济价值对企业而言比完成任务本身的成本更为重要。

mportant;">

结论

经济指数旨在实证评估AI对就业与经济的影响初期表现，我们发现，AI应用呈现显著不均衡性：高收入国家用户更倾向使用Claude，更追求协作而非自动化，应用场景超越编程范畴。在美国州级使用量与当地主导产业紧密关联（从科技到旅游业），且企业比消费者更愿赋予Claude自主权。

尤其值得注意的是，过去九个月Claude.ai指令型自动化对话占比急剧上升。用户仍在探索与AI的协作边界——我们仍在集体界定对AI工具的信任阈值与责任分配。但目前趋势表明，人类正越来越适应AI代理工作。我们将持续追踪这一演变，观察随模型能力提升用户行为是否趋于稳定。

欢迎访问Anthropic经济指数专题网站探索交互式数据可视化（涵盖国家、州、职业维度），我们将持续更新数据供公众追踪AI对经济与就业的影响路径。

开放数据

与以往的报告一样，本期同步发布完整数据集，其中包括地理数据、任务级使用模式、按任务划分的自动化/增强功能细分以及 API 使用情况概览。数据可在经济指数网站下载。

报告官方网站

报告官网：https://www.anthropic.com/research/economic-index-geography
交互式网站：https://www.anthropic.com/economic-index

阿里推出的《企业 AI 应用构建指南》

2025-09-24 18:37:26

《企业AI应用构建指南》全面阐述企业级AI应用的构建方法与技术体系。内容涵盖AI应用架构演进（从对话、RAG到工作流和Agent模式），深入解析交付流程、MaaS、记忆管理、MCP协议、AI网关、沙箱隔离等核心基础设施，重点讨论提示词注入、工具安全、身份鉴权等新型风险及其防护策略。指南结合阿里巴巴内部实践，为开发者提供从研发到运维的全链路指导，助力高效、安全地实现AI应用落地与创新。

mportant;">mportant;">

简介

本文基于阿里巴巴内部 AI 应用研发经验，结合业务研究与开源进展，深入分析 AI 应用研发的架构模式、交付差异、基础设施支持及安全挑战。从复杂度最高的 Agent 模式架构入手，探讨 AI 应用与传统应用在研发交付阶段的差异，包括模型切换升级及能力评测等问题。重点介绍支持 AI 应用研发的基础设施，如 MaaS、MCP 工具、Sandbox 技术及研发运维生命周期的观测和评测。分析 AI 引入应用程序带来的安全新挑战，如提示词注入、工具使用安全、Sandbox 隔离及身份和授权体系等，为读者提供 AI 应用研发的实践经验和深入见解。

AI 应用架构

发展历程：从简单的对话模式，到加入向量检索召回能力的 RAG 模式，再到开发者编排工作流、在关键节点用模型驱动的 AI 工作流模式，发展到用模型自身规划流程的 Agent 模式。
Agent 模式架构：

用户交互模块：接收用户请求，收集上下文数据、转换成模型请求。
核心 LLM 模块：负责任务规划及短期记忆保存，生成任务计划并执行。
环境模块：作为任务执行场所，通常是隔离的 sandbox 环境，执行任务、收集环境信息。
规划、任务执行、感知和反思循环：根据执行结果调整规划，循环多次实现目标。
记忆模块：在任务复杂、上下文过长时，引入长期记忆模块，精细压缩记忆以保留关键信息。

mportant;">

AI 应用交付

特点：与传统应用 CI/CD 相比，AI 应用 CI/CD 面临多维度的供应链管理，需用概率性测试策略，采用复杂循环流程，需对模型性能变化等 AI 特有问题进行多层次监控。
模型和框架选择：根据质量、成本、费用、合规等多维度选择基础模型和框架，如通用对话场景可选择 GPT-4，代码生成可选择 Qwen-Coder，企业考虑合规可选择开源模型私有化部署。在应用更新迭代过程中，需进行模型切换及相应工作。
核心流程：AI 应用依赖关系复杂，需统筹代码、模型、数据协同交付。建议用环境隔离方式，分为开发、集成、生产三阶段，每个环境有不同权限控制和稳定性要求。

mportant;">

AI 应用研发基础设施

MaaS（模型即服务）：将具备不同任务处理能力的 AI 模型以服务形式提供给用户，用户通过 SDK/API 快速应用模型推理能力，降低 AI 应用构建复杂度。
记忆（Memory）：使 AI 应用能对先前交互内容进行记忆，保持长期交互的一致性和连贯性。
MCP（模型上下文协议）：让大型语言模型以标准化方式连接外部数据源和工具，使模型能发挥更大价值，如引入网络搜索、数据集和 API 等外部工具。
AI 网关：基于模型访问 + API 供应两个场景核心，通过抽象协议、统一治理等设计原理，把“任何模型”和“任何业务 API”纳入统一控制平面，解决 MxN 重复建设问题，实现快速迭代与企业级稳态共存。
Sandbox：为 Agent 规划和执行任务提供可靠安全的环境，支持代码生成和运行、browser-use 及本地 MCP Tool 等。
AI 可观测：通过获取用户上报的 OpenTelemetry 数据，清晰展示从用户输入到最终输出的全过程，记录关键节点元数据，为开发者提供调试依据，是评测、分析和优化的数据基础。
AI 评测：传统软件测试方法在 AI 应用面前力不从心，需建立全新 AI 应用评测体系，确保 AI 应用可信赖、高质量、可持续进化，将不确定性转化为确定性商业价值。

mportant;">

AI 应用安全

应用安全风险及防护：Agent 应用面临提示词注入、逻辑错误、用户有害请求等新型安全挑战，安全问题从单点漏洞演变为系统性风险，需多层次纵深防御和专门安全治理体系。
Tools 使用安全：高危 Tool 必须在与宿主逻辑彻底隔离、可精细审计的受控环境中运行，限定影响范围。
身份与授权：AI 场景下的认证和授权与传统存在差异，需更灵活可靠的安全协议，防止权限泄露、访问越权、数据安全等风险。
大模型供应链安全防护：防范训练数据集、模型权重、依赖组件、交付渠道等环节被恶意篡改或植入“后门”，导致模型“带病上线”威胁业务安全。

mportant;">

总结

随着大模型的兴起，阿里巴巴的 AI 研发生态蓬勃发展，Python 活跃开发者数量在过去一年增长 33%，主要用于数据处理、模型训练和 AI 应用研发等工作。在 2025 年 AI 应用发展的元年，资本的大量投入推动了 AI 应用的快速发展，相关的研发模式和应用架构也在不断成熟，新的 AI 应用中间件逐渐出现，让开发者更专注于创新。基于 AI 模型能力的不断提升和上下文工程成为行业共识的趋势，本文推出指南文章，能帮助广大开发者快速构建 AI 应用，实现创新梦想。

阿里吴泳铭：AGI只是起点，超级人工智能ASI才是终极目标

2025-09-24 18:29:16

9月24日，在杭州召开的云栖大会上，阿里巴巴集团CEO、阿里云智能集团董事长兼CEO吴泳铭发表主旨演讲，他认为实现通用人工智能AGI已是确定性事件，但这只是起点，终极目标是发展出能自我迭代、全面超越人类的超级人工智能ASI。

mportant;">

吴泳铭首次系统阐述了通往ASI的三阶段演进路线：

第一阶段：“智能涌现”，AI通过学习海量人类知识具备泛化智能。
第二阶段：“自主行动”，AI掌握工具使用和编程能力以“辅助人”，这是行业当前所处的阶段。
第三阶段：“自我迭代”，AI通过连接物理世界并实现自学习，最终实现“超越人”。

为实现这一目标，吴泳铭明确了阿里云的战略路径。阿里云作为“全栈人工智能服务商”，将通过两大核心路径实施AI战略：第一，通义千问坚定开源开放路线，致力于打造“AI时代的Android”；其二，构建作为“下一代计算机”的超级AI云，为全球提供智能算力网络。

为支撑这一宏大愿景，吴泳铭表示，阿里巴巴正在积极推进三年3800亿的AI基础设施建设计划，并将会持续追加更大的投入。根据远期规划，为了迎接ASI时代的到来，对比2022年这个GenAI的元年，2032年阿里云全球数据中心的能耗规模将提升10倍。

以下为演讲全文——

开始演讲之前，我想特别感谢一下支持整个中国乃至全球科技行业的开发者朋友。今天是云栖大会的10周年，云栖大会起源于阿里云的开发者大会，是广大开发者推动了中国乃至全球的云计算、AI和科技行业的发展。所以，在演讲之前，我想特别向开发者们致以最高的谢意。

当前的世界，一场由人工智能驱动的智能化革命刚刚开始。过去几百年，工业革命通过机械化放大了人类的体能，信息革命通过数字化放大了人类的信息处理能力。而这一次，智能化革命将远超我们的想象。通用人工智能AGI不仅会放大人类智力，还将解放人类的潜能，为超级人工智能ASI的到来铺平道路。

最近的三年，我们已经清晰地感受到它的速度。几年时间，AI的智力从一个高中生迅速提升到博士生的水平，还能拿到国际IMO的金牌。AI Chatbot是人类有史以来用户渗透率最快的功能。AI 的行业渗透速度超过历史上所有技术。Tokens 的消耗速度两三个月就翻一番。最近一年，全球AI行业的投资总额已经超过4000亿美元，未来5年全球AI的累计投入将超过4万亿美元，这是历史上最大的算力和研发投入，必然将会加速催生更强大的模型，加速AI应用的渗透。

实现AGI——一个具备人类通用认知能力的智能系统，现在看来已成为确定性事件。然而，AGI并非AI发展的终点，而是全新的起点。AI不会止步于AGI，它将迈向超越人类智能、能够自我迭代进化的超级人工智能（ASI）。

AGI的目标是将人类从80%的日常工作中解放出来，让我们专注于创造与探索。而ASI作为全面超越人类智能的系统，将可能创造出一批“超级科学家”和”全栈超级工程师”。ASI将以难以想象的速度，解决现在未被解决的科学和工程问题，比如攻克医学难题、发明新材料、解决可持续能源和气候问题，甚至星际旅行等等。ASI将以指数级的速度推动科技的飞跃，引领我们进入一个前所未有的智能时代。

mportant;">

我们认为，通往ASI之路将经历三个阶段：

第一阶段是“智能涌现”，特征是“学习人”。

过去几十年的互联网发展，为智能涌现提供了基础。互联网将人类历史上几乎所有的知识都数字化了。这些语言文字承载的信息，代表了人类知识的全集。基于此，大模型首先通过理解全世界的知识集合，具备了泛化的智能能力，涌现出通用对话能力，可以理解人类的意图，解答人类的问题，并逐渐发展出思考多步问题的推理能力。现在，我们看到AI已经逼近人类各学科测试的顶级水平，比如国际数学奥赛的金牌水平。AI逐渐具备了进入真实世界、解决真实问题、创造真实价值的可能性。这是过去几年的主线。

第二个阶段是“自主行动”，特征是“辅助人”。

这个阶段，AI不再局限于语言交流，而是具备了在真实世界中行动的能力。AI可以在人类的目标设定下，拆解复杂任务，使用和制作工具，自主完成与数字世界和物理世界的交互，对真实世界产生巨大影响。这正是我们当下所处的阶段。

实现这一跨越的关键，首先是大模型具备了Tool Use能力，有能力连接所有数字化工具，完成真实世界任务。人类加速进化的起点是开始创造和使用工具，现在大模型也具备了使用工具的能力。通过Tool Use，AI可以像人一样调用外部软件、接口和物理设备，执行复杂的真实世界任务。这个阶段，由于AI能够辅助人类极大提高生产力，它将快速的渗透到物流、制造、软件、商业、生物医疗、金融、科研等几乎所有行业领域。

其次，大模型Coding能力的提升，可以帮助人类解决更复杂的问题，并将更多场景数字化。现在的Agent还比较早期，解决的主要是标准化和短周期的任务。要想让Agent能解决更复杂、更长周期任务，最关键的是大模型的Coding能力。因为Agent可以自主Coding，理论上就能解决无限复杂的问题，像工程师团队一样理解复杂需求并自主完成编码、测试。发展大模型Coding能力是通往AGI的必经之路。

未来，自然语言就是AI时代的源代码，任何人用自然语言就能创造自己的Agent。你只需要输入母语，告诉AI你的需求，AI就能自己编写逻辑、调用工具、搭建系统，完成数字世界的几乎所有工作，并通过数字化接口来操作所有物理设备。未来，也许会有超过全球人口数量的Agent和机器人与人类一起工作，对真实世界产生巨大影响。在这个过程中，AI就能连接真实世界的绝大部分场景和数据，为未来的进化创造条件。

随后AI将进入第三个阶段——“自我迭代”，特征是“超越人”。这个阶段有两个关键要素：

一、AI连接了真实世界的全量原始数据

目前AI的进步最快的领域是内容创作、数学和Coding领域。我们看到这三个领域有明显的特征。这些领域的知识100%是人类定义和创造的，都在文字里，AI可以100%理解原始数据。但是对于其他领域和更广泛的物理世界，今天的AI接触到的更多是人类归纳之后的知识，缺乏广泛的、与物理世界交互的原始数据。这些信息是有局限的。AI要实现超越人类的突破，就需要直接从物理世界获取更全面、更原始的数据。

举一个简单的例子，比如一家汽车公司的CEO要迭代明年的产品，大概率会通过无数次的用户调研或者内部的讨论来决定下一款汽车将要具备什么样的功能，与竞对相比要实现哪些方面的长板，保留什么方面的能力。现在AI要去做还是很难的，核心点在于它所获得的数据和信息，全都是调研来的二手数据。如果有一天AI有机会，能够连接这款汽车的所有的资料和数据，它创造出来的下一款汽车会远远超过通过无数次头脑风暴所创作出来的。这只是人类世界当中的一个例子，更何况更复杂的物理世界，远远不是通过人类知识归纳就能够让AI理解的。

所以AI要进入到一个更高的阶段，就需要直接从物理世界获取更全面、更原始的数据，就像在自动驾驶的早期阶段，只靠人类的总结，Rule-based的方法去实现自动驾驶，无法实现很好的效果。新一代的自动驾驶，大部分采用端到端的训练方法，直接从原始的车载摄像头数据中学习，实现了更高水平的自动驾驶能力。即便我们现在看起来相对简单的自动驾驶问题，仅依靠人类归纳的知识和规则，也无法解决，更何况整个复杂的物理世界。只是让AI学习人类归纳的规律，是远远不够的。只有让AI与真实世界持续互动，获取更全面、更真实、更实时的数据，才能更好的理解和模拟世界，发现超越人类认知的深层规律，从而创造出比人更强大的智能能力。

二、Self-learning自主学习

随着AI渗透更多的物理世界场景，理解更多物理世界的数据，AI 模型和agent能力也会越来越强，有机会为自己模型的升级迭代搭建训练infra、优化数据流程和升级模型架构，从而实现 Self learning。这会是AI发展的关键时刻。

随着能力的持续提升，未来的模型将通过与真实世界的持续交互，获取新的数据并接收实时反馈，借助强化学习与持续学习机制，自主优化、修正偏差、实现自我迭代与智能升级。每一次交互都是一次微调，每一次反馈都是一次参数优化。当经过无数次场景执行和结果反馈的循环，AI将自我迭代出超越人类的智能能力，一个早期的超级人工智能（ASI）便会成型。

一旦跨过某个奇点，人类社会就像按下了加速键，科技进步的速度将超越我们的想象，新的生产力爆发将推动人类社会进入崭新的阶段。这条通往超级人工智能的道路，在我们的眼前正在日益清晰。随着AI技术的演进和各行各业需求爆发，AI也将催生IT产业的巨大变革。

mportant;">

我们的第一个判断是：大模型是下一代的操作系统。我们认为大模型代表的技术平台将会替代现在OS的地位，成为下一代的操作系统。未来，几乎所有链接真实世界的工具接口都将与大模型进行链接，所有用户需求和行业应用将会通过大模型相关工具执行任务，LLM将会是承载用户、软件与 AI计算资源交互调度的中间层，成为AI时代的OS。来做一些简单的类比：自然语言是AI时代的编程语言，Agent就是新的软件，Context是新的Memory，大模型通过MCP这样的接口，连接各类Tools和Agent类似PC时代的总线接口，Agent之间又通过A2A这样的协议完成多Agent协作类似软件之间的API接口。

大模型将会吞噬软件。大模型作为下一代的操作系统，将允许任何人用自然语言，创造无限多的应用。未来几乎所有与计算世界打交道的软件可能都是由大模型产生的Agent，而不是现在的商业软件。潜在的开发者将从几千万变成数亿规模。以前由于软件开发的成本问题，只有少量高价值场景才会被工程师开发出来变成商业化的软件系统。未来所有终端用户都可以通过大模型这样的工具来满足自己的需求。

模型部署方式也会多样化，它将运行在所有设备上。现在主流的调用模型API的方式，来使用模型只是初级阶段，其实看起来非常原始。类似大型主机时代的分时复用阶段，每个人只有一个终端连接上大型主机分时复用。这种方式无法解决数据持久化，缺乏长期记忆，实时性不够，隐私无法解决，可塑性也不够。未来模型将运行在所有计算设备中，并具备可持久记忆，端云联动的运行状态，甚至可以随时更新参数，自我迭代，类似我们今天的OS运行在各种环境之中。

正是基于这个判断，我们做了一个战略选择：通义千问选择开放路线，打造AI时代的Android。我们认为在LLM时代，开源模型创造的价值和能渗透的场景，会远远大于闭源模型。我们坚定选择开源，就是为了全力支持开发者生态，与全球所有开发者一起探索AI应用的无限可能。

mportant;">

我们的第二个判断：超级AI 云是下一代的计算机。

大模型是运行于 AI Cloud之上新的OS。这个OS可以满足任何人的需求。每个人都将拥有几十甚至上百个Agent，这些Agent 24小时不间断地工作和协同，需要海量的计算资源。

数据中心内的计算范式也在发生革命性改变，从CPU为核心的传统计算，正在加速转变为以 GPU为核心的 AI 计算。新的AI计算范式需要更稠密的算力、更高效的网络、更大的集群规模。

这一切都需要充足的能源、全栈的技术、数百万计的GPU和CPU，协同网络、芯片、存储、数据库高效运作，并且24 小时处理全世界各地的需求。这需要超大规模的基础设施和全栈的技术积累，只有超级AI云才能够承载这样的海量需求。未来，全世界可能只会有5-6个超级云计算平台。

mportant;">

在这个新时代，AI将会替代能源的地位，成为最重要的商品，驱动千行百业每天的工作。绝大部分AI能力将以Token的形式在云计算网络上产生和输送。Token就是未来的电。在这个崭新的时代，阿里云的定位是全栈人工智能服务商，提供世界领先的智能能力和遍布全球的AI云计算网络，向全球各地提供开发者生态友好的AI服务。

首先，我们有全球领先的大模型——通义千问。通义千问开源了300多款模型，覆盖了全模态、全尺寸，是最受全球开发者欢迎的开源模型。截至目前，通义千问全球下载量超6亿次，衍生模型超17万个，是全球第一的开源模型矩阵，可以说是渗透计算设备最广泛的大模型。

同时，阿里云提供一站式模型服务平台百炼，支持模型定制化以及Agent快速开发，同时提供AgentBay这样的Agent运行环境、灵码/Qoder等一系列开发者套件，让开发者可以方便地使用模型能力和创建使用Agent。

其次，阿里云运营着中国第一、全球领先的AI基础设施和云计算网络，是全球少数能做到软硬件垂直整合的超级AI云计算平台之一。在硬件和网络层面，阿里云自研的核心存储系统、网络架构、计算芯片，构成了阿里云大型计算集群最坚实的底座。

阿里云正在全力打造一台全新的AI超级计算机，它同时拥有最领先的AI基础设施和最领先的模型，可以在基础架构设计和模型架构上协同创新，从而确保在阿里云上调用和训练大模型时，能达到最高效率，成为开发者最好用的AI云。

AI行业发展的速度远超我们的预期，行业对AI基础设施的需求也远超我们的预期。我们正在积极推进三年3800亿的AI基础设施建设计划，并将会持续追加更大的投入。从现在我们看到的AI行业远期发展以及客户需求角度来看，为了迎接ASI时代的到来，对比2022年这个GenAI的元年，2032年阿里云全球数据中心的能耗规模将提升10倍。这是我们的一个远期规划，我们相信通过这样的饱和式投入，能够推动AI行业的发展，迎接ASI时代的到来。

mportant;">

超级人工智能到来之后，人类和AI会是怎么样的协作关系？

未来的AI越来越强，甚至超越人类智能能力的ASI诞生，那我们人类和AI将如何相处？我们对未来充满乐观，超级人工智能到来之后，人类和AI是一个崭新的协同方式。程序员可能已经感受到了，我们可以下一个指令，通过Coding这样的工具，让它晚上12个小时就能够创造出一个我们需要的系统，从这里我们看到了未来人和AI怎么样去共同协同的一种早期的雏形。所以我们觉得，从Vibe Coding到Vibe Working。未来，每个家庭、工厂、公司，都会有众多的Agent和机器人24小时为我们服务。也许，未来每个人都需要使用100张GPU芯片为我们工作。

正如电曾经放大了人类物理力量的杠杆，ASI将指数级放大人类的智力杠杆。过去我们消耗10个小时的时间，获得10小时的结果。未来，AI可以让我们10小时的产出乘以十倍、百倍的杠杆。回顾历史，每次技术革命解锁更多生产力之后，都会创造出更多的新需求。人会变得比历史上任何时候都强大。

最后，我想强调，一切才刚刚开始。AI 将重构整个基础设施、软件和应用体系，成为真实世界的核心驱动力，掀起新一轮智能化革命。阿里巴巴将持续投入，与合作伙伴和客户一起，让AI 深入产业、共创未来。祝大家度过一个充实愉快的云栖大会，谢谢大家！

2025.09.24你们催更的模型，云栖大会一口气全发了！

2025-09-24 18:25:21

mportant; overflow-wrap: break-word !important; display: inline !important;">6款模型上新 + 1个全新品牌发布，覆盖文本、视觉、语音、视频、代码、图像全场景，这份超强清单，请收好：

mportant; overflow-wrap: break-word !important;">

2025年 · 中国人工智能企业500强

2025-09-24 17:29:49

《2025年 · 中国人工智能企业500强》榜单信息汇总：

· 以下是《2025年中国人工智能企业500强》榜单的综合梳理与深度分析，从业排名、行业分布、区域集聚及发展趋势等维度展开：

一、头部企业格局（前10强参考）

以下综合了福布斯AI 50强、胡润AI 50强及行业500强榜单的头部企业，按技术实力与商业价值排序：

1. DeepSeek（深度求索）

① 领域：通用大模型

② 总部：杭州

③ 优势：开源生态活跃，模型训练成本低于同业30%，开发者工具快速扩张。

2. 华为

① 领域：全栈AI（昇腾芯片+云计算+自动驾驶）

② 总部：深圳

③ 优势：Atlas 900算力达256万亿次/秒，工业互联网与智慧城市多场景落地。

3. 阿里巴巴

① 领域：大模型（通义千问）、云计算

② 总部：杭州

③ 优势：通义千问集成至钉钉/淘宝生态，金融与零售场景成熟。

4. 字节跳动

① 领域：AIGC（豆包）、推荐算法

② 总部：北京

③ 优势：豆包AI月活破亿，短视频生态深度整合。

5. 腾讯

① 领域：社交/游戏AI、混元大模型

② 总部：深圳

③ 优势：微信视频号日活6亿，企业服务增速超30%。

6. 科大讯飞

① 领域：智能语音、教育医疗AI

② 总部：合肥

③ 优势：全球语音市场占有率第一，教育/医疗渗透率超60%。

7. 商汤科技

① 领域：计算机视觉、AI大装置

② 总部：上海

③ 优势：医疗影像技术获FDA认证，多行业覆盖。

8. 寒武纪

① 领域：AI芯片

② 总部：北京

③ 优势：专注算力底层，估值2380亿元（胡润榜首）。

9. 大疆创新

① 领域：无人机智能控制

② 总部：深圳

③ 优势：全球无人机市占率超70%，AI赋能飞行与图像识别。

10. 蚂蚁集团

① 领域：金融科技AI

② 总部：杭州

③ 优势：风控与信用评级技术领先。

其他头部企业：百度（自动驾驶）、小米（物联网AI）、京东（物流AI）、海康威视（智能安防）、宇树科技（机器人）。

二、行业分布特征

1. 技术方向集中度

① 大模型（22%）：DeepSeek、智谱AI、MiniMax等。

② 具身智能（14%）：宇树科技、优必选、乐聚机器人（聚焦机器人运动控制）。

③AIGC（12%）：美图、可灵AI（图像/视频生成）。

④ 垂直行业应用：

· 医疗AI：兰丁股份（肿瘤诊断）、智慧眼（医疗影像）；

· 金融科技：东方财富、第四范式（风控与决策系统）。

2. 商业化成熟度

① 技术型（40%）：专注芯片、算法（如寒武纪、阶跃星辰）；

② 应用型（60%）：医疗、制造、金融场景落地（如晶泰科技AI药物研发）。

三、细分领域领军企业（按技术方向）

1. 大模型与生成式AI

① 头部企业：DeepSeek、智谱AI、MiniMax、月之暗面

② 特点：生成式AI商业化加速，企业服务与内容生成成核心场景。

2. AI芯片与算力

① 头部企业：寒武纪、燧原科技、昆仑芯、黑芝麻智能

② 特点：国产芯片替代加速，云端训练芯片技术突破。

3. 自动驾驶与具身智能

① 头部企业：百度Apollo、小马智行、宇树科技、优必选

② 特点：L4级自动驾驶商业化落地，机器人运动控制技术领先。

4. 医疗与工业AI

① 头部企业：兰丁股份（肿瘤诊断）、智慧眼（医疗影像）、中科慧拓（矿山自动驾驶）

② 特点：垂直场景深度渗透，政策驱动需求增长

四、区域集聚特点

1. 一线城市主导

① 北京（35%）：字节跳动、百度、寒武纪（政策与高校资源集聚）；

② 广东（30%）：深圳（腾讯、大疆、优必选）；广州（小马智行、云从科技）。

③ 长三角（25%）：上海（商汤、MiniMax）；杭州（DeepSeek、蚂蚁集团）。

2. 中西部崛起

① 武汉：兰丁股份、武汉紫东太初（光谷AI产业集群，9家企业登福布斯榜）；

② 成都：考拉悠然（空间智能）、恒图科技（图像创意）。

五、发展趋势与挑战

1. 技术迭代加速

① 从通用到垂直：企业重心转向医疗、工业等场景化大模型；

② 硬科技突破：量子计算（图灵量子）、硅光模块（中际旭创）降低算力成本。

2. 挑战

① 国际竞争：美国主导底层技术（芯片/算法），中国强于应用落地；

② 数据治理：跨场景协同与隐私保护矛盾凸显，头部企业合规投入增长50%。

佰强企服报道： 2025年5月26日，《2025中国人工智能500强》榜单发布。

据榜单信息，北京以166家企业占全国33.2%的份额，长三角以上海为核心，联动杭州、苏州、南京等城市贡献32%的企业量，珠三角则以深圳为引擎，联合广州、珠海等城市形成19%的产业集群。无论作为国家科技创新中心，还是依托成熟的产业链和人才储备构建起协同生态，亦或在硬件制造与场景应用领域优势显著，各地区的联合一体是大势所趋。

从具体城市看，北京（166家）、上海（63家）、深圳（57家）、杭州（51家）四城集中了全国67.4%的AI企业，35个长尾城市平均仅拥有1.29家企业，其中27座城市为单家企业入围。值得关注的是，中西部城市展现突破势头：成都、重庆双城作为西部创新极带动川渝地区突破20家企业总量，武汉、合肥依托高校资源加速产学研转化，拉萨、雄安新区等政策导向型城市也开启AI产业布局。珠海以7家企业数超越多个省会，凸显特区政策红利；湖州、嘉兴等长三角三线城市实现重要突破，折射出产业扩散效应。

综合小扎AI眼镜当场死机，CTO自曝灾难级演示：一个指令干趴服务器

2025-09-24 16:34:06

就在上周，小扎当着数万观众的面，搞砸了！

他在Meta总部现场演示智能眼镜Ray-Ban Display时，眼镜内置AI助手，无法正确回应对话。

而且，Ray-Ban Display眼镜在与神经腕带的来电/交互演示时，也没能成功，引发现场哄笑与尴尬。

演示失败之后，关于扎克伯格现场演示的视频片段充斥社交媒体。

「绝对灾难……可能是我见过最糟糕的科技演示。」「录音比演员先动」「整整一分钟都没成功，太尴尬了。」「百亿美元公司责怪Wi-Fi」

网友的嘲讽，把这次发布会上未来科技的亮点，变成了病毒式传播的素材。

有网友认为，这次演示失败，表明Meta智能眼镜产品还处于早期阶段。

还有网友不忘黑色幽默一把：「这次翻车反倒让Meta看起来更真实，少了录播的既视感」。

对此，Meta首席技术官Andrew Bosworth坚称：「这只是一场演示失败，而非产品本身的失败。」

小扎演示大翻车

带单目HUD的Ray-Ban Display智能眼镜、sEMG神经腕带，这次发布会，Meta准备了不少硬核科技，按小扎的设想，它原本应该是这样的：

当用户戴上眼镜，无论是识别眼前事物，还是学习烹饪，都能在AI的加持下轻松搞定。

为了证明这一点，小扎特地邀请了美食内容创作者Jack Mancuso，准备让AI手把手教他做一道韩式风味牛排酱。

Mancuso通过Ray-Ban Display问AI助手：

「你能帮我调一款韩式风味的牛排酱吗？」

AI助手开始给出建议。

但当Mancuso接下来追问「我第一步该做什么？」时，意外发生了。

现场陷入了长达数秒的死寂。

Mancuso只好又重复了一遍自己的问题。

小扎尴尬地甩锅：「你花了数年时间开发技术，结果在演示当天，Wi-Fi却出了点问题……这有点让人措手不及。」

但灾难并未就此结束。

扎克伯格试图亲自救场，展示眼镜的视频通话功能。

他想接通Meta首席技术官Andrew Bosworth的电话，但眼镜却毫无反应。

「呃……这……这难免会发生，」这位身价千亿的CEO结结巴巴地解释，脸上写满了无奈。

「我们再试一次，我总是搞砸。」

结果，还是失败了。

CTO复盘内幕

一个指令干趴服务器

发布会后，网络上充满了嘲讽。

Andrew Bosworth，这位Meta首席技术官，不得不在Instagram上进行了一场问答，并且坚称：「这只是一场演示失败，而非产品本身的失败。」

失误之一：一场无意的「自我DDoS攻击」

Bosworth解释，导致厨师眼镜失灵的罪魁祸首并非Wi-Fi，而是一个致命的资源规划失误。

当Mancuso在舞台上说出唤醒词：「嘿，Meta，启动实时AI」时，这个指令被广播了出去。

但系统犯了一个灾难性的错误：它不仅激活了Mancuso手上的那一副眼镜，而是启动了发布会大楼里每一副处于激活状态的Ray-Ban Meta眼镜的「实时AI」功能。

Bosworth解释道，当时现场有很多人，现场彩排时并没有预料到会有那么多设备同时在线。

更为糟糕的是，为了保证演示的稳定性，技术团队将「实时AI」的所有流量都导向了一台内部开发服务器，以便进行隔离和监控。

这个操作本该只针对舞台上的那一副眼镜，但它却被应用到了整个网络。

于是数百副眼镜的请求，瞬间如洪水般涌向了那台根本没有准备好应对如此大规模并发请求的开发服务器。

「所以，那场演示基本上等于我们对自己发动了一次DDoS攻击（分布式拒绝服务攻击）。」

Bosworth用这一个网络安全术语，为这场混乱给出了最精准的定义。

换句话说就是，他们亲手把自家的服务器干趴了。

失误之二：一个时机「糟透了」的Bug

那么，失败的视频通话又是怎么回事？

Bosworth承认，这是一个新发现的，此前从未遇到过的Bug。

他解释道，这是一个典型的「竞争条件（race condition）」问题。

简单来说，就是两个或多个进程在不可预测的时间点上，试图访问同一个资源，导致了意外的混乱。

具体到当时的情景：

Bosworth的视频通话请求在恰当的时间发送给了扎克伯格的眼镜。
就在请求到达的那一刻，眼镜的微型显示屏恰好进入了休眠状态以节省电量。
当扎克伯格唤醒屏幕时，系统进程出现了冲突——负责显示来电通知的进程，与负责唤醒屏幕的进程「打架了」，最终导致来电通知没能成功显示出来。

目前，这个Bug已经被修复了，只是它出现的场合时机实在是糟透了。

尽管演示现场出现了问题，但Bosworth并不担心这些故障所带来的影响。

「我知道产品本身是过硬的，是有真材实料的。所以这真的只是一场演示失败，而非产品本身的失败。」

宁可错花数千亿刀

也绝不错过超级智能

虽然这次演示中频频翻车，但Meta已经为此下了血本。

就像小扎在发布会现场说的，为了这次演示，Meta花了数年时间开发技术。

目前，Meta正斥资数百亿美元建设基础设施、招募行业顶尖人才以支持其AI战略。

小扎也一再加码，坚称智能眼镜和AI驱动的「超级智能」就是公司的未来。

的确，AI可能存在泡沫，但在小扎看来，Meta真正面临的风险并非来自过度激进，而是来自不够激进。

与白白花掉几千亿美元相比，真正的风险在于错失「超级智能」（Superintelligence）时代的到来。

小扎坚信，如果公司发展太慢，当AI的奇点来临时，Meta将彻底错失未来。

为此，Meta已经准备了惊人的资源投入：

到2028年，在数据中心和基础设施领域，投入高达6000亿美元的资金；
用行业内最高的薪酬和超越对手的GPU资源，吸引全球最顶尖的AI人才；
组建扁平化的「超级智能」实验室，并且不设自上而下的KPI。

而这场数千亿美金豪赌的目标只有一个：让Meta在超级智能的竞赛中取得领先。

除此之外，比起诸如OpenAI、Anthropic这些需要依赖外部融资的公司，Meta还有一个非常明显的优势，凭借其强大的盈利能力，可以支撑这场旷日持久的消耗战。

当市场下行时，那些需要不断「找钱」来支付高昂算力账单的初创公司可能会岌岌可危，而Meta则没有这方面的担忧。

现实也确实如此，在过去一年里，Meta的股价上涨了近40%。

AI大模型加速迭代推动算力增长 AIGC是未来十年科创主流

2025-09-24 16:30:56

AI大模型的加速迭代对算力增长起到了显著的推动作用。首先，AI大模型的迭代速度越来越快，导致厂商对智能算力的投入大幅增加，特别是对支持存储和训练的高端AI服务器的需求激增。这种需求的增长直接推动了算力市场的快速发展。其次，AI大模型的发展被视为人工智能迈向通用智能的重要里程碑，其落地应用不仅改变了AI的三要素（数据、算法、算力），还促进了基于场景、产品、算力的新模式。此外，大模型算法的迭代升级为全球及中国AI算力市场的增长提供了强劲动力，促使国产AI芯片产业链加快成熟。

政策利好、需求强劲以及技术创新的叠加，预计2024年以智算为核心的算力产业将维持高速增长态势。同时，国家工信安全中心发布的《AI大模型发展白皮书》系统分析了AI大模型发展的总体态势和未来发展趋势，进一步证明了AI大模型对经济社会发展的深远意义。国内外互联网龙头公司在农历春节期间迎来AI大模型技术的新进展，显示了AI大模型浪潮热度的再次升温。

综上所述，AI大模型的加速迭代不仅推动了算力技术的升级和算力规模的增长，还促进了算力产业的整体发展，特别是在智能算力领域。这些因素共同作用，使得算力需求持续爆发，企业纷纷扩大算力供给，从而加速了算力市场的整体增长[8]。因此，可以得出结论，AI大模型的加速迭代确实推动了算力的增长。

国产AI大模型平台在国际市场上的竞争力如何？

国产AI大模型平台在国际市场上的竞争力表现出色。首先，从全球AI研究的排名来看，中国位居美国之后，排名第2，这表明中国的AI技术和企业在全球范围内具有较高的认可度和竞争力。特别是北京地区的企业如百度、字节跳动等，在全球AI研究领域中占据重要位置，这些企业的成功不仅提升了中国在全球AI领域的地位，也为中国AI大模型平台在国际市场上提供了强有力的支持。

此外，根据2023年中国AI大模型企业排名榜，通过经济实力、技术水平、技术创新、合作生态、行业影响力等多个维度的综合评价，评选出了人工智能大模型企业50强榜单。这一评选标准涵盖了企业在国际市场竞争中所需的关键因素，进一步证明了中国AI大模型企业在技术创新和行业影响力方面的强劲实力。

国产AI大模型平台在国际市场上的竞争力非常强，不仅在国内获得了高度认可，而且在全球范围内也展现出了强大的竞争力和影响力。

AIGC是未来十年科创主流

AIGC（人工智能生成内容）技术是未来科技创新的主流方向之一。从多个角度来看，AIGC的发展趋势和应用前景都非常广阔。

首先，AIGC技术在产业生态方面正在加速形成三层产业生态并持续创新发展，正走向模型即服务（MaaS）的未来。这表明AIGC技术不仅在技术层面得到发展，而且在产业生态上也展现出强大的生命力和创新能力。

其次，AIGC作为人工智能的重要演进方向，其底层技术的突破，如生成算法、大模型与多模态等，成为了AIGC质变的关键。这些技术的进步为AIGC的发展提供了坚实的基础。再者，随着AIGC技术的发展，智能化应用将呈现爆发式增长。IDC预测，到2024年全球将涌现出超过5亿个新应用，这相当于过去40年间出现的应用数总和。这一预测显示了AIGC技术在未来十年内的巨大潜力和广泛应用前景。此外，AIGC技术的应用不仅限于特定领域，而是涵盖了文化产业、内容生产力变革等多个方面。这意味着AIGC技术将在更广泛的领域内发挥重要作用，推动相关行业的创新和发展。

相信在政策、市场、技术等多重因素的驱动下，AIGC产业和信创产业的发展前景被看好。这进一步证明了AIGC技术在未来十年内将成为科创主流的可能性。基于AIGC技术在产业生态、技术创新、应用前景以及政策支持等方面的综合表现，可以预见AIGC将是未来十年科创的主流方向之一。目前，AIGC技术已经在保险、非保险金融、政务、医疗卫生等垂直行业或领域中展现出应用潜力。

2024年联合国和经合组织AI政策出台情况分析

2025-08-13 21:58:56

2024年联合国和经合组织共出台了6个人工智能产业相关决议和报告，涉及人工智能能力建设、可持续发展、教师和学生能力框架、风险规避等方面。

图表：2024年联合国和经合组织AI政策和报告出台情况-6个

序号	区域/范围	政策/报告名称	发布部门
1	联合国	《关于加强人工智能能力建设国际合作的决议》	联合国通过中国牵头提出的决议案
2	联合国	《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》	联合国通过美国牵头提出的决议案
3	联合国	《2024联合国人工智能活动报告》	国际电信联盟（ITU）与46个联合国机构和团体共同编制
4	联合国	《教师人工智能能力框架》	联合国教科文组织
5	联合国	《学生人工智能能力框架》	联合国教科文组织
6	经合组织	《人工智能：未来潜在优势、风险和政策要求》	经济合作与发展组织（OECD）

数据来源：深圳市人工智能产业协会研究部

2024年，联合国与经合组织围绕人工智能治理与发展发布多项政策文件，形成多维度的国际规范体系。中国提出的《加强人工智能能力建设国际合作决议》获得140余国支持，强调以“以人为本、智能向善”为核心原则，主张通过技术普惠缩小发展中国家数字鸿沟，并明确联合国在全球AI治理中的协调作用。该决议与美国牵头的《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展决议》形成互补，后者聚焦AI系统全生命周期的安全性，要求建立符合人权法的国际标准，同时强调多方利益相关者合作以推动数字化转型。

在实践层面，国际电信联盟联合46个联合国机构发布的《2024联合国人工智能活动报告》显示，全球AI项目数量显著增长，覆盖所有17项可持续发展目标。报告指出，AI在农业精准管理、能源效率提升、医疗资源优化等领域成效突出，但也暴露数据质量参差、算法偏见风险及跨机构协作障碍等问题。例如，国际原子能机构利用AI监测核设施，而国际劳工组织则研究算法对物流行业的劳动影响，凸显技术应用的双重性。

教育领域成为规范重点。联合国教科文组织发布的《教师人工智能能力框架》与《学生人工智能能力框架》构建了系统性能力模型。教师框架涵盖AI伦理、教学法融合等15项能力，分“习得-深化-创造”三层进阶；学生框架则强调批判性思维，要求掌握AI技术原理、系统设计及伦理评估。两框架与OECD《人工智能：未来潜在优势、风险和政策要求》形成呼应，后者警示AI可能加剧网络攻击、隐私侵犯及劳动力市场不平等，提出建立“可解释AI”标准及国际风险共治机制。

当前政策体系呈现三大特征：一是发展导向，通过技术转移与能力建设推动全球包容性增长；二是安全底线，强化伦理审查与监管框架以防范系统性风险；三是多边协同，联合国系统与经合组织分别发挥规范制定与实证研究优势。然而，政策落地仍面临挑战，如发展中国家基础设施缺口、跨国数据共享壁垒及技术滥用监管滞后等，需进一步构建“技术-治理-能力”三位一体的国际合作机制。

王毅出席金砖国家外长会晤：欢迎金砖国家参与2025年世界人工智能大会

2025-07-23 09:56:43

当地时间2025年4月28日，中共中央政治局委员、外交部长王毅在里约热内卢出席金砖国家外长会晤时就完善全球治理阐明中方立场。

王毅强调，当前全球治理处在重要十字路口，金砖国家作为新兴力量的代表，应当增强历史自觉，坚持团结合作，同国际社会一道，改革完善全球治理架构，使之更及时有效应对各种全球性挑战，更均衡合理反映全球南方的共同意愿。

一要维护多边贸易规则。反对一切形式的保护主义，坚决维护以规则为基础、世界贸易组织为核心的多边贸易体制，积极参与世贸组织改革，维护其核心价值和基本原则，推动争端解决机制尽快恢复正常运转。持续深化金砖经贸务实合作，促进贸易自由化便利化。

二要加强全球金融治理。推动国际金融架构改革更好反映世界经济格局的变化，更好服务全球南方经济的增长。开展世界银行股权审议，推进国际货币基金组织份额占比调整，解决全球南方代表性和发言权严重不足这一历史不公。

三要实现绿色转型。推动《巴黎协定》全面有效实施，坚持共同但有区别的责任和各自能力原则，敦促发达国家履行应尽义务。深化金砖国家能源领域低碳转型合作，共同实现更高质量、更可持续的发展。支持巴西主办的《联合国气候变化框架公约》第30次缔约方大会取得积极成果，推动全球气候治理体系朝着公正合理、合作共赢的方向迈进。

四要共享数字机遇。推动联合国框架下《全球数字契约》落地，弥合数字鸿沟，制定网络空间共同规则。完善人工智能全球治理，倡导公平普惠、安全向善、协同共治。欢迎金砖国家参与将在上海举行的2025年世界人工智能大会。

OpenAI收购硬件设计公司；Anthropic发布全新Claude 4模型；谷歌成功举办I/O大会……

2025-05-21 17:11:29

要闻列表

AI万象

浙江：将智能家居机器人、智能眼镜等产品纳入消费品以旧换新补贴范围

大平台动作

Google I/O 大会：Gemini 宣布升级，全面接管搜索

OpenAI 收购前苹果硬件设计师新公司，将参与 AI 硬件开发

Anthropic 发布全新编码模型 Claude 4 系列

苹果 WWDC 2025 定档 6 月 10 日

美团即将上线 AI 编程工具 NoCode

腾讯混元上线游戏视觉生成模型

新力量崛起

Manus AI 推出团队套餐，每月售价39 美元Mistral AI 推出专为编程设计的新模型 Devstral

投融资风向

面壁智能完成新一轮数亿元融资

企业帷幄宣布连续完成 C1 轮和 C2 轮融资，总计募集超 6000 万美元

01、浙江：将智能家居机器人、智能眼镜等产品纳入消费品以旧换新补贴范围

AI万象

5 月 20 日，浙江省人民政府日前印发《关于支持人工智能创新发展的若干措施》（以下简称《措施》），聚焦具身智能应用与智能终端消费领域，推出多项创新性支持政策。《措施》自 2025 年 5 月 31 日起实施，有效期至 2027 年 12 月 31 日。

《措施》提出，浙江将着力建设具身智能行业基地，配套搭建公共测试环境与测试验证平台，为具身智能软硬件的迭代升级提供底层支撑，并推动形成行业标准体系。同时，鼓励国有企事业单位围绕未来工厂、智慧园区等场景，每年滚动开放不少于 50 个应用场景，打造具身智能的“样板间” 和“体验中心”，加速技术与产业的融合落地。

在刺激消费端创新方面，浙江明确将智能家居机器人、智能眼镜等 AI 终端产品纳入消费品以旧换新补贴范围。根据政策，消费者购买相关产品可享受售价15% 的补贴，单台最高2000 元。这一举措既推动智能硬件普及，也为本土人工智能企业创造市场空间。

新闻拓展：https://mp.weixin.qq.com/s/wcIMTMuVs0v-DR7mXXCnWg

02、Google I/O 大会：Gemini 宣布升级，全面接管搜索

大平台动作

北京时间 5 月 21 日，谷歌开发者大会（Google I/O）在美国加州山景城举行。此次大会上，谷歌在AI 领域成果颇丰。

谷歌发布升级版 Gemini 2.5 模型，Deep Think 模式增强推理，提升数学、编程等任务表现，Gemini 2.5 Flash 版也提升性能与效率。搜索引擎引入“AI 模式”，利用Gemini 模型提供对话式、有上下文理解的搜索体验，还在测试“深度搜索” 等功能。

在生成式内容方面，谷歌推出 Veo 3 视频生成模型，支持原生音频生成；Imagen 4 图像生成模型提升图像细节和文本输出质量。实验性AI 代理工具Project Mariner 更新，可承担多项任务。

硬件上，谷歌与多品牌合作推出 Android XR 智能眼镜，集成 AI 助手功能。此外，谷歌还推出每月 249.99 美元的 AI Ultra 订阅计划，提供高级AI 功能访问权限。

此外，谷歌还在大会现场公布了一系列数字，其中 Gemini 应用月活跃用户超过 4 亿；Gemini 应用中 2.5 Pro 使用量增长了 45%；产品和 API 每月处理的token数从去年同期的 9.7 万亿增长到超过 480 万亿，增长了 50 倍；超过 700 万开发者正在利用 Gemini 进行构建，是去年同期的 5 倍；Vertex AI 上 Gemini 使用量增长了 40 倍。

新闻拓展：https://mp.weixin.qq.com/s/aJrGO1pNttM1igCMWfZYWQ

03、OpenAI 收购前苹果硬件设计师新公司，将参与 AI 硬件开发

大平台动作

当地时间 5 月 23 日，OpenAI 宣布将收购一家名为 iO 的初创公司，该公司由前苹果设计师 Jony Ive 成立。

此前，Sam Altman 已经和Jony Ive 合作两年，而之后，Ive 和他的设计公司LoveFrom 将领导OpenAI 的创意和设计工作。iO 拥有约 55 名工程师、科学家、研究员、物理学家和产品开发专家，他们都将加入OpenAI。iO 的许多员工都曾是苹果公司的设计师，包括 Scott Cannon、Evans Hankey和 Tang Tan，他们帮助苹果公司打造了最具标志性的产品。

早在今年 4 月，就有消息称 OpenAI 将收购 iO 。报道称， iO 将以至少 5 亿美元（约合人民币 36.41 亿元）的价格被 OpenAI 收购。如果交易达成，这将是 OpenAI 从软件领域向消费硬件迈出的重要一步。而双方合作的消息最早可以追溯到2023年。当时海外媒体爆出 Ive 将与 Sam Altman 合作开发一款 AI 硬件产品，而软银的孙正义也参与了他们的谈判，但最终并没有参与投资。

据悉，iO 成立于 2024 年，致力于打造 AI 驱动的个人设备，提供更自然、更少干扰的科技交互方式。收购完成后，OpenAI 将会推出一款小巧的无屏幕AI 设备，但具体细节尚未透露。据悉，这款硬件产品将会集合 OpenAI 的技术专长以及 iO 的设计专长。关于这款新设备的首批官方信息预计将于 2026 年发布。

新闻拓展：https://www.theverge.com/news/672357/openai-ai-device-sam-altman-jony-ive

04、Anthropic 发布全新编码模型 Claude 4 系列

大平台动作

5月23日，Anthropic 宣布将推出下一代 Claude 模型：Claude Opus 4 和Claude Sonnet 4，在编码、AI Agent 这方面有突出表现。

据悉，Claude Opus 4 是全球最优秀的编码模型，在复杂的长期任务和代理工作流程中表现出持续稳定的性能。Claude Sonnet 4 则是 Claude Sonnet 3.7 的重大升级版本，在实现更出色的编码和推理能力的同时，能更精准地响应您的指令。

Claude Opus 4 在编程基准测试 SWE-bench 上取得了 72.5% 的得分，在 Terminal-bench 上也达到了 43.2%；而 Sonnet 4 在 SWE-bench 上的得分也达到了 72.7%，接近 Opus 4 的水平。

而根据提前试用者的反馈，很多场景已经远非生成代码片段或辅助调试，而是能够理解并处理数百万行级别的复杂代码库，从高度抽象的自然语言需求直接生成结构完整、逻辑严密的应用程序框架。

在一项高要求的开源重构任务中，Opus 4 连续稳定运行长达 7 小时，表现出色。Cognition AI 表示，Opus 4 能解决其他模型此前无法完成的复杂任务。这种深度理解和生成能力，是构建更高级智能体的前提。

Claude 4 系列已经朝着“虚拟协作伙伴” 目标迈出了一大步—— 它们能够保持完整上下文、持续聚焦于更长期的项目，并带来变革性影响。模型经过了广泛测试和评估，以最大限度降低风险并提升安全性，包括实施符合更高人工智能安全等级（如 ASL-3 ）的措施。

新闻拓展：https://mp.weixin.qq.com/s/XjjNBEh75fD7RnmUVDu_2w

05、苹果 WWDC 2025 定档 6 月 10 日

大平台动作

5 月 20 日，苹果官方宣布，在谷歌举办 I/O 大会之际，苹果 WWDC 2025 也正式定档，将在北京时间 6 月 10 日至 14 日举行。

其中苹果将于北京时间 6 月 10 日早上 1 点举办开幕主题演讲，届时苹果将会介绍其即将推出的最新功能，包括最新的系统以及相关功能。

据悉，苹果将会在本次主题演讲中发布关于 iOS19 的最新消息，包括新的设计界面和全新功能。此外，Platforms State of the Union 将更深入地介绍进一步赋能 Apple 开发者的新工具，包括 iOS、iPadOS、macOS、tvOS、visionOS 和 watchOS 平台的诸多优化提升。

在活动期间，苹果将举办百余场技术演讲，由 Apple 专家向开发者深入介绍最新技术和框架。开发者可通过 Apple Developer app 和网站观看讲座。开发者还可访问各种指南与文档，了解大会最重要的发布内容与精彩时刻。

新闻拓展：https://www.apple.com.cn/newsroom/2025/05/apples-worldwide-developers-conference-kicks-off-june-9/

06、美团即将上线 AI 编程工具 NoCode

大平台动作

5月20日，据智能涌现报道，美团即将正式推出 AI 编程工具 NoCode，该工具聚焦氛围编程领域，由美团基础研发平台旗下的研发质量与效率团队开发。这一动作瞄准自 2024 年起持续升温的 AI 编程赛道 —— 全球范围内，Cursor、Devin 等产品已凭借差异化路线引发关注，而国内大厂亦纷纷入局，此次美团的加入进一步加剧了该领域的竞争热度。

当前 AI 编程赛道主要分为两大技术路径：

一是辅助编程模式，以 Cursor、Windsurf、Bolt、Lovable 为代表，AI 作为 “协作伙伴” 辅助人类完成代码编写、调试等核心工作，人类仍主导开发流程；

二是自主编程模式，以 Devin 为典型，AI 跃升为开发主体，可独立处理从需求解析到代码生成的全链条任务，人类仅需明确任务目标与关键节点。

美团 NoCode 的产品定位更趋近后者中的明星应用 Lovable，主打对话式交互与低技术门槛，面向非技术人群提供 “需求对话 - 自动编码 - 一键部署” 的全流程服务，覆盖数据分析工具开发、产品原型设计、运营插件搭建、门户网站生成等场景。通过自然语言交互降低编程门槛，该工具试图让用户无需掌握专业代码知识，即可通过多轮对话驱动 AI 完成开发任务，推动编程从 “技术专属” 向 “全民可用” 演进。

随着大厂加速布局，AI 编程赛道正从 “概念验证” 迈向 “规模化应用” 阶段，美团此次推出 NoCode ，既是对行业趋势的响应，也有望通过差异化定位在工具类市场中开辟新空间。

新闻拓展：https://mp.weixin.qq.com/s/b7pQ5lloHiUpyvciuyKgiQ

07、腾讯混元上线游戏视觉生成模型

大平台动作

5 月 20 日，腾讯正式发布混元游戏视觉生成平台，这是一款依托混元大模型打造的AI内容引擎，专为游戏工业级内容生产而生。

该平台的推出标志着游戏美术设计行业进入了一个全新的高效创作时代，有望将创作效率提升数十倍。在过去，游戏美术设计师在创作角色图时，往往需要在多个软件之间来回跳转，从寻找参考图到起草图、制作三视图，再到渲染动态演示，整个流程分散且繁琐，文件需要反复导入导出。而腾讯混元推出的AI美术管线，将这一整套流程压缩进一个工作页面里。

用户只需输入一句提示词，比如“一个厚涂风格的动漫少女”，平台就能生成一组灵感参考图。选中图后，设计师可以直接在同一页面绘制草图，并一键生成标准三视图和360°旋转演示视频，整个过程无需切换软件，极大地节省了时间和精力。

腾讯混元预计，未来数月内还将有新一轮「能力增强带」向游戏美术行业推进，将推动行业天气进一步「变好」。包括——

图生视频：让静态画面动起来，适合展示动画或开场演示；

动态立绘：让角色更灵动，支持轻微动作循环；

视频超分：提升低清素材画质，适合项目高清化升级；

交互式生成：用键盘控制内容生成，打造沉浸式内容体验。

新闻拓展：https://mp.weixin.qq.com/s/629sHaUWAgF-xzQ6Kx-OiQ

08、Manus AI 推出团队套餐，每月售价39 美元

新力量崛起

5 月 21 日，Manus 宣布推出团队套餐，让用户可以共享会员功能。

据悉，该套餐将为每个团队用户提供 3900 个积分，而且团队成员人数不设上限，每一位团队成员可以同时运行两个任务。套餐每月定价 39 美元，而每个团队需要有至少5个成员。

Manus 于今年 3 月在社交媒体上引起热议，最近几周它又推出了一些高级产品和移动应用。据报道，该平台背后的初创公司 Butterfly Effect 最近在 Benchmark 领投的一轮融资中筹集了 7500 万美元，公司估值达 5 亿美元。

据外媒报道，Manus 的目标是拓展新市场，包括日本和中东。该公司还打算继续升级为其平台提供动力的人工智能模型。目前，Manus 主要使用 Anthropic 的 Claude 3.7 Sonnet 和阿里巴巴 Qwen 的定制版本。

新闻拓展：https://techcrunch.com/2025/05/20/agentic-ai-platform-manus-launches-a-paid-plan-for-teams/

09、Mistral AI 推出专为编程设计的新模型Devstral

新力量崛起

当地时间 5 月 22 日，Mistral AI 宣布推出一款专注于编码的新AI 模型Devstral。

Mistral称，Devstral是与人工智能公司 All Hands AI 合作开发的，在 Apache 2.0 许可下公开可用，这意味着它可以不受限制地用于商业用途。

Mistral声称，Devstral在SWE-Bench Verified上的表现优于谷歌的Gemma 3 27B和中国人工智能实验室DeepSeek的V3等其他开放模型。

Devstral 经过训练，能解决 GitHub 上的实际问题；它在代码代理支架（如 OpenHands 或 SWE-Agent）上运行，这些支架定义了模型与测试用例之间的接口。Mistral展示了 Devstral 在流行的 SWE-Bench Verified 基准上的表现，该基准是一个由 500 个真实 GitHub 问题组成的数据集，这些问题的正确性都经过了人工筛选。

Devstral 在 SWE-Bench Verified 上的得分高达 46.8%，比之前的开源 SoTA 模型高出 6% 以上。在相同的测试支架（OpenHands，由 All Hands AI 提供）下进行评估时，Devstral 远远超过了 Deepseek-V3-0324 (671B) 和 Qwen3 232B-A22B 等大型模型。

Misratl 还将Devstral 与在任何支架（包括为模型定制的支架）下评估的封闭式和开放式模型进行了比较。并发现 Devstral 的性能大大优于一些封闭源代码的替代方案。例如，Devstral 比最近的 GPT-4.1-mini 高出 20% 以上。

新闻拓展：https://mistral.ai/news/devstral

10、面壁智能完成新一轮数亿元融资

投融资风向

5 月 21 日，面壁智能宣布完成新一轮数亿元融资，本轮融资由洪泰基金、国中资本、清控金信和茅台基金联合投资。

本轮融资的完成，将进一步为面壁智能构筑高效大模型技术、产品壁垒、加速行业赋能与生态拓展奠定坚实基础，协同产业上下游推动「端侧大脑」在千行百业规模化应用。面壁持续推动端侧大模型在各领域的拓展和普及，将高性能的端侧 AI 融入到不同终端产品中，继而为每个人的工作生活带来「智」的变化，获得了业界认可。

值得一提的是，在打造智能座舱方面，面壁智能发布了以 MiniCPM 模型为核心的业界首个智能座舱纯端侧汽车助手 cpmGO，创造了与云端全面对齐的智能座舱「原生端侧体验」。通过与长安汽车、上汽大众、长城汽车等顶级车企深入合作，实现了多款量产车型定点。首款端侧模型量产车——长安马自达 MAZDA EZ-60 于今年 4 月正式发布，标志着端侧大模型在汽车座舱领域的商业化落地迈入新阶段。此外，面壁与高通、英特尔、联发科技、梧桐车联、德赛西威、中科创达、安波福等标杆企业深度合作，携手推动端侧原生智能座舱广泛落地。

新闻拓展：https://mp.weixin.qq.com/s/AT9quVBhxP5nZcidwFCagA

11、AI企业帷幄宣布连续完成 C1 轮和 C2 轮融资，总计募集超 6000 万美元

投融资风向

5 月 20日，企业级人工智能领域的佼佼者「帷幄」宣布，已连续完成 C1 与C2 两轮融资，累计募集资金超6000 万美元。在2025 年5 月的C2 轮融资中，博世创投（Bosch Ventures）、MTR Lab、印尼电信（MDI Ventures）、新加坡电信（Singtel Innov8）以及菲律宾最大零售集团SM Prime 旗下的Gentree Fund 等新战略投资者纷纷入局。

此次融资标志着帷幄在全球市场的拓展进程将大幅加速，有望成为亚洲、北美乃至全球市场的企业级 AI 基础设施领域的领军者。募集资金将主要用于三个关键方向：市场拓展，以提升品牌影响力并扩大客户群体；深化产品创新，进一步完善其智能商业系统；加强全球化运营，以更好地应对全球智能商业系统不断增长的需求。

目前，帷幄的业务已覆盖全球 20 多个国家，服务超过600 家企业，业务范围广泛，涵盖智能出行、消费零售、医疗健康、餐饮轻食、家居、母婴、鞋服、奢侈品、消费电子以及金融等多个行业。

新闻拓展：https://mp.weixin.qq.com/s/jQD1x4-nZCL73LDqwy_isg

资讯、AI产品商机网

谈论AI商业化，先弄清楚这三个问题

关于AI商业化，我们首先思考三个问题：

AI和行业结合的关键点是什么？

支撑AI商业化的系统能力是什么？

AI+会带来哪些新的商业机会？

2025彭丽媛出席全球妇女峰会，携各国政要点赞跨维智能

突发！OpenAI入股AMD，签百亿订单，AMD股价飙升35%

2025深圳人工智能大会：一文了解12号馆的展览图、展商名录、论坛

智能时代，同球共济！2025世界人工智能大会将于7月26日启幕

十四届全国人大常委会专题讲座第十讲讲稿：人工智能与智能计算的发展

人工智能与智能计算的发展

2025DeepSeek交流纪要（字节内部原文）

观点分享

交流探讨

a16z深入详解 MCP 和 AI 工具的未来

什么是MCP

热门流行用例

未来的可能性

AI工具的影响

未来

2025:Cursor CEO 最新专访：五年内所有编程将用 AI 进行

AI周刊丨本周不可错过的AI行业动态（6.9-6.15）

01. AI大事件

智谱推出首个企业级超级助手Agent——CoCo

联想发布城市超级智能体，展现AI驱动城市治理新范式

科大讯飞最新发布！打造下一代智能交互新范式

全球AI开源贡献榜出炉，阿里千问跻身全球前五、中国第一

Tolan已在全球获得超 500 万次下载，ARR超 400 万美元

字节跳动 Seed 团队正式发布视频生成基础模型 Seedance 1.0

02. 新产品发布

Dia 浏览器向 Arc 用户开放下载，推出“外部记忆体”功能

夸克发布行业首个高考志愿大模型

腾讯元宝“高考志愿咨询”功能上线：可提供专属深度建议

阿里国际站发布首个外贸营销智能体 OKKI AiReach

Meta 推出基于视频训练的世界模型 V-JEPA 2

OpenAI 发布 o3-pro升级版推理模型，支持调用ChatGPT全套工具

字节跳动推出豆包大模型 1.6，使用成本降至三分之一

腾讯发布混元3D 2.1：首个完全开源AI 3D建模工具上线

其他动态

豆包一句话P图升级，基于最新图像编辑模型SeedEdit 3.0，支持更多，P图玩法，包括一键添加或替换文字局部P图和风格切换，主体保持不变。

商汤科技的“小浣熊家族”与蚂蚁集团的“蚂蚁百宝箱”正式达成生态合作，联合打造“AI数据分析助手”，为用户提供大模型服务，后续将登陆支付宝平台。

谷歌上线 Weather Lab 气象预测网站，引入 DeepMind AI 模型，可预测台风的生成时间、路径、强度等，模拟未来 15 天多达 50 种气象发展场景。网站提供与欧洲中期天气预报中心传统模型的对比功能，帮助用户更早获取气旋信息。 ·

全球最大资管机构贝莱德已构建名为Asimov的AI研究平台。该虚拟分析师可24小时不间断地分析公司财报、研报和各类文件，以生成投资洞见。此举是金融业大规模应用AI的缩影，旨在提升投研效率和深度。

Manus现已接入Veo3模型，带来更出色的视觉表现力，角色对话更自然，音画同步更准确，故事叙事更流畅可以创作出电影级别的视觉体验。面向Basic，Plus，Pro会员开放使用。

知乎知名答主夕小瑶团队推出全球首个A2A范式Agent——Teamo。产品定位为知识工作者的超级Agent，采用Agent-to-Agent（A2A）范式，由“Teamo队长”统一指挥，各领域专业Agent协同工作，模拟真实团队作业。

普林斯顿大学与复旦大学联合推出全球首个历史领域AI评测基准HistBench及AI历史助手HistAgent。HistAgent集成文献检索、OCR识别、多语言翻译等工具，专为历史研究优化，在HistBench测试中表现远超现有模型。

OpenAl、Anthropic和 Google与 Lovable 合作，在本周末举办 AI 对决，周末期间，每个人都能不限量免费使用 Lovable生成代码，比较各模型 vibe coding 的表现。活动期间构建的网页还能分 65000 美金的奖金。

03. 开源项目

Mistral 推出推理模型 Magistral 系列，Small 版已开源

小红书hi lab团队首次开源文本大模型 ：dots.llm1

Databricks开源其核心ETL框架Delta Live Tables

04. 投资融资

美泰公司与 OpenAI 合作，将生成式AI技术引入玩具开发

靠ChatGPT狂飙，OpenAI年化经常性收入突破百亿美元

AI 编程工具 Cursor 快速崛起，20 个月实现 1 亿美元年化收入

Meta豪掷143亿美元收购Scale AI 49%股权，创始人加盟

3D大模型公司VAST再次完成数千万美元的Pre-A+轮融资

硅基流动完成新一轮数亿元融资，阿里云领投

英伟达、三星联手投资 AI 机器人公司 Skild AI，估值达 45 亿美元

高通宣布以24亿美元收购英国芯片IP公司Alphawave

宁波博登智能完成亿元A轮融资，上海国资领投

05. 观点洞察

Ben Mann (Anthropic联合创始人): 未来是专业子代理协作的时代

英伟达CEO黄仁勋：未来十年是自动驾驶与机器人的时代

北大教授陈钟：AI重塑金融服务，需警惕新型系统性风险

郭明錤预测苹果WWDC 2025将聚焦生成式AI整合

你不关心AI，AI就会关心你——Ilya Sutskever多伦多大学演讲要点

猎豹移动董事长傅盛：AI与硬件结合及应用是未来焦点

深度访谈 Ryan Greenblatt ： AI 接管世界的四种最可能方式

目录

开场白 [00:00:00]

Ryan Greenblatt是谁？ [00:01:10]

我们距离自动化AI研发还有多远？ [00:01:27]

当今模型的真实能力如何？ [00:05:08]

为何AI公司会比其他行业更早实现自动化 [00:12:35]

AGI接管世界的最可能方式 [00:17:37]

AGI会早期反叛还是韬光养晦？ [00:29:19]

“在人类水平暂停”策略 [00:34:02]

AI对AI对齐的控制 [00:45:38]

小红书hi lab团队首次开源文本大模型：dots.llm1