谷歌研究人员警告人工智能驱动的经济体即将出现
新闻要点
谷歌DeepMind的研究人员警告称，人工智能（AI）代理经济体可能自发出现并扰乱市场。他们指出，这些经济体将带来系统性崩溃、垄断和贫富差距加剧等风险，并强调迫切需要主动设计，以确保公平性、拍卖机制和“使命经济体”的建立。 研究人员Nenad Tomašev和Matija Franklin认为，当前轨迹正指向一个庞大且高度渗透的AI代理经济体的自发出现，这将带来前所未有的协调机会以及巨大的挑战，包括系统性经济风险和日益加剧的不平等。他们强调，如果一个高度渗透的经济体在没有刻意设计的情况下自发出现，人类福祉将受到损害。 为应对这些挑战，DeepMind提出了一个干预蓝图，包括通过为每个用户的AI代理提供平等的初始“虚拟代理货币”来平衡竞争环境，以及利用受哲学家Ronald Dworkin启发的分配正义原则来创建公平分配稀缺资源的拍卖机制。此外，他们还设想了以人类为中心目标的“使命经济体”。文章指出，谷歌已推出一个专为AI代理设计的支付协议，并获得了加密货币和传统支付巨头的支持。
背景介绍
近年来，人工智能（AI）技术，特别是AI代理（Agent）的发展迅猛。这些代理正从执行特定任务转向做出自主经济决策，推动经济从“任务型经济”向“决策型经济”转变。这种转变在AI驱动的算法交易领域已有所体现，其中算法的协同行为可能导致“闪电崩盘”和流动性枯竭。 “Agent-as-a-Service”（代理即服务）模式正在企业中普及，这为新收入流创造了机会，但也带来了平台依赖和市场集中化的风险。谷歌在这一领域积极布局，近日宣布推出一个专为AI代理设计的支付协议，并获得了包括Coinbase、以太坊基金会、PayPal和美国运通等在内的加密货币和传统支付巨头的支持。 DeepMind作为谷歌旗下的AI研究公司，长期致力于高级AI系统的开发，其研究成果常对AI伦理、安全和未来发展方向具有重要影响力。此次报告是其对AI经济体潜在风险及其设计原则的最新审视。
深度 AI 洞察
文章警告了系统性风险和不平等。谷歌等主要科技巨头在积极指出这些风险的同时，又在开发AI代理基础设施，这其中有何隐秘的战略含义？ - 叙事主导权：谷歌通过DeepMind预先定义问题并提出“解决方案”，从而将自己定位为负责任的创新者，这有助于减轻未来潜在的监管压力和公众担忧。 - 基础设施控制：通过开发像AI支付协议这样的基础架构，谷歌旨在成为新兴AI经济体不可或缺的骨干，无论这些经济体是自发形成还是精心设计。控制核心“管道”能确保其在任何AI经济生态中的核心地位。 - 信任的竞争优势：在一个新兴且高风险的领域，被视为最安全、最道德的平台，将吸引更多的开发者和用户，进一步巩固其市场主导地位。 如果专注于人类目标的“使命经济体”获得关注，这可能如何从根本上改变传统的资本配置和投资理念？ - 从纯粹利润到“对齐影响”：投资决策可能越来越多地将社会/环境影响与财务回报一同考量，这可能催生新的资产类别，或根据公司与集体AI使命的契合度重新评估其价值。 - 长期价值的重构：短期利润最大化的压力可能会减弱，取而代之的是对能够实现可持续、人类中心化目标的长期投资的偏好。这可能有利于那些在AI伦理、透明度和公共利益方面表现突出的公司。 - 新的风险与机遇：投资者需要评估AI代理系统的“对齐”程度及其实现使命的能力。这将产生新的风险评估指标，并为专门从事“AI使命经济”解决方案的公司带来新的投资机会。 美国特朗普政府在（2025年）任期内，面对这种新兴的、可能失控的AI经济体，最有可能采取何种监管和政策立场？ - 实用主义与国家安全：特朗普政府可能会优先考虑AI的经济竞争力和国家安全利益，同时对可能扼杀创新或被视为过度干预市场的监管保持警惕。重点可能放在防止中国等竞争对手在AI代理经济中获得主导地位。 - 关注具体危害：与其全面限制AI发展，不如侧重于解决AI代理经济体产生的具体、可量化的危害，例如市场操纵、数据隐私侵犯和对关键基础设施的攻击。这可能导致有针对性的立法，而非广泛的框架。 - 鼓励私营部门主导：政府可能更倾向于鼓励科技巨头（如谷歌）在安全和伦理方面进行自我监管和行业主导的解决方案，而不是实施严格的政府控制，同时利用这些公司的技术优势来强化美国在AI领域的领导地位。