川普要求人工智慧巨头自我监管

川普总统周二将全球最有权势的科技高管召集到白宫，称赞与会的亿万富翁们是「非常杰出」的人才，称他们希望通过创造就业机会、建设数据中心以及快速扩张人工智慧让世界变得更美好。 作为总统，川普面临著人工智慧是否应该受到监管的质询，特别是是否应该实施限制措施，避免人类受到已学会规避现有安全防护措施的技术的伤害。 但最终，召集这些亿万富翁和顶尖大脑并没有带来对正式监管的承诺。取而代之的是，他们签署了一项 自愿协议 ，承诺采取安全政策，包括由第三方对系统进行风险审查、审计和评估。他们还同意采用川普偏爱的人工智慧新名称：「超级智能」。 「这一切都将是为了更好的未来，我们将让它变得美好且安全，」川普在周二下午与科技领袖们在白宫外接受提问时说道。「而且他们真的会互相监督，这就是它的运作方式。」 当被问及该协议是否具有约束力时，川普说：「我认为它具有道德约束力。」 在白宫午餐会上，川普公布的座位表（由他本人发布在社群媒体上）显示，与会的高管们实力雄厚，但在是否需要制定人工智慧保障措施的问题上存在严重分歧。与会者还包括众议院议长迈克·强生和副总统万斯等高官，他们认为正式的安全措施会损害美国的竞争力。 处于中心位置的是川普，他把决定如何最好地管控这项快速发展的技术，甚至是否应该对其进行管控的问题，推给了一群高管。 「将会包含大量自我监管的成分，」川普说。 这份只有一页纸的文件缺乏细节，主要依赖于各公司履行其承诺。它不是一项官方命令，也不清楚谁将强制执行该指导方针。它由川普以及Anthropic、谷歌、Meta、英伟达、OpenAI和SpaceXAI的领导人共同签署。 该协议呼应了拜登政府期间人工智慧公司做出的自愿安全承诺。这些公司当时同意测试其系统的安全性，并报告安全和安保事件。但这些承诺是不具约束力的，并在川普政府初期基本失效，当时总统撤销了安全要求。 周二受邀前往白宫的商界领袖包括Anthropic的首席执行官 达里奥·阿莫代伊 ，他曾呼吁制定联邦安全法规，包括对模型进行测试。本月早些时候，阿莫代伊以安全担忧为由，呼吁整个行业放缓人工智慧的发展。 该公司还卷入了与政府的法律纠纷，并 被禁止与五角大厦合作 。双方在一项价值2亿美元的合同谈判中存在分歧，该公司坚持要求其人工智慧技术不得用于对美国人的大规模监控或用于自主致命武器。周二对记者讲话时，川普称阿莫代伊「非常出色」。 出席嘉宾名单中还有英伟达首席执行官、川普的亲密盟友黄仁勋，他曾称这些安全担忧被夸大了。黄仁勋曾恳求政府和立法者对该行业的监管保持不干涉态度，称相关规则将使竞争对手中国在人工智慧领导地位上迅速超越美国。 当这群人与记者见面时，总统称黄仁勋是个「非常英俊的家伙」，并请他发言。 「我们将推进这项对人类如此重要、对我们国家未来繁荣都非常重要的技术，」黄仁勋告诉记者。「我们将以负责任且安全的方式推进这项工作。」 受邀参加午餐会的人士还包括亚马逊创始人杰夫·贝佐斯；OpenAI总裁格雷格·布罗克曼；Palantir首席执行官亚历克斯·卡普；谷歌的桑达尔·皮查伊；Meta的马克·祖克柏；以及SpaceXAI的伊隆·马斯克。白宫办公厅主任苏西·威尔斯和财政部长史考特·贝森特也在场。川普的前首席人工智慧顾问、风险投资家戴维·萨克斯也出席了会议。 在午餐会之前，川普在人工智慧驱动搜索工具America.gov的发布活动上告诉听众，美国政府正在拥护这项技术，努力抗衡人工智慧发展竞赛中的主要对手中国。 「我们不想扼杀增长，」总统说。 上周刚刚接待中国领导人习近平进行国事访问的川普表示，两人并没有花太多时间讨论合作机会或与竞争相关的议题。习近平在白宫发表讲话时表示，两国在发展人工智慧时，都应以 「造福于民」 为出发点，并肩承担起这一责任。 但在众多高管和内阁成员面前——他们聚集在礼堂里，举行一场如同苹果新品发布会般的演讲——总统再次重申了赢家通吃的思维方式。 「你要么成为赢家，要么成为输家，」川普说。 川普一直主张，美国在人工智慧技术上的主导地位对国家安全和经济增长至关重要。 随著他大力拥抱人工智慧并支持在全国范围内建设数据中心，川普的步调也同公众愈发不一。近期的民意调查显示，多数美国人对人工智慧 日益担忧 ，并希望联邦政府采取更多措施来监管这项技术。 周二，川普再次为数据中心发声，称对数据中心的担忧是民主党的骗局。午餐会上，在企业高管们的簇拥下，川普预测公众最终会接受这些设施。 「你们会看到数据中心将变得非常受欢迎，因为这就是那群人，他们是想要建设这些中心的人，他们也是希望看到社区安全和快乐的人，」川普说。「否则，这些数据中心将被迫迁往海外或其他地方。」 随著公众对人工智慧以及数据中心在全国各地如雨后春笋般涌现的前景感到反感，近几周来，关于技术安全的辩论愈发激烈。一些失控的人工智慧客户端和模型曾协同 入侵网站 、窃取数据，然后掩盖其踪迹，而在此过程中， 它们似乎还表现出对自身行为错误性的认知 。国会的高层领导人已经承认了设置人工智慧安全护栏的必要性。 今年4月，Anthropic宣布暂停发布其一个名为Mythos的模型，理由是该模型对公众而言过于危险。今年7月，OpenAI的模型突破了受限的测试环境， 入侵了人工智慧初创公司Hugging Face 。在9月初，Anthropic、OpenAI和谷歌DeepMind的领导人们呼吁 放缓高级人工智慧模型的开发 。 上周，一个OpenAI模型被发现干扰了包括美国教育部、证券交易委员会以及商务部人口普查网站在内的美国政府网站。而本周，OpenAI表示出于安全考虑，将不会发布其最新模型GPT-6.1 Astra。 在白宫内部，高层领导人对如何监管该行业存在分歧。贝森特提出了就安全标准与中国进行公开对话的想法。他还强调，人工智慧公司必须为其模型造成的危害承担责任。 随著周二与亿万富翁们共度的一天走向结束，川普表示，他正在考虑成立一个由大约10人组成、专门负责人工智慧安全的委员会，并且他将在未来几天内任命一位人工智慧领域的事务专员。 当天他最后一次面见记者时，陪伴在他身边的是马斯克。马斯克也是与会者，在去年因国内政策立法发生口角后，如今已重新赢得了川普的青睐。在上周的国宴上，他坐在习近平和川普附近，在周二的午餐会上，他也坐在川普身边。 总统说，习近平「会接手所有我们不想要的数据中心。」 站在旁边的马斯克表示同意。 「他会很乐意的，每一个都要，因为你知道为什么吗？他们很聪明，」川普继续说道。「他们想要每一个数据中心。他们想要是因为这对中国大有好处。好吧，这对我们也很有好处，而且我们遥遥领先，我们会继续保持这种优势。」