美国科技巨头呼吁放缓AI发展速度——中国怎么看？

人工智能（AI）发展日新月异，业内一些具影响力的领袖却严厉警告说，要正视AI可能带来的危机。

譬如，Anthropic执行长达里奥·阿莫迪（Dario Amodei）认为人工智能的发展速度应该放缓，而两家竞争对手的高层——OpenAI的萨姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）——也赞同他的观点。

美国矽谷的一些人士甚至认为，人工智能有朝一日可能会导致人类灭绝。

然而，应对这些风险也因两大人工智能大国中国和美国之间的激烈竞争，而变得复杂。

作为战略竞争对手，中美经常从国家安全和经济优势的角度看待人工智能的发展，让人怀疑两国是否能够促成实质合作。

“如果国际社会期望美中就这些问题展开对话并达成具有约束力的协议，那么它这期望会落空，”奥斯陆和平研究所（PRIO）高级研究员伊拉里亚·卡罗扎博士（Ilaria Carrozza）说。

“在人类控制下的人工智能”

中国为人工智能制定了宏大计划，设想未来这项技术将融入农业、医疗和军事等社会和经济的各个领域。

可是，北京长期以来也一直警惕人工智能带来的风险。

早在2017年，政府就表示人工智能可能侵犯隐私、威胁社会稳定和挑战国际关系准则。

此后几年，中国要求对社群媒体上的人工智能生成内容进行标注，禁止未成年人使用人工智能虚拟伴侣，并禁止使用深度伪造技术传播假讯息。

对此，香港城市大学教授曾敬涵向BBC表示，不像美国的政府机构和政策顾问，中国官方对“人工智能可接受的发展，有相当大的决定权”。

曾教授曾参与中美针对人工智能的非正式会谈。

对于人工智能可能失控的风险，中国国家主席习近平7月在世界人工智能合作组织（WAICO）会议上表示，这项技术必须“始终处于人类控制之下”。

WAICO由中国倡议成立，致力于促进国际社会在人工智能治理领域的对话与合作。

中国网路监管机构中共中央网络安全和信息化委员会办公室（简称网信办）在9月公布《人工智能安全治理框架3.0》，其中表示，须要对人工智能危害“人类生存发展的风险及时采取措施”。

可治理的技术？

尽管中国官方承认人工智能有可能脱离人类控制，但相较于美国，人工智能是否能够危及人类存续，在中国，并非相关讨论的核心议题。

北京认为，这只是政府在制定政策时须要应对的众多问题之一。

曾教授表示：“中国的人工智能治理兼顾多个目标：支持经济发展、管理技术和社会风险以及维护政治权威。”

刘少山博士是深圳市人工智能与机器人研究院的具身智能中心主任，他对此表示赞同：“在中国的讨论往往更着重于可控性、滥用和社会后果，而在美国的讨论则更多地集中在人工智能失控或人类灭绝等假设性情境上。”

虽然中国官员忧心人工智能带来的风险，但他们也相信，在中国经济成长放缓之际，人工智能将成为提振经济的重要动力。

譬如，腾讯、阿里巴巴、百度和字节跳动等中国科技巨头的人工智能模型，正与全球主要竞争对手一较高下。一些领先模型则来自零一万物、深度求索（DeepSeek）、MiniMax、月之暗面和智谱等新创公司。

这些公司都没有回应BBC的置评请求。

刘少山博士向BBC解释，北京正力求在培育人工智能产业和管控相关风险之间取得平衡。

“这与主张停止发展人工智能是两回事，”他说。

“谁赢了人工智能，谁就赢了。”

除了国内发展需求，北京也必须考量地缘政治因素。

美国总统特朗普（Donald Trump，川普）将人工智能发展描述为一场与中国的高风险竞赛。

“我们在人工智能领域领先中国……坦白说，我希望保持这种领先地位，因为谁赢了人工智能，谁就赢了，”他曾说。

中国国家安全部长陈一新在9月发表于官方期刊的文章中，也从地缘政治的角度阐述人工智能的发展，称其为“大国战略博弈的新赛道”。

尽管呼吁放缓人工智能发展的呼声主要来自美国业界人士而非政府官员，但地缘政治竞争使北京对此类呼吁保持警惕。

今年8月，就在阿莫迪发出人工智能风险警告前不久，中国官媒批评Anthropic的联合创始人将他的公司与美国的地缘政治利益捆绑在一起。

中国央视运营的社交媒体帐号“玉渊谭天”发帖批评：“阿莫代伊（阿莫迪）的逻辑已经完成了两次放大：从‘我在做好事’，到‘我替你决定’；从‘我的国家在做好事’，到‘所有不配合的都应该被限制’”。

阿莫迪近日呼吁放慢人工智能发展步伐后，再度招致中国官媒批评。官媒特别点名他曾主张阻碍中国在人工智能领域的发展。

尽管双方互信不足，外界仍期待习近平与特朗普本月稍后在美国首都华盛顿举行的峰会上，能够就部分议题达成共识。路透社报导，中方官员将人工智能视为峰会的重要议程。

对此，PRIO的卡罗札博士则向BBC表示，防范非国家行为者滥用人工智能和人工智能驱动的网络攻击威胁关键基础设施等议题，或许能让中美双方建立一定程度的共识。然而，针对人工智能的发展步调达成明确协议，恐怕仍遥不可及。

她说：“较有可能透过双边协商处理的，大概是那些即使达成协议，也不须要验证执行情况或揭露商业机密的议题。”

她同时指出，“至于限制任何一方开发人工智能模型速度的措施，美中双方不太可能达成共识。”

本文原以英文撰写，我们使用了人工智能协助翻译，并由BBC记者在发布前进行审核。了解更多关于我们如何使用人工智能的资讯。