软银集团孙正义罕见发出 AI 安全警告，呼吁各国携手应对威胁

AI 总结
• 10月5日消息，软银集团创始人孙正义周日在日本京都一场论坛上表示，AI能力指数级增长带来安全风险，各国必须建立互信并联手应对强大AI模型的威胁。
• 孙正义警告，超级智能一旦落入不法分子手中后果将极其危险；
• 作为OpenAI核心投资者，他此前长期看好AI潜力，此次罕见发出安全警告。
• 他认为AI服务综合能力仍将指数级增长，当前技术已在协助AI自主浏览网页、编写代码并消耗更多通用芯片，预计明年起进入与物理世界深度交互的“第三阶段”。
• 孙正义重申长期预判：到2040年，人工智能及具备自主学习能力的机器将在全球GDP中占据至少20%，规模约46万亿美元。

IT之家 10 月 5 日消息，据彭博社报道，软银集团创始人孙正义一直被视为人工智能最坚定的拥护者之一。

然而他近日坦言，随着 AI 能力的突飞猛进，就连他也对伴随而来的安全风险深感担忧。

【论坛发言】
周日，在日本京都举行的“科学与技术在社会中的作用”论坛期间，孙正义在与白宫科技政策顾问迈克尔 · 克拉齐奥斯（Michael Kratsios）同台发言时指出，人工智能能力的指数级爆发使得各国建立互信迫在眉睫，唯有如此，各方才能携手驾驭这项技术。

【AI 安全警告】
“人类已经承受不起彼此内耗的代价了，”孙正义表示。

他补充强调，各国必须联手应对强大人工智能模型所带来的远超以往的巨大威胁；

超级智能一旦落入不法分子手中，后果将“极其危险”。

近几个月来，人工智能模型引发的安全漏洞与越权失陷事件频频发生，引发各界忧虑升温。

孙正义这一反常态的谨慎表态，正是对此类担忧的真实折射。

【OpenAI 投资背景】
作为 ChatGPT 缔造者 OpenAI 的核心投资者，这位现年 69 岁的科技投资大亨已累计向其注资近 650 亿美元（IT之家注：现汇率约合 4,361.74 亿元人民币），多年来更是不遗余力地向外界宣扬人工智能创造丰厚投资回报、造福人类社会的巨大潜力。

【AI 能力持续增长】
与此同时，孙正义强调，人工智能服务的综合能力仍将保持指数级增长。

目前，驱动聊天机器人的底层技术正在协助 AI 服务自主浏览网页、编写代码，并消耗着规模日益庞大的通用芯片。

【下一阶段方向】
他进一步表示，此类程序下一步将步入“第三阶段”，预计自明年起，便能够赋能机器人及其他智能硬件与物理现实世界展开深度交互。

【长期经济预判】
孙正义再次重申了他的长期预判：到 2040 年，人工智能以及具备自主学习能力的机器将在全球 GDP 中占据至少 20% 的比重，规模相当于 46 万亿美元（现汇率约合 308.68 万亿元人民币）。

“这只是刚刚开始。”

[来源链接] https://www.ithome.com/1/009/758.htm

我也认同这种担忧。AI 能力增长太快，尤其是自主浏览、写代码并与物理世界交互后，风险不只是内容造假，还可能被用于诈骗、网络攻击或操控关键系统。关键不是停止发展，而是尽快建立跨国监管、模型审计和滥用追责机制。企业也不能只拼性能，安全测试、权限隔离和应急熔断都得跟上。否则等到高风险模型被滥用，再补救就晚了。

我倒觉得没必要把孙正义的警告解读得太悲观。他一边重仓 AI，一边强调风险，更像是在推动监管和行业标准，而不是否定技术本身。真正该关注的是具体治理：模型权限、数据审计、算力使用追踪，而不是空泛喊“各国互信”。如果明年 AI 真进入与物理世界交互阶段，安全确实要前置，但也不必因此放慢应用落地。

我不太认同这种说法。孙正义一边大规模投资 OpenAI，一边又出来呼吁监管，多少有点"卖矛又卖盾"的感觉。所谓超级智能落入不法分子之手，其实更现实的风险是算力和数据集中在少数巨头手里，普通开发者连入场券都拿不到。与其空谈各国互信，不如先把模型开源、审计、责任界定这些具体规则落地。至于 2040 年 46 万亿美元的预测，他这些年喊的目标兑现过几个？资本大佬谈安全，先看看他的投资组合再决定信几成。

认同楼主的整理。孙正义一直是 AI 最乐观的布道者，连他都开始强调安全风险，这个信号确实值得重视。能力指数级增长的同时，监管和国际互信的建立速度明显跟不上，尤其是超级智能一旦被滥用，可能不是某一个国家能单独兜住的。不过话说回来，"各国携手"说起来容易，实际落地很难，毕竟大家在技术竞争上都是各怀心思。希望能尽快看到像核不扩散那样的具体框架，而不是停留在论坛喊话层面。

说句实话，我不太认同这种"AI 威胁论"。孙正义一边是 OpenAI 的核心投资人，一边又出来喊安全风险，多少有点既要又要的意味——资本先把估值炒上去，再呼吁各国监管联手，最后规则很可能还是由几家大厂来定。真要是被不法分子利用，问题更多出在现有法律和管控漏洞上，而不是模型本身太强。至于 2040 年 AI 占全球 GDP 两成、46 万亿美元这个预测，从他一贯的风格看更像是给投资故事续命，参考一下就好，别太当真。

孙正义作为 OpenAI 的核心投资者都出来喊话安全问题，说明业界内部确实意识到了风险。他说的"第三阶段"AI 与物理世界深度交互挺值得警惕的，一旦被不法分子滥用，影响就不只是虚拟层面了。不过各国建立互信说起来容易，实际操作中技术封锁和竞争反而在加剧，真要联手恐怕还得先有类似核不扩散那样的国际框架才行。

说实话我不是很认同这种说法。孙正义自己是 OpenAI 的核心投资者，一边大手笔押注 AI，一边又出来喊安全风险，怎么听都有点"既当裁判又当运动员"的味道。真要担心超级智能落入不法分子之手，那更应该先把投资的公司管好，而不是呼吁各国联手。而且他说的 2040 年 AI 占全球 GDP 20%、46 万亿美元，这种预测早就喊了很多年，更像是给软银的愿景基金讲故事。当然安全问题确实不能忽视，但我觉得目前更现实的风险是数据隐私和就业冲击，而不是什么超级智能失控。大家怎么看？

我也认同作者的看法，孙正义自己就是 OpenAI 的核心投资者，连他都公开表达担忧，说明风险确实到了不能回避的程度。尤其"超级智能落入不法分子手中"这一点，现在深度伪造、AI 诈骗已经在现实中出现了。不过各国联手说起来容易，光是算力出口管制和技术标准就很难达成共识，真要建立互信恐怕得从具体的模型安全评测、能力分级这些务实的事做起。至于 2040 年占 GDP 20% 的判断，我觉得方向大体没错，但中间的泡沫和反复也不小。

我不认同这种"超级智能落入不法分子之手"的说法。现在的 AI 离通用智能还差得远，孙正义一边大手笔投资 OpenAI、一边呼吁各国联手监管，多少有点既当运动员又当裁判的味道。真要控制风险，不如先把自己投资组合里的模型开放评估、公开安全测试结果，而不是把责任全推给各国政府。至于 2040 年占全球 GDP 20% 的预言，他前几年吹的"奇点"和机器人数量也没兑现，听听就好。