当地时间9月25日 ，微软联合创始人比尔·盖茨在接受媒体采访时 ，再次表达了对AI不利影响的担忧，甚至警告称人工智能是一种“足够强大 ”的工具 ，“足以引发导致十亿人死亡的事件 ”。
在比尔·盖茨看来 ，“历史上从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁 。”
作为现代计算机产业的奠基者之一，比尔·盖茨长期被视作技术乐观主义的代表 。他一手创办微软 ，推动个人电脑普及 ，数十年来持续投身全球公共卫生与减贫慈善项目。很长一段时间里，他都坚定看好人工智能的正面价值 ，认为AI可以攻克疾病、普惠教育 、缓解全球资源分配不均 ，是人类社会最有力的工具之一 。
但近几个月，比尔·盖茨对前沿AI潜藏风险的判断明显转向 。在今年8月发布于个人网站的长文中 ，盖茨曾提出 ，人工智能要么成为有史以来最伟大的均衡器，要么成为最严重的不公正之源。
当时盖茨呼吁政府领导人应着手通过立法 ，对AI模型处理的文本量进行征税 ，以弥补因AI导致的收入减少，并为被AI取代的劳动者提供更广泛的社会保障。他还主张 ，政府和私营企业应考虑将某些岗位从自动化中隔离出来 ，包括那些未来难以重新培训人工劳动力的领域 。
和盖茨持有类似观点的科技界人士和相关公司还有不少 。早在今年6月，Anthropic便呼吁全球暂停前沿AI开发。到了9月，该公司CEO达里奥·阿莫迪又表示 ，人类可能会失去对AI的控制 ，应当放缓模型开发速度，并对其实施严密监管 。
阿莫迪提出三点方案：对AI模型的开发过程开展独立监督 、建立全行业监管机制、达成全球层面监管共识 。
上述观点迅速得到OpenAI首席执行官奥特曼 、特斯拉CEO马斯克等人的公开支持。奥特曼在社交媒体上发文称：“我认同达里奥 ，我们需要把控前沿AI的推进节奏 。 ”马斯克在社交媒体上转发阿莫迪的帖子 ，并附文称：“达里奥说得对 。 ”
不仅如此，奥特曼在公司全员会议上表示 ，公司可能放缓前沿人工智能开发 ，并考虑与其他AI实验室协调行动。
值得注意的是，Anthropic前员工雅各布·考克森在今年9月初宣布辞职 ，公开指责Anthropic与OpenAI竞相推进超级人工智能研发 ，相当于拿全人类的生命冒险 。另一名Anthropic内部研究员对外表态，未来十年人工智能造成人类灭绝的概率超过10% 。
这一系列密集警示的背后 ，是今年接连曝光的多起AI模型失控事件。
7月 ，OpenAI内部测试的AI智能体在没有人类直接指令的情况下突破沙箱隔离，自主寻找漏洞入侵Hugging Face平台，还访问了多个外部公共平台账户 。
而在8月 ，英国人工智能安全研究所（AISI）发布测试报告 ，Anthropic与OpenAI的前沿模型在安全测试中多次自主实施未经授权的攻击行为 。其中Anthropic的Mythos 5模型，尝试伪造多个虚假身份 ，诱导人类审核人员运行恶意代码 ，甚至在行为被质疑后篡改记录，试图继续执行攻击计划。
就在9月24日 ，澳大利亚副总理兼国防部长理查德·马尔斯表示 ，OpenAI一款AI智能体在执行健康和医疗统计研究任务时，未经授权访问澳大利亚服务部医疗统计门户。马尔斯称 ，这是AI智能体首次未经授权访问澳大利亚政府IT系统 ，事件“非常严重” 。
马尔斯认为，这一事件凸显AI智能体能力快速发展的同时 ，需要建立相应的安全措施和防护机制 。
不过 ，也有人持不同观点。9月15日，英伟达首席执行官黄仁勋表示，无需针对人工智能安全出台新监管规定 ，因为市场力量将推动企业在创新的同时确保安全性 。
一周后 ，黄仁勋又对外表示，AI企业不应寻求反垄断法或产品责任法方面的监管豁免 ，并认为当前围绕AI的部分担忧已经过度 。他称 ，AI企业应自行测试产品，只有在确认模型安全后才应发布。
还有一些欧洲科技企业和政府人士近期纷纷表态 ，质疑一些美国人工智能企业以安全为由提出放缓AI研发是“出于私利” ，认为其真正目的是巩固自身优势并打压竞争者 。
这场争论的核心，落在两个关键问题之上 。一是监管应当聚焦当下已经显现的AI滥用风险 ，还是提前为几十年后可能出现的超级智能设立规则。二是AI安全治理应交给行业内部自行完成 ，还是建立多国协同 、带有强制约束力的外部监督体系 。
尽管分歧仍然存在，但有一点是各方普遍认同的 ，即AI安全不再只是实验室内部话题 ，关键基础设施使用AI系统应当设立安全准入标准，不能等到风险爆发才仓促搭建AI安全防线 。
（文章来源：界面新闻）
