当地时间周二，有着“AI教母 ”之称的斯坦福大学教授李飞飞呼吁 ，AI技术应当接受独立机构及公共部门的进一步监督。
她认为 ，尽管AI企业的内部研究人员能够评测单个模型的性能与安全特性，但这无法替代政府、行业及学术机构制定的通用性标准 。对于功能愈发强大的AI系统 ，其安全评估工作不能仅由开发企业独自负责 ，“我仍然相信独立机构和学术界等公共部门机构制定基准的重要性，以及产业界和政府共同承担责任的重要性 。 ”
李飞飞表示，AI可能带来的系统性风险 ，最终取决于人类开发 、管理和应用这项技术的方式。她指出 ，这一原则不仅适用于人工智能，从电力 、蒸汽机到现代交通工具 ，各类技术的发展 ，都需要社会在潜在益处与人类安全之间做好平衡 。
李飞飞说道，人类“拥有技术的力量 ” ，“我们必须掌控技术” ，“人工智能并非关乎人工智能本身，而是关乎人类 ，它关乎我们共同的以及个人的尊严和自主权 ，以及我们应尽的责任 。”
当前，硅谷掀起“AI减速 ”论战 ，Anthropic CEO阿莫代伊、OpenAI CEO奥尔特曼 ，以及马斯克罕见同声呼吁为前沿AI开发“减速 ”。其中，阿莫代伊首提管控前沿AI的推进节奏，以及将模型交由第三方评估机构核验安全能力；奥尔特曼表示同意引入拥有员工级访问权限的独立第三方安全评估人员。
而黄仁勋 、扎克伯格则坚称AI发展无需集体踩刹车……扎克伯格表示 ，单个AI企业可自行以适当的速度来训练模型 ，各实验室应自主落实安全举措 、平衡算力用途 。
这场关于人类是否该放缓AI前沿研究的争论，不止是一场科技反思 ，更是关于谁有权定义安全、谁有资格制定规则的权力博弈 。
李飞飞是当前AI研究的先锋人物 ，她将空间智能视作她的下一个“北极星”，在此基础上创立了世界模型初创公司World Labs。
所谓的世界模型 ，是指能够生成和重建三维环境的模型 ，该技术可用于训练和评估机器人，并可应用于设计、医疗等多个行业 。9月2日 ，World Labs发布了“全球首个多模态世界模型 ”——Atlas ，该模型不再满足于生成图片 、文字，而是可生成具有像素级精确的图像和视频帧 ，并将其重建为3D世界 。
李飞飞表示 ，随着AI技术落地现实世界场景，业界面临着同一个根本问题，即如何评估功能日益强大的AI ，并确定其行为是否符合预期。
（文章来源：财联社）
