NG体育7月4日，以“以共商促共享，以善治促善智”为主题的2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）在上海开幕。开幕式上，发布了《人工智能全球治理上海宣言》，联合国工业发展组织全球工业人工智能联盟卓越中心也宣告成立。本次大会依旧星光熠熠，9位图灵奖、菲尔兹奖、诺贝尔奖得主和88位国内外院士，与联合国以及各国政府代表、专业国际组织代表，企业家、投资家1000余人共话AI的发展、安全与治理。
在当天上午举办的大会全体会议上，清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜的开场演讲引人注目。薛澜指出，AI的发展也面临着基础设施、数字素养以及技术本身不均衡发展等多重挑战，这些挑战被形象地称为“鸿沟”，对全球治理的统一性和效率构成威胁。
薛澜分析，全球范围内的AI发展不平衡现象日益凸显。一方面，部分地区由于基础设施落后，无法充分释放AI技术的潜力；另一方面，数字素养的差距也在加剧，导致社会群体间的数字鸿沟日益扩大NG体育官网app下载。此外，AI技术发展的不均衡，也引发了全球范围内的智力资源不均等问题。“这些挑战并非局限于单一国家或地区，而是具有全球性的普遍影响。在全球化的今天，一个国家的风险往往能迅速转化为全球性的风险。因此，国际社会需要共同应对这些挑战，推动全球AI的均衡、健康发展。”
薛澜建议，首先，国际社会在推动AI发展的同时，应高度重视安全问题，将安全与发展置于同等重要的地位。各国政府和企业应共同加强网络安全防护，确保AI技术的安全可控。其次，加强国际交流与合作。通过多边对话机制，加强政府间的交流与合作，分享经验、传播知识，共同应对全球性的AI挑战。同时，鼓励国际科技力量参与全球AI治理，推动全球AI的均衡发展。
此外，发挥科学共同体的作用。薛澜表示，应借助科学界的力量，推动国际机制的完善与改进，为AI的健康发展提供有力保障。同时，加强科研合作，共同攻克AI领域的技术难题。“政府、企业以及科研机构应携手合作，共同推动AI技术的创新与应用。通过加强国际合作，打破技术壁垒，推动全球AI产业的繁荣发展NG体育官网app下载。”
上海人工智能实验室主任、首席科学家，清华大学惠妍讲席教授周伯文谈到AI潜在风险，包括数据风险NG体育官网app下载、恶意使用风险、伦理风险、社会系统性风险、可能的未来风险等5大风险，比如数据泄露、数据滥用、隐私侵犯、版权争议、偏见歧视、价值观偏差、信息茧房、就业变化、资源消耗、智能鸿沟、深度伪造、虚假信息、网络攻击、网络欺诈等，因此他主张探索人工智能45°平衡律，即AI安全优先NG体育官网app下载，又能保证AI性能长期发展的技术体系。
周伯文介绍，实现人工智能45°平衡律也许有多种技术路径。上海AI实验室最近在探索一条以因果为核心的路径，取名为：可信AGI的“因果之梯”，可信AGI的“因果之梯”将可信AGI的发展分为三个递进阶段：泛对齐、可干预、能反思。“泛对齐”主要包含当前最前沿的人类偏好对齐技术；“可干预”主要包含通过对AI系统进行干预，探究其因果机制的安全技术；“能反思”则要求AI系统不仅追求高效执行任务，还能审视自身行为的影响和潜在风险，从而在追求性能的同时，确保安全和道德边界不被突破。
“目前，AI安全和性能技术发展主要停留第一阶段，部分在尝试第二阶段，但要真正实现AI的安全与性能平衡，我们必须完善第二阶段并勇于攀登第三阶段。沿着可信AGI的‘因果之梯’拾级而上，我们相信可以构建真正可信AGI，实现人工智能的安全与卓越性能的完美平衡，并通过深入理解AI的内在机理和因果过程，从而安全且有效地开发和使用这项革命性技术。”周伯文表示。
在全球治理图灵圆桌环节上，原微软执行副总裁、美国国家工程院外籍院士沈向洋作为话题引领人，与姚期智、罗杰·瑞迪、曼纽尔·布卢姆等三位图灵奖得主，共同以《共论共享共治：治理协同创新探索》为主题，围绕人工智能的发展、风险以及政府治理等话题进行了探讨。
姚期智认为AI风险确实存在，在人工智能时代，网络数据管理将更困难，人类社会结构也可能将在短时间内被破坏，面临更危险的生存挑战。“事实上，是我们自己创造了一种强大的新‘物种’，如果我们什么都不做，那必然会被淘汰，无论是因为计算机的内在机理还是恶意行为者操纵。因此，我们需要精准把握管理和运用AI的正确方式，而这也是科学家们必须面临的深刻问题NG体育官网app下载。”
罗杰·瑞迪表示虽然很高兴大家关注到人工智能所带来的风险，但他更希望外界将目光投向人工智能为人类社会创造的便利及价值。“不要恐惧AI的发展，AI归根结底只是增强人类能力的工具，如何使用这些工具提高效率更值得我们思考。未来，或许因为AI的助力，世界上每个人的生产效率都将上涨10倍。”同时，他提到人才培养对于应对人工智能未来发展的重要价值，并认为当前的教育体系在一定程度上显得有些跟不上步伐，未能与人工智能的迅猛发展实现同步对接，为此他倡导对现有教育制度进行革新和完善，以培养出更多能够适应AI时代需求的人才。
官方微信
