NG体育央广网北京7月30日消息（记者 樊瑞）近年来，生成式人工智能正引领社会新一轮产业变革，广泛赋能生产生活场景。而同时，人工智能的安全伦理问题日益凸显。大模型时代，如何确保人工智能安全可控是当下亟需应对的问题。
日前，中国人工智能产业发展联盟（以下简称“AIIA”）安全治理委员会在北京召开成果发布会。会上，中国信息通信研究院（以下简称“中国信通院”）依托AIIA发起“人工智能安全守护计划”，以提升我国人工智能技术水平和治理能力，促进人工智能产业健康有序发展。
相关负责人在接受央广网记者采访时表示，推动设立人工智能保险产品和服务是其未来重点工作之一，“目前国际上有做网络安全保险的，但人工智能领域保险产品尚无人涉及，我我们希望能在国际上做个创新尝试”。
AIIA秘书长、中国信通院院长余晓晖在会上表示，人工智能发展治理和安全已成当前各国面临的一个重大议题。他指出，当前人工智能安全治理需要汇聚行业各方智慧和力量。
余晓晖提出，要完善人工智能安全风险识别方法论。人工智能技术日益融入经济社会发展各领域全过程，其安全风险面不断扩大，需要建立更加敏捷、精准的安全风险识别机制。
此外，通过强化风险评估与防范，重点从人工智能基础设施、算法模型、上层应用以及产业链等方面进行评估，尽快尽早发现风险。
余晓晖还强调，加强人工智能安全技术治理，加强对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究，通过技术手段进行治理。
“中国需要和全球各国共同研究人工智能，达成更广泛的共识，共同释放我们人工智能潜力、防范治理风险”，余晓晖建议应加强国际合作。
AIIA安全治理委员会专家委主任、公安部信息安全等级保护评估中心原副主任毕马宁指出，为应对当前人工智能所带来的安全挑战，AIIA安全治理委员会重点围绕人工智能的治理框架、风险管理、内生安全、安全应用开展大量的理论和技术研究工作。
会上，中国信通院正式发布“人工智能安全守护计划”（简称“智安计划”）。工业和信息化部网络安全管理局数据安全处处长雷楠、中国信通院人工智能研究所所长魏凯、邮储银行软件研发中心研发安全处负责人王齐峰、讯飞数码科技有限公司副总裁杨娟等企业代表以及产业界50余家合作伙伴共同见证并启动该计划。
“希望能够通过智安计划，推动人工智能安全的整体提升”，魏凯向央广网记者介绍，智安计划系中国信通院依托AIIA发起，计划打造AI Guard品牌，提升国内人工智能技术的服务提供方、使用方的安全防护能力。
AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与元宇宙部主任石霖介绍，当前人工智能技术正经历显著的发展变化，其核心特征包括：通用能力的显著提升、具有强大的生成能力和场景泛化能力进一步强化。
“这些特征共同勾勒出现代人工智能技术的全面发展态势，体现出人工智能领域的持续活力和巨大发展空间”，石霖指出，与此同时，人工智能安全风险日益凸显。以大模型为代表的生成式人工智能产生系列技术安全问题，既包括传统AI的旧问题，也包括大模型带来的新风险NG体育。
他指出，需要各方协同应对人工智能安全问题，助力技术产业健康发展。产业界针对AI系统的安全防护虽有相应的政策制度、技术研究、标准研制和相关技术手段措施，存在威胁情报共享不足、内容无法追溯NG体育、风险损失不可控等问题，亟待建立机制予以解决。
AIIA安全治理委员会安全组组长陈文弢表示NG体育，智安计划希望联合多方力量，提升我国人工智能技术水平和治理能力，促进人工智能产业健康有序发展。据他介绍，智安计划接下来的重点工作主要有三个，包括建立AI威胁信息共享机制、建立AIGC真实性和可信来源互认机制和推动设立人工智能保险产品和服务。
接下来，智安计划打算联合风险评估企业、保险公司，推动设立人工智能相关保险产品NG体育，在出现安全事件、造成经济损失后直接赔付NG体育。陈文弢在接受央广网记者采访时表示，“目前国际上有做网络安全保险的产品，但人工智能领域保险产品尚无人涉及，我们希望能在国际上做个创新尝试”。
官方微信
