网站首页

ng体育产品中心

智能终端处理器 智能云服务器 软件开发环境

ng体育新闻中心

关于ng体育

公司概况 核心优势 核心团队 发展历程

联系我们ng体育

官方微信 官方微博
ng体育 > ng体育产品中心 > 智能终端处理器

NG体育发起“人工智能守护计划”中国信通院拟推动设立人工智能保险产品

发布时间:2024-07-31 10:44浏览次数: 来源于:网络

  NG体育央广网北京7月30日消息(记者 樊瑞)近年来,生成式人工智能正引领社会新一轮产业变革,广泛赋能生产生活场景。而同时,人工智能的安全伦理问题日益凸显。大模型时代,如何确保人工智能安全可控是当下亟需应对的问题。

  日前,中国人工智能产业发展联盟(以下简称“AIIA”)安全治理委员会在北京召开成果发布会。会上,中国信息通信研究院(以下简称“中国信通院”)依托AIIA发起“人工智能安全守护计划”,以提升我国人工智能技术水平和治理能力,促进人工智能产业健康有序发展。

  相关负责人在接受央广网记者采访时表示,推动设立人工智能保险产品和服务是其未来重点工作之一,“目前国际上有做网络安全保险的,但人工智能领域保险产品尚无人涉及,我我们希望能在国际上做个创新尝试”。

  AIIA秘书长、中国信通院院长余晓晖在会上表示,人工智能发展治理和安全已成当前各国面临的一个重大议题。他指出,当前人工智能安全治理需要汇聚行业各方智慧和力量。

  余晓晖提出,要完善人工智能安全风险识别方法论。人工智能技术日益融入经济社会发展各领域全过程,其安全风险面不断扩大,需要建立更加敏捷、精准的安全风险识别机制。

  此外,通过强化风险评估与防范,重点从人工智能基础设施、算法模型、上层应用以及产业链等方面进行评估,尽快尽早发现风险。

  余晓晖还强调,加强人工智能安全技术治理,加强对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究,通过技术手段进行治理。

  “中国需要和全球各国共同研究人工智能,达成更广泛的共识,共同释放我们人工智能潜力、防范治理风险”,余晓晖建议应加强国际合作。

  AIIA安全治理委员会专家委主任、公安部信息安全等级保护评估中心原副主任毕马宁指出,为应对当前人工智能所带来的安全挑战,AIIA安全治理委员会重点围绕人工智能的治理框架、风险管理、内生安全、安全应用开展大量的理论和技术研究工作。

  会上,中国信通院正式发布“人工智能安全守护计划”(简称“智安计划”)。工业和信息化部网络安全管理局数据安全处处长雷楠、中国信通院人工智能研究所所长魏凯、邮储银行软件研发中心研发安全处负责人王齐峰、讯飞数码科技有限公司副总裁杨娟等企业代表以及产业界50余家合作伙伴共同见证并启动该计划。

  “希望能够通过智安计划,推动人工智能安全的整体提升”,魏凯向央广网记者介绍,智安计划系中国信通院依托AIIA发起,计划打造AI Guard品牌,提升国内人工智能技术的服务提供方、使用方的安全防护能力。

  AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与元宇宙部主任石霖介绍,当前人工智能技术正经历显著的发展变化,其核心特征包括:通用能力的显著提升、具有强大的生成能力和场景泛化能力进一步强化。

  “这些特征共同勾勒出现代人工智能技术的全面发展态势,体现出人工智能领域的持续活力和巨大发展空间”,石霖指出,与此同时,人工智能安全风险日益凸显。以大模型为代表的生成式人工智能产生系列技术安全问题,既包括传统AI的旧问题,也包括大模型带来的新风险NG体育。

  他指出,需要各方协同应对人工智能安全问题,助力技术产业健康发展。产业界针对AI系统的安全防护虽有相应的政策制度、技术研究、标准研制和相关技术手段措施,存在威胁情报共享不足、内容无法追溯NG体育、风险损失不可控等问题,亟待建立机制予以解决。

  AIIA安全治理委员会安全组组长陈文弢表示NG体育,智安计划希望联合多方力量,提升我国人工智能技术水平和治理能力,促进人工智能产业健康有序发展。据他介绍,智安计划接下来的重点工作主要有三个,包括建立AI威胁信息共享机制、建立AIGC真实性和可信来源互认机制和推动设立人工智能保险产品和服务。

  接下来,智安计划打算联合风险评估企业、保险公司,推动设立人工智能相关保险产品NG体育,在出现安全事件、造成经济损失后直接赔付NG体育。陈文弢在接受央广网记者采访时表示,“目前国际上有做网络安全保险的产品,但人工智能领域保险产品尚无人涉及,我们希望能在国际上做个创新尝试”。

下一篇:NG体育平台深圳产业会客厅:推动产学研用深度融合 打造人工智能先锋城市
上一篇:NG体育平台22项具体举措发布 深圳加快打造人工智能先锋城市

咨询我们

输入您的疑问及需求发送邮箱给我们