网站首页

ng体育产品中心

智能终端处理器 智能云服务器 软件开发环境

ng体育新闻中心

关于ng体育

公司概况 核心优势 核心团队 发展历程

联系我们ng体育

官方微信 官方微博
ng体育 > ng体育产品中心 > 智能终端处理器

NG体育AI攻击正泛滥人类能否防范

发布时间:2024-06-06 23:15浏览次数: 来源于:网络

  NG体育平台6月5日至6日,在为期两天的北京网络安全大会上,与会者提到最多的话题是人工智能(AI)安全。参会的政府官员、学者、企业家们都在谈论AI带来的安全风险NG体育NG体育。

  巴基斯坦计算机应急响应小组(NCERT)主席海德尔阿巴斯说,AI攻击是新兴攻击方法中最具威胁性、也最难以防治的一种攻击。一项面向800位IT专家的调研显示,在他们所属机构遭受的新式攻击中,51%为AI攻击,AI攻击会影响很多国家和组织。

  海德尔阿巴斯警告,AI驱动的网络攻击比传统攻击强大很多,需要认真应对。目前,巴基斯坦政府已经专门成立了一支国家网络安全应急响应团队,加大网络安全建设。

  AI攻击包括深度伪造、黑产大模型、恶意AI机器人、自动化攻击等多个维度。《2024人工智能安全报告》(下称《报告》)显示,2023年,基于AI的深度伪造欺诈暴增了3000%,基于AI的钓鱼邮件数量增长了1000%。已有多个具备国家背景的高级长期威胁(APT)组织利用AI实施了十余起网络攻击事件。同时,基于AI的新型攻击种类与手段不断出现,在全球造成了严重的危害。

  《报告》还称,地下社区一直对大模型非常感兴趣。在暗网上流行的大模型产品WormGPT被视为 ChatGPT(美国AI公司OpenAI研发的聊天机器人程序)的无道德约束替代品,它能生成复杂的恶意软件和勒索软件功能。另一款大模型产品FraudGPT能生成快速、大量的网络钓鱼攻击。

  中央网信办网络安全协调局副局长王营康表示,随着技术发展,攻击者可利用AI技术生成网络攻击和网络钓鱼工具,网络安全将从人人对抗NG体育、人机对抗逐渐向基于AI的攻防对抗演化。

  不过,虽然AI有很大的安全风险,但与会专家的共识是,应该积极发展AI,而不是阻止它。

  “不发展(AI)是最大的不安全。”先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克认为,此前多位全球知名人士要求暂停开发优于GPT-4(美国AI公司OpenAI研发的大模型)的大模型的做法,并不可取。

  奇安信集团董事长齐向东接受经济观察网采访时说NG体育,人类不要被AI引发的风险吓到,应该拥抱AI,安全公司可以解决AI带来的安全问题。

  齐向东用奇安信安全机器人举例说,最近他们在某核电企业安排了安全机器人与人工团队一起演习,共发现15起安全事件,一半以上事件由机器人抢先识别并确认。这件事说明,用AI来助力安全已是大势所趋,在未来的网络攻防中,得AI者得天下。

  海德尔阿巴斯也认为,AI安全问题可以得到解决NG体育。谈及如何防范AI攻击,他认为,可以用大模型技术构建起恶意软件防护墙,甚至还能够借助安全软件实现反向攻击,由AI驱动的网络攻击,也需要用AI力量去应对。

下一篇:NG体育通用人工智能将三年内实现?OpenAI多员工签联名信呼吁改革
上一篇:NG体育官网app下载松鼠Ai梁静出席2024机器人与人工智能教育论坛对话跨越边界的智能教育时代

咨询我们

输入您的疑问及需求发送邮箱给我们