NG体育平台新华社北京7月16日电（记者彭茜）一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值，世界卫生组织使用的聊天机器人提供了过时的药品审核信息，美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由ChatGPT凭空捏造……这些真实发生的案例表明，智能体带来的安全隐患不容小觑。
图为2023年11月2日，在英国布莱奇利园，一名参会者经过首届人工智能安全峰会的宣传展板。（新华社记者李颖摄）
智能体是人工智能（AI）领域中的一个重要概念，是指能够自主感知环境、做出决策并执行行动的智能实体，它可以是一个程序、一个系统或是一个机器人。
智能体的核心是人工智能算法，包括机器学习、深度学习、强化学习、神经网络等技术。通过这些算法，智能体可以从大量数据中学习并改进自身的性能，不断优化自己的决策和行为。智能体还可根据环境变化做出灵活的调整，适应不同的场景和任务。
第一，可根据目标独立采取行动，即自主决策。智能体可以被赋予一个高级别甚至模糊的目标，并独立采取行动实现该目标。
第二，可与外部世界互动，自如地使用不同的软件工具。比如基于GPT-4的智能体AutoGPT，可以自主地在网络上搜索相关信息，并根据用户的需求自动编写代码和管理业务NG体育。
第三，可无限期地运行。美国哈佛大学法学院教授乔纳森·齐特雷恩近期在美国《大西洋》杂志发表的《是时候控制AI智能体》一文指出，智能体允许人类操作员“设置后便不再操心”。还有专家认为，智能体具备可进化性，能够在工作进程中通过反馈逐步自我优化，比如学习新技能和优化技能组合。
以GPT为代表的大语言模型（LLM）的出现，标志着智能体进入批量化生产时代NG体育。此前NG体育NG体育，智能体需靠专业的计算机科学人员历经多轮研发测试，现在依靠大语言模型就可迅速将特定目标转化为程序代码，生成各式各样的智能体。而兼具文字、图片、视频生成和理解能力的多模态大模型，也为智能体的发展创造了有利条件，使它们可以利用计算机视觉“看见”虚拟或现实的三维世界，这对于人工智能非玩家角色和机器人研发都尤为重要。
智能体可以自主决策，又能通过与环境交互施加对物理世界影响，一旦失控将给人类社会带来极大威胁。哈佛大学齐特雷恩认为，这种不仅能与人交谈，还能在现实世界中行动的AI的常规化，是“数字与模拟、比特与原子之间跨越血脑屏障的一步”，应当引起警觉。
智能体的运行逻辑可能使其在实现特定目标过程中出现有害偏差。齐特雷恩认为，在一些情况下，智能体可能只捕捉到目标的字面意思，没有理解目标的实质意思，从而在响应某些激励或优化某些目标时出现异常行为NG体育。比如，一个让机器人“帮助我应付无聊的课”的学生可能无意中生成了一个炸弹威胁电话，因为AI试图增添一些刺激。AI大语言模型本身具备的“黑箱”和“幻觉”问题也会增加出现异常的频率。
智能体还可指挥人在真实世界中的行动。美国加利福尼亚大学伯克利分校、加拿大蒙特利尔大学等机构专家近期在美国《科学》杂志发表《管理高级人工智能体》一文称，限制强大智能体对其环境施加的影响是极其困难的。例如，智能体可以说服或付钱给不知情的人类参与者，让他们代表自己执行重要行动。齐特雷恩也认为，一个智能体可能会通过在社交网站上发布有偿招募令来引诱一个人参与现实中的敲诈案，这种操作还可在数百或数千个城镇中同时实施。
由于目前并无有效的智能体退出机制，一些智能体被创造出后可能无法被关闭。这些无法被停用的智能体，最终可能会在一个与最初启动它们时完全不同的环境中运行，彻底背离其最初用途。智能体也可能会以不可预见的方式相互作用，造成意外事故。
已有“狡猾”的智能体成功规避了现有的安全措施。相关专家指出，如果一个智能体足够先进，它就能够识别出自己正在接受测试。目前已发现一些智能体能够识别安全测试并暂停不当行为，这将导致识别对人类危险算法的测试系统失效。
专家认为，人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手，规范智能体行为，并改进现有互联网标准，从而更好地预防智能体失控。应根据智能体的功能用途、潜在风险和使用时限进行分类管理。识别出高风险智能体，对其进行更加严格和审慎的监管。还可参考核监管，对生产具有危险能力的智能体所需的资源进行控制，如超过一定计算阈值的AI模型、芯片或数据中心。此外，由于智能体的风险是全球性的，开展相关监管国际合作也尤为重要。
学会大咖谈｜中国自动化学会李少远：助力产学研融合，推动自动化行业高质量发展
学会大咖谈｜中国有色金属学会贾明星：培育新质生产力，建设有色金属工业强国
“发现243信号”“243信号跟踪正常”……在航天员“回家”时，这些关键节点信息指令的发出，意味着我们研发的定向仪系列产品精准发现了航天员位置。
我们的主要保护对象是壁画。许多壁画已经存在上千年，经过时间的磨砺，如今它们的模样往往是“千疮百孔”。面对这些脆弱的文物，既要做好保护，又要做好“医治”，难度可想而知。
随着科技的不断进步，航天技术逐渐揭开神秘面纱，从遥远的太空走进公众的日常生活，从提升农业效率到改进环境监测技术，从优化交通出行到革新医疗技术，航天科技正以跨界融合与创新应用的方式，
囿于时间与空间，遥感影像通常只能捕捉到部分信息。科研人员需要通过这些信息去反演一个全过程模态，即将遥感数据转变为人们实际需要的地表各种特性参数，但这实际上是很困难的。
“我们的车铣复合机床经过你们优化后，性能有了很大提升，销量同比增长30%。”日前，在浙江省台州市东部数控设备有限公司的生产车间，总经理赵小刚兴致勃勃地带着浙江省高档数控机床技术创新中心副主任武建伟一边参观，
7月15日，由中国交通建设集团有限公司牵头的“中央企业海洋工程技术创新联合体”在北京成立。在《桥梁工程——从浅海走向深海》报告中，张喜刚透露，针对未来单跨1500米的斜拉桥和3000米左右的悬索桥，相关团队已开始研究适用于水深接近100米的新型复合技术。
7月10日，记者从中国湖南农业大学获悉，该校农学院李林教授团队和中国香港李氏集团Sun Crops农业有限公司正式签署“尼日利亚花生复兴计划”合作协议。
一种可能在早期地球浅水区繁衍生息的复杂微生物，可能是今天所有生命的最后一个共同祖先。”为了像Martin一样探索LUCA的生活方式，Moody研究小组追踪了350种细菌和350种古细菌的57个“标记”基因，以构建一棵生命树。
如果你还徘徊在专业选择的边缘，不知该“选择”或“逃离”哪些专业，不妨来了解一下，新质生产力如何给专业赋能。”对于“选择高校还是选择专业”这个考生填报志愿的老问题，林万龙建议，行业头部高校代表了新质生产力的发展方向，是更稳妥的选择。
15日，国产首颗全电推通信卫星——亚太6E在香港圆满通过卫星在轨技术验收评审和地面系统最终技术验收评审，这标志着亚太6E通信卫星完成在轨测试，正式投入运营。
今年4月16日，风云三号G星已在轨工作整整一年了。它先后捕捉到“玛娃”“泰利”等台风系统的三维立体结构，并在2023年以来的一些气象监测中精准监测大气三维精细结构信息，为防灾减灾提供了宝贵的观测数据。
“这个看起来不起眼的钻头，其实很不简单，它是西南石油大学校史馆的镇馆之宝，见证了我国石油工业装备制造的发展历程。”西南石油大学党委书记张烈辉说，学校着力推动能源报国网络育人与理想信念教育、爱国主义教育深度融合，叫响了能源报国网络育人品牌。
当前，全民健身热潮涌动，广大民众积极投身体育运动。发生意外并不可怕，如果运动场馆配备应有的急救设施，或能转危为安。近年来，随着社会治理效能和城市经济发展水平的不断提高，在各类公共场所，自动体外除颤器（AED）越来越常见。
“我们土木工程专业正面临着重大挑战。砖瓦的出现、钢材的使用、混凝土的兴起引领了土木工程的前三次飞跃，钱七虎院士表示，第四次飞跃则以土木工程建造科技和数字化技术的全面交叉融合创新为标志。
白皮书提出，构建大模型安全政府监管、生态培育、企业自律、人才培养、测试验证“五维一体”的治理框架。宣言呼吁，推动制定和采纳具有广泛国际共识的人工智能的伦理指南与规范，引导人工智能技术的健康发展，防止其被误用、滥用或恶用。
新质生产力的核心在于技术进步所驱动的产业升级，具体表现在两个层面：一是产品或服务形态变化的业务升级；二是产品价值的跃升。国有资本应和大学、科研机构合作，对基础研究进行投资；和企业合作，对应用技术的转化进行投资。
田间试验结果显示，与当地常规土壤管理技术相比，黑土健康增粮关键技术可以提高土壤有机质0.2～0.3个百分点，化肥减量10%～20%，使作物增产8%～15%。目前，该系列技术推广面积已达300万亩，辐射带动800万亩，为黑土地粮食产量再创新高奠定基础。
归国途中，他致信美国布朗大学罗恩·丘尔教授，深情写道：“那个名为中国的国家是我的祖国。”理由如此郑重，以至在颠簸的远洋轮船上，正受病痛之苦的应崇福，字迹依旧工整，不忍有一丝潦草。
该研究首次构建了最大规模的泛癌种脉管系统全息细胞图谱，为深入理解肿瘤血管生成的复杂过程提供了全景视角，并为临床提升抗血管生成治疗疗效提供了科学方案。
生态保护红线是中国生态文明建设的重要制度创新和重大决策部署。白皮书指出，为筑牢海洋生态屏障，中国对海洋生态保护重点区域作出系统安排，优先将生物多样性维护、海岸防护等生态功能极重要区、海岸侵蚀等生态极脆弱区划入海洋生态保护红线
官方微信
