B体育是对让计算机展现出智慧的方法的研究。计算机在获得正确方向后可以高效工作，在这里，正确的方向意味着最有可能实现目标的方向，用术语来说就是最大化效果预期。人工智能需要处理的任务包括学习、推理、规划、感知、语言识别和机器人控制等。
「它是一个特定技术」。例如在二十世纪八十年代到九十年代，人们经常会看到新闻报道中人工智能与基于规则的专家系统被混为一谈。现在，人工智能经常会与多层卷积神经网络混淆。这有点像把物理和蒸汽机的概念搞混了。人工智能探究如何在机器中创造智能意识，它不是在研究中产生的任何一个特定的技术。
「这是一个特定类别的技术方法」。例如，经常有人用符号化或逻辑化的方法将人工智能与「其他方法」相互比较，如神经网络和遗传编程。人工智能不是一种方法，它是一个课题。所有这些方法都是在对人工智能进行研究的产物。
「这是一小群研究者的方向」。这个误解与前几个错误有关。一些作者使用「计算智能」指代几个特定的研究者群体，如研究神经网络，模糊逻辑和遗传算法的研究者。这是非常片面的，因为这种分类让人工智能的研究陷入孤立的境地，让研究成果不能得到广泛的讨论。
「人工智能只是算法」。严格说来不算是误解，人工智能的确包含算法（也可粗略定义为程序），它也包含计算机中其他的应用。当然，人工智能系统需要处理的任务相比传统算法任务（比如排序、算平方根）复杂得多。
文明的一切都是人类智慧的产物。在未来，人工智能会将会扩展人类的智力，这就像起重机让我们能够举起几百吨的重物，飞机让我们很快飞到地球的另一端，电话让我们在任何角落实时交流一样。如果人工智能被适当地设计，它可以创造更多价值。
「人工智能没有人性」。在很多反乌托邦幻想中，人工智能会被用来控制大部分人类，无论是通过监视，机器人执法，法律判决甚至控制经济。这都是未来可能出现的情况，但首先它不会被大多数人接受。人们往往忽视人工智能可以让人类接触更多的知识，消除人与人之间的语言隔阂，解决无意义和重复的繁重任务。
「人工智能将造成不平等」。毫无疑问，自动化程度的提升将使财富集中到越来越少的人手里。但是现在，如何使用人工智能的选择权在我们手里。例如，人工智能可以促进协作，让生产者与客户有更多交流，它可以让个人和小组织在全球化的经济环境下独立运作，摆脱对于特定大公司订单的依赖。
「机器学习是一个新的领域，它已经代替了人工智能的地位」。这种误解是最近机器学习热潮产生的副作用，大量学生在之前没有接触过人工智能的情况下学习了机器学习课程。机器学习一直是人工智能的核心话题：阿兰·图灵在二十世纪五十年代的论文中已经认为学习是通向人工智能最可行的途径。这一观点似乎是正确的，人工智能最突出的早期成果，Arthur Samuel 的跳棋程序就是使用机器学习构建的。
「机器不能学习，它们只能做程序员告诉它的事情」。这显然是错的，程序员能够告诉机器如何学习。Samuel 是一个优秀的跳棋玩家，但他的程序很快就通过学习超过了他。近年来，机器学习的很多应用都需要大量数据来进行训练。
神经网络是受生物神经元启发构建的计算系统。神经网络由许多独立的单元组成，每个单元接收来自上一层单元的输入，并将输出发送到下个单元（「单元」不一定是单独的物理存在；它们可以被认为是计算机程序的不同组成部分）。单元的输出通常通过取输入的加权和并通过某种简单的非线性转型，神经网络的关键特性是基于经验修改与单元之间的链接比较相关权重。
「神经网络是一种新型计算机」。在实践中，几乎所有的神经网络都运行在普通的计算机架构上。一些公司正在设计专用机器，它们有时会被称作是「神经计算机」，可以有效地运行神经网络，但目前为止，这类机器无法提供足够的优势，值得花费大量时间去开发。
「神经网络像大脑一样工作」。事实上，生物神经元的工作方式比神经网络复杂得多，自然界存在很多种不同的神经元，神经元的连接可以随时间进行改变，大脑中也存在其他的机制，可以影响动物的行为。
深度学习是一种特定形式的机器学习，训练多层神经网络。深度学习近年来非常流行，引领了图像识别和语音识别等领域的突破性进展。
「深度学习是一个新领域，已经代替了机器学习的地位」。事实上，深度学习在神经网络研究者中间已经被讨论了超过二十年。最近深度学习的发展是由相对较小的算法改进以及大数据集模型和计算机硬件发展驱动的。
「强人工智能」和「弱人工智能」概念是由 John Searle 最先提出的，是他对人工智能研究方向的两个假设。弱人工智能假设机器可以通过编程展现出人类智能的水平。强人工智能则假设机器出现意识，或者说机器思考和认知的方式可以用以前形容人类的方式来形容。
「强人工智能是人类智力级别通用人工智能研究的方向」。这个解释具有代表性，但这不是强/弱人工智能概念被提出时的本来意义。同样，「弱人工智能」被认为是针对特定领域，执行特定任务的人工智能研究，如语音识别和推荐系统（也称工具 AI）。虽然没有人具有最终解释权，但这种语义的转换可能会造成不必要的混乱。
AGI 代表的是通用人工智能，这个术语意在强调建立通用目的智能系统的雄心目标，其应用的宽度至少能覆盖人类能解决任务。ASI 指的是人工超级智能：远远超越人类智能的人工智能。更具体地说，一个超级智能系统高质量决策能力要比人类强，它能考虑更多的信息和进一步深入未来。
「主流的人工智能研究者并不关心通用人工智能。」像语音识别这种细分领域的某些研究者主要关心的是其所在领域的具体目标，其他一些研究者比较关心找到现有技术的商业应用。在我的影像里，如学习、推理、和计划等细分领域的大多数人工智能研究者认为他们目前的研究工作有助于解决通用人工智能的子问题。
「人类的智能是一种通用智能」。这种观点常被认为是显而易见，不值得讨论，但它却几乎回避了关于 AGI 的所有讨论。持有这种观点的人通常会认为通用智能就是人类能做到所有任务的能力。然而当然不存在人工不能做的人类工作，所以人类能做已经存在的人类工作也没什么好惊讶的。难的是怎么定义那种完全独立于以人类为中心的价值观和偏见的宽度。所以我们只能说人类智能是某种程度上的通用智能，人类能做人类能做的所有事情。另一种更有意义的说法是人类能做很多事情，但目前为止这个问题 还没有确切的答案。
「摩尔定律」指的是多个相关的观察和预测能影响电路性能和密度。现代理解的「摩尔定律」是每一秒的操作次数以及每一美元所能买到的电脑性能，将每隔 N 个月翻一倍以上，N 大约是 18，这一表述有些背离「摩尔定律」最初的定义。
「摩尔定律是物理定律」。事实上，摩尔定律只是一种关于技术进步的经验观察。没有什么规定摩尔定律会持续下去，当然它也不可能无限持续下去。时钟速度的增加已经达到了顶峰，目前价格/性能上的提升也来自于单个芯片上内核（处理单元）数量的上升。
不能。人工智能系统不能做的事情很多，比如理解复杂的自然语言文本；加速意味着在很多情况下得到的错误答案的速度也越快。超级智能需要在主要的概念突破。这些很难预测，即便我们有了速度更快的机器也没啥用。
「让机器更强大的意思是提升它们的智能」。这是人工智能的未来的讨论中的一个常见主题，这个主题似乎建立在一个混乱的概念上，我们使用「强大」来描述人类智力，但是在描述计算机时用的「强大」的含义更加简单，就是每秒操作的次数。
没有机器 IQ 这种说法。某种程度上一个人在多个任务上的多种智慧能力是高度相关的，人类可以说有 IQ，但是研究者们对任意单一维度上的 IQ 定义有争议。另一方面，任意给定的机器的各种能力之间都是不相关的：一台机器能打败世界象棋冠军，并不意味着它能玩的好别的棋类游戏。能赢得猜谜比赛的机器也无法回答「你叫什么名字？」这样简单的问题。
「根据摩尔定律，机器 IQ 会不断上升」。既然根本不存在什么机器 IQ，它也就不可能增长；摩尔定律描述的仅仅是原始的计算吞吐量，与是有存在执行任意特定任务的算法没有关系。
「智能爆炸」这个术语是 I.J.Good 于 1965 年在其文章「Speculations Concerning the First Ultraintelligent Machine」中创造的。它指的是足够智能的机器能重复设计它自己的硬件和软件来创造出一个更加智能的机器的可能性，这个过程会一直重复下去，直到「人的智能被远远的甩在后面」。
「一旦机器达到人类水平的智能，智能爆炸就在所难免」。反过来：虽然逻辑上是可行的，但是让 N 代的机器设计出 N+1 代的机器太难了。同样的道理，我们造的机器可能在一些重要的方面成为超过人类，但是在其他方面可能会落后于人类。在解决贫困、治疗癌症等重要问题上，机器的能力肯定会比人类强，而且不需要在人工智能研究上有大突破就能实现。
这是一个难以回答的问题。因为首先它假定这件事必然发生，事实上它具有选择性：假如人类选择不去发展这样的人工智能，这件事就不太可能发生。第二，「超过」假定智力是线性的，而这不是真实情况，机器在某些任务的处理上比人类更快，而在更多放面则很糟糕。第三，如果我们认为「通用的」智能是有用的，我们就可以开发这样的机器，但目前我们不知道它是不是有用的。宽泛地说，实现这样的人工智能还需要很多技术突破，而这些都是难以预测的，大多数科学家认为这件事会在本世纪内发生。
「它永远不会发生」。对技术突破进行预测是很难的。1933 年 9 月 11 日，Rutherford，也许是那个时代最著名的核物理学家，在英国科学促进年会上向人们宣布：「任何想从原子变形过程中获取能源的努力都是徒劳的。」（他在各种场合发表过许多类似言论，大意都是表达使用原子能是不可能的）结果第二天早上，Leo Szilard 发现了中子诱导链式反应，并很快对核反应堆申请了专利。
人工智能的应用范围已经比几年前大很多了。从围棋、纸牌、简单的问答、从新闻中抓取信息、组合复杂的对象、翻译文字、识别语音、识别图像中的概念、到在「普通」交通条件下驾驶汽车，不一而足。在很多情况下，人工智能在你不知道的情况下发挥着作用，如检测信用卡欺诈，评估信用，甚至在复杂的电子商务拍卖中投标。搜索引擎中的部分功能也是人工智能的简单形式。
「像『下棋』这样的任务对机器来说和对人类来说是一样的」。这是一个错误的假设：机器「掌握」一项技能的程度超过了人类。人类通过阅读和理解学会游戏规则，通过观看棋局和下棋来提高水平。但典型的下棋程序没有这样的能力——将下棋规则编程，让机器算法直接给出所有可能的下一步。机器无法「知道」人类所谓的规则（目前新兴的强化学习方式改变了这一点）。DeepMind 的人工智能系统可以学会很多种游戏，它不知道自己在学习什么，看起来也不太可能学会这些游戏的规则。
「机器执行任务的方式和人类一样」。我们不知道人类思考问题的机制，但这种机制与人工智能系统处理任务的方式看起来大不相同B体育。例如，下棋程序通过考虑当前棋局状态和下一步可能的序列比较结果考虑下一步，而人类经常是先发现可能获得的优势，然后继续考虑如何找到一系列方式来实现它。
「如果机器可以做到任务 X，那么它就可以做类似的所有任务了」。参见有关机器 IQ 的问题，机器目前还不能形成通用化的智能，它们的功能通常局限于某一领域。
在可预见的未来中，人工智能的各种应用将会改变社会形式。自动驾驶汽车现在已经在路上进行测试，至少有一家公司承诺将在 2016 年内交货（考虑到目前遇到的困难，其他公司的态度则更为谨慎）随着计算机视觉和机械腿设计的进化，机器人非结构化环境正在变得更为实用——可能的应用范围包括农业和服务领域（特别是对于老人和残疾人而言）。
最后，随着机器能够理解人类语言，搜索引擎和手机上的「个人助理」将会改变现有的人机交互方式，它们可以回答问题，整合信息，提供建议，并促进交流。人工智能还可能会对科学领域（如系统生物学）产生重大影响，这些学科中信息的复杂性和数量一直令人望而却步。
「机器人正在接管一切」。参见《人工智能的智力何时才能超过人类》，人工智能中的绝大多数进步是基于任务处理的改进。当然，从长远来看，维持人类的控制很重要。
一些研究（比如 Frey 和 Osborne 在 2013 年的调查）表明在未来美国将近一半的工作在自动化面前会变得很脆弱。其他作者，比如 Bryjolfsson 和麦肯锡在 2011 年的工作表明这一变化已经开始了：2008 年经济萧条之后就业率的缓慢恢复，生产率与停滞不前的工资之间的差异化增加了自动化的进程。随着人工智能与机器人的持续发展，更多的工作将受到影响看起来不可避免。大量的失业并不是必然的，但这可能会造成经济结构的巨大转变，需要想出组织工作与酬劳的新思路。
「机器人的工作越多意味着人类工作越少」。工作不是零和（zero-sum）的：由一对机器人协助的工人可能更具工作效率，也因此需要更多这样的工人。没有机器人的帮助，一些领域的工作由人类完成可能不具备经济效益，或者一些工作单独的人或机器无法完成。同样，就像涂刷匠的刷子与滚筒：如果使用针尖大小的刷子一点一点的涂刷，我们就雇不起涂刷匠来涂刷一整间屋子了。
无人机是由人远程控制的飞行器；有些无人机可以携带武器（通常是导弹），这些武器的释放也是由人远程控制的。自动武器是可以自主选择和吸引攻击对象的装置。目前这类装置包括韩国非军事化区里的自动瞄准机枪和一些不同类型的船载反导弹系统。目前在技术上可以实现将无人飞机的控制员替换成完全自动的计算机系统，以达到致命自主武器系统的要求。致命自主武器系统是日内瓦会议裁减军备议题的讨论主题。杀人机器人是对具有轮动能力和行走能力的武器的统称，包括：船，飞行器以及人工智能的昆虫飞行器。
「完全自主武器的出现还需要 20-30 年的研发」。得出这个预估时间的依据无从知晓，但是 20-30 年的时间跨度有点夸大所需的研发时间长度。目前自主武器的研发已经在全世界内大范围的开展，英国国防部已经宣称，对于一些简单对抗如海上战役，完全自动武器现在已经可以实施。
如果部署了自动化武器，它们也会有士兵那样的难题：有时难以分别朋友与敌人、平民与敌军。而且可能会有军事事故造成平民伤亡，或者机器人受到干扰与网络攻击。也因为后者，一些军事专家预测自动化武器可能需要封闭操作系统，没有电子通讯。如果系统行为不准确的话，这样做能防止有人凌驾于自动化控制器之上。但在可预见的未来，自动化武器可能会变得很常见，在有限的任务中被使用。但在全局规模上，它们很难自己编程出计划。
我们可以按下「关闭」按钮。「关闭」按钮会使得自动化武器在网络攻击面前变得很脆弱。这样的通信频道在战争中也是如此。此外，通用智能系统会被赋予一项任务，防止自己的「关闭」按钮被按下。
关于人工智能风险的早期警告曾是非常模糊的。I.J.Good 对于人工智能的可行性提出了自己的观点：「只要机器能够聪明到告诉我们如何保持对它的控制。」人们普遍意识到，在我们的星球上如果存在一个超级智能实体，可能会出现恐慌；但另一方面，我们也都清楚更加聪明的机器会更加有用，而且更加聪明不一定意味着邪恶。事实上，论据很简单。
假设超智能系统被设计成实现由人类设计者指定的某一目标，并假设这一目标不完全符合人类的价值观，人工智能形成的价值观（如果有）是非常难以确定的。
任何充分有能力的智能系统将倾向于确保其自身的持续存在并且获取物理和计算资源——不是为了他们自己的目的，而是为了更好地执行人类为它设定的任务。
现在我们问题的本质是你所要求的不是你所得到的。Norbert Wiener 是自动化和控制理论的先驱者，他在 1960 年写道：「如果我们使用——为达到某些目的——一些机器来代替我们做某些工作，我们最好能够清楚它们的确在按我们的想法工作。」Marvin Minsky 举了让机器计算 pi 这个例子，Nick Bostrom 则举了回形针的例子。对于人类而言，这些目标是根据人类视角提出的，这意味着计算机服务器或回形针覆盖整个银河系不是好的解决方案。一个具有能力的决策者——特别是能够通过互联网连接全球每块屏幕的智能——可能会对人类产生不可逆转的影响。幸运的是，这个问题相对比较明确，所以现在就可以开始解决。
超智能机器将变得自发地产生意识、本能地变得邪恶或伤害人类。科幻小说作者通常假定上面这些一个或多个问题来设定机器与人类的对立面，这样的假设完全是不必要的。
我们人类发展人工智能系统，那么为什么我们要制造出来毁灭自己呢？有一些人类工智能「捍卫者」常常争辩道因为人类建立了人工智能系统，那么完全没有理由来支持这样的假设，即我们是在制造一个旨在毁灭人类的机器。这个没有抓住辩论要点，即哪个是邪恶意图，在设计者这一边还是代中间者这一边，这是存在存亡威胁的先决条件，这个问题也就是错误设定了对象。这将永远不会发生。
从 2014 年开始，媒体就定期地报道如 Stephen Hawking、 Elon Musk、 Steve Wozniak and Bill Gates 那样名人的对人工智能的担忧。这些报道通常引用那些最绝望话语并省略实质担心的深层原因，通常就像「什么是人工智能现存风险」那样的问题。在许多情况下，担忧就是在阅读 Nick Bostrom 的书籍超智能（*Superintelligence*）之后产生的。另外一些当下关心这个问题的潮流也是因为人工智能的发展正在加速。这种加速可能是很多因素的集合，包括逐步完善的理论基础，它连接了很多的人工智能领域成为一个统一的整体。还有学术实验室能产出达到能够应用并解决现实世界的实际问题在人工智能方向商业投资的急剧增加也作为。
如果人们是担心超人工智能就在某个角落，那么基本上人工智能研究者很少认为超智能机器就在我们周围某个角落。这并不暗示着我们应该等着，直到这个问题变得很严重！如果我们发现直径 10 英里的小行星将于 50 年后撞向地球，我们难道能够不消灭它并声称「我们会在五年的时候去关注它」？
这个领域好像并不要求人类级的通用人工智能能够达到成熟，而制造一些可信赖的高质量的产品也许在下个十年内有能实现。这就包括了语音识别、从简单的实际材料中提炼信息、对物体和行为的视觉识别、日常事物的机器人操作和自动驾驶。努力提升质量和扩展文本与视频的理解系统能制造更强劲的家用机器人，产生更为广泛有用的机器人，它能展示常识知识系统，一起学习并在遍历所有形式后表现得更好。还存在获取和组织科学知识的专业系统，它能管理复杂假说并可能对分子生物学、系统生物学和制药方面产生重大的影响。我们也许也会看到它在社会科学和政策制定有相同的影响，特别是在给它关于人类活动巨量的机器可读性数据之后，并如果机器是很可靠有用的，那么人们同样也需要机器去理解人类价值。公共和私人知识源，也就是知道和推理真实世界的系统，它不仅仅是数据的仓库，它会成为社会的组成部分。
21. 什么是「价值定位（value alignment）」？它有什么要紧的？
价值定位（Value alignment）就是校准人机关系具体目标价值的任务，所以机器最优选择大概来说就是无论做什么都是最大化人类的幸福感。如果没有价值定位，那么超脱人类掌控的超智能机器的出现就是不可忽视的风险。
「我们所有需要的就是阿西莫夫定律（Asimovs laws）」。阿西莫夫定律本质上就是一些条款：它们给人类创造出各种故事情节提供灵感，但是基本对约束机器人没有什么有用的信息，因为它没有更多具体的细节。它们的基本结构为一组规则而不是效用函数，这是很有问题的：它们的词典式结构（例如任何对人类的伤害是比所有机器人的损害还要严格重要地多）意味着没有给不确定性或权衡留下空间。也许机器人只为了拍死一只在以后可能叮咬人类的蚊子会跳出悬崖毁灭了自己。另外，它也许会锁上人类汽车的门B体育，因为坐车会提高人类受伤的可能性。最后，基于最大化人类效用的方法，对于第三条法则是没有必要的（机器人自我保护），因为机器人不保证自身的存在是不能为人类效用做出贡献的B体育，还会令其拥有者十分失望。
22. 对于存在主义风险（existential risk），人工智能社区做了什么？
许多关于人工智能的存在主义风险的讨论都是处于人工智能社区主流之外的，它们是从人工智能研究最初到最主要的反动力。在 2008 年的时候，AAAI（美国人工智能学会）就举行了个座谈会来讨论这个问题。座谈会中期报告就指出了存在的一些长期问题，并降低了一些人工智能对人类社会风险的想法。最近，在 2015 年 1 月 Puerto Rico 由 Future of Life Institute 主办的会议上，参会者和随后参加者共六千多人共同签署了一份公开信，强烈呼吁应该有关注这些风险问题的研究和提出一个更加详细的研究议程。随后，Elon Musk 为支持这方面的研究而拿出了 1000 万美元。另外，Eric Horvitz 已经建立个期望追踪风险问题并在需要时给出政策建议的长期研究。最后还有 AAAI 也已经建立了一个关注人工智能影响和伦理问题（Impact of AI and Ethical Issues）的常务委员会。
「规约或控制研究是不可能的」。有些人辩称没办法避免消极后果，因为研究进展是无法停止和规约的。实际上这种声称本身就是错误的：在 1975 年关于基因重组的阿西洛马会议（Asilomar Conference）就成功地发起自愿活动中止了设计制造人类遗传性基因修饰，并一直持续成为了国际准则。另外，如果实现人类级的人工智能研究未加抑制（这个是很可能出现的），那么在方法上开始谨慎地研究确保人工智能系统在我们掌控下是十分重要的。
如果你是一个人工智能研究者（或对这方面感兴趣的经济学家、伦理学家、政治学者、未来主义者和律师），从 2015 年波多黎各会议（Puerto Rico conference）在研究议程中就已经兴起了一个主题，即在主要的人工智能会议上会举行相应的研讨会，比如说 AAAI Fall 和 Spring Symposium series 等等。FHI、CSER、 FLI 和 MIRI 网站都有更多的信息。
「完成这些是没什么困难的」。我们不管做什么都无法改变未来，这些事都终将发生。也没有什么能离真相更近一点的，我们不能预测未来，因为我们正在创造未来，这是我们集体的选择。
像很多其它研究领域一样，人工智能的基本问题可以提炼成四个：“做什么?” “能做吗?” “怎么做？” “该做吗？”下面是我对这些问题的简略分析。
我在《当你谈论人工智能时，到底在谈论什么?》（点击文末“阅读原文”查看，下同）中已经列举了“人工智能”名下五类不同的研究目标，而目前流行的“人工智能就是用计算机解决那些以前只有人脑才能解决的问题”就是其中的“能力派”。这一派的优势是通俗易懂，直接见效，但缺点是圈画得太大，以至于以前叫“自动化”“计算机应用”的工作现在都赶时髦改叫“人工智能”了。由于这种界定使得AI涵盖了大量完全不同的系统，在此范围内建立一个统一的人工智能理论的可能性甚微。
在《人工智能迷途：计算机的高技能等于高智能吗？》中，我介绍了“通用人工智能”的观念及其在历史中的浮沉。时至今日，这个词越来越多地出现在各种讨论中，但对其意义的理解仍有很多误区。比如一个常见的说法是把通用系统叫做“强人工智能”，而把专用系统叫做“弱人工智能”。这个区分不无道理（因为前者的目标远高于后者），但二者的区别其实不是能力的强弱（专用系统在能力上往往已经远胜于人），而是应用范围和工作原理，所以这种称呼会使人将二者间“质”的差别误判为“量”的差别，以为把各种专用系统整合在一起就是通用系统了。
即便在当前的通用人工智能研究者之中，对研究目的的确切设定也各有不同。有些人企图尽可能忠实地模拟脑结构，有些人企图在尽可能多的领域中取代人，有些人（包括我）企图让计算机遵循和人基本相同的“思维规律”。
有些读者可能会想，连基本概念和目标都没弄清还怎么研究，殊不知对很多复杂现象的准确刻画不可能发生在研究的开始，而会是研究结果的一部分，所以先“统一思想”是不现实的。另一方面，那种认为无需争辩“智能”定义，只需跟着直觉用法走就好的看法恰恰是目前这个领域中观念混乱的重要原因，也是不可取的。人工智能研究中的很多争论都可以回溯到对智能的不同理解，而这个问题又不能靠字典、权威或民意测验来解决。如果研究目标不一样，对其它相关问题的回答自然也就不会一样。在这一议题上尚无共识，恰恰更意味着我们应注意辨识不同的研究目标，而避免笼统地断言“人工智能”如何如何。
从“人工智能”“思维机器”等成为研究对象时起，这种努力的成功可能性就一直是有争议的。随着深度学习等技术的成功，目前流行话语中的人工智能（在某个具体问题的解决能力上达到或超过人类）的可能性不再是问题，但通用人工智能的可能性仍是受到广泛怀疑的。
对这个问题的肯定性论证即使在学术界认为大功告成之后的很长时间内仍不会被公众普遍接受，比如有人会坚持说它没有“灵魂”，不管它做到了什么。因此，我下面只简单说明为什么现有的否定性论证都是不能成立的。这里有几种不同的情况。
一类“人工智能不可能”的断言是出于对这个领域的研究目标的误解，因而是在攻击一个稻草人。持这种态度的人往往以为这个领域的目标是制造在所有方面都和人一摸一样的计算机。找些证据说明这不可能并不难，但问题是，我还不知道任何研究者真是冲着那个目标去的。实际上，所有研究人工智能（包括通用人工智能）的人都只是认为计算机可以在某些方面和某种程度上和人脑相类似。很多研究者认为在“人类智能”的诸多现象之中存在一个更一般的“智能”机制，而“人工智能”是这个机制的另一种实现方式。按照这种观点，即使人工智能完全实现，也不会和人类智能在外部表现上完全相同。因此，这种“人工智能不可能”的论断不会对这个领域中的研究有任何影响。
相比之下，另一类“人工智能不可能”的论证是值得重视的，因为它们是直指人工智能技术的某些“死穴”。比较常见的包括“计算机必须遵循程序，因此不可能有灵活性和创造性”“计算机只能根据形式来使用符号，但无法获得其意义”“有些真理人能发现，但计算机永远不能”。在这里，我不具体讨论它们（参见我以前的文章），只是指出它们的一个共同问题：其实这里每个论证都是针对一个具体的智能技术或计算机用法，但结论却往往是“人工智能”如何如何、“计算机”怎样怎样，其结果是夸大了其结论的适用范围。这些讨论对人工智能的发展是有益的，因为它们从反面为新理论、新技术的研发提供了借鉴。遗憾的是，至今仍有不少人以为它们限定了所有人工智能研究所能达到的高度。
具有讽刺意味的是，在近期对人工智能的限度的讨论中，很多形如“人工智能永远也无法……”的断言反而是出自“人工智能专家”之口。这其实也源于主流人工智能在历经挫败后对“大问题”的回避。很多人研究多年“人工智能”，但只是注重于对某个别功能的实现和某个别问题的解决，因此在他们说“没人知道如何实现通用智能”时，他们实际上说的是“我不知道怎么做，而且我所追随的那些名人也不知道怎么做。其它人的工作不值得注意，因为反正他们也还没做出来呢”。由于有理由认为通用智能系统和专用系统是非常不同的领域，在后者的研究中成名的人物对前者发言时权威性其实是很有限的，而且“现在还没做出来”和“永远也不能做出来”显然不是一回事。
由于专用系统的实现途径因问题而异，在这里我只讨论通用人工智能，而且只集中分析几种常见的观点，而把对我自己的研究进路的介绍留给其它文章。
在相信通用人工智能可能实现的人们当中，目前最被看好的技术自然非深度学习莫属。每当深度学习的一个新用途出现，总会有人说 “这标志着又向通用人工智能前进了一步”，似乎在这个方向上走下去就是了。在《深度神经网络会产生人这样的智能吗？》中，我已经说明了通过深度学习以及相关的机器学习技术实现通用智能的困难。这里要补充的一点是：有人认为深度学习已经是“通用”的了，因为这个技术可以被应用于很多不同的领域。但这不是“通用人工智能”的意思。深度神经网络的确既能被训练下围棋，也能识别照片，但同一个网络不能同时做这两件事。由于以往的机器学习研究基本上都是以“逼近单一函数”为指向的，把它们推广到多目标（尤其是设计时没有考虑过的目标）绝不是个容易的事，因为它要求整个研究规范的根本改变。时至今日，尚没有一个用深度学习实现通用人工智能的完整路线图，而相信这个可能性的人往往是从已有的成果做简单外推。
另一个想法是整合各种专用“模块”于一个“构架”之中，以让它们分工协作，成为一个通用系统。这是个很自然的想法，也有不少人在试。但是这条路远不如看上去那么理所当然。随便找一本人工智能教科书，其中提到的算法或设计就得有几百个，各有不同的用途。把它们都实现在同一个计算机系统中在原则上是可能的，但决定在什么时候用哪个工具，这本身大概就需要通用智能了，更不要说这些工具各自的理论预设往往是互相冲突的，因此无法互相协调。另一个大问题是诸认知功能的划分大致上是沿用心理学的传统（如推理、学习、记忆、联想、感知、运动、语言、情绪、意识等等），尽管它们之间的联系显然非常密切。如果智能的确是“横看成岭侧成峰”，那么从不同角度和距离描绘不同的“岭”和“峰”自然可以，但如果目的是给庐山造个模型，那么分别构造这些“岭”和“峰”，然后再把它们“组装”起来，这就不对了，因为这些“构件”更应被看作同一个对象的不同侧面，而非不同部分。
有人试图通过构造更“忠实于人脑”的模型来达到各认知功能的统一再现。像我在《深度神经网络会产生人这样的智能吗？》中所说的，这条途径的最大问题不是其难度，而是其必要性。如果我们把智能看成一种有不同实现方式的认知机制，那就没有理由认为人脑是唯一能实现它的方式，尽管它的确是我们最熟悉的方式。和人脑在实现细节上最接近的模型未必是人工智能最合适的模型，尽管这种模型对脑科学而言很有价值。
总之，在实现其它目的时有效的技术未必对通用人工智能有很大贡献，因为这里的目标和制约条件非常不一样。在选择技术路线时应当从智能的特征出发，同时考虑计算机系统的现实条件。
最后，即使我们发现了建造思维机器的途径，那也不一定意味着我们真要把它做出来。已经有很多名人大声疾呼地要求人工智能慢下来甚至停下来了，因为他们害怕人类失去“万物之灵”的地位及其后果。关于这种诘难，我已经写了《人工智能危险吗？》来回应，而这里只是再加些补充。
首先，很多“人工智能专家”对AI安全性所做的保证往往只涉及他们所构建或能够设想的系统，其中完全没有适应性、灵活性、自主性、创造性等通用人工智能系统才可能具有的特征，因此说的基本就是另外一个问题。由于这些特征，通用人工智能带来的伦理道德问题和传统技术有根本的不同，因此要求不同的应对方案。
作为适应性系统，通用人工智能最大的特点之一就是其行为不仅仅取决于设计（先天因素），而更加依赖于经验（后天因素），因此对这种系统的控制需要通过影响它的经验来实现，就像社会对个人的制约那样。因此，不能指望人工智能工作者可以设计出永不犯错的系统，也不能奢望对人工智能安全性的研究可以预先排除掉所有危险。而在另一方面，在这种系统上进行的研究可以极大丰富我们对适应性系统（包括人和动物）的认识，将教育学和社会学（甚至经济学和法学）的研究范围扩展至包括智能机器在内。
和其它问题一样，对人工智能的恐惧常常来自对其研究目标的误解。很多人以为“通用人工智能”会是在一切领域超过人类，以至于近乎全知全能的存在，所以这种系统的出现会在人类历史上造成一个“奇点”，此后的发展便不在我们的掌控甚至理解范围之内了。至今为止，我还没有看到足以使我相信这一结论的证据。我认为通用人工智能完全可以造出来，而这种系统会有和人非常类似的认知功能。但是，这不意味着计算机可以全面达到以至超越人的解决问题能力，因为适应系统的行为依赖于其经验，而一个人工智能系统是不会拥有和人完全相同的经验的。因此，人和机器的具体能力会有重合，但仍会有人能解决但机器不能解决的问题。像我在《人工智能迷途：计算机的高技能等于高智能吗？》中所解释的，通用的“智能”和专用的“技能”不是一回事。不同形式的智能，不论是人类还是人造的，在前一方面都类似，而在后一方面未必可比，就像没法说诸葛亮、达芬奇、莫扎特谁更聪明。这也说明通用人工智能的工作原理仍是我们可以理解的，其行为也是可以通过对其经验加以影响来控制的，尽管它的运算速度可能很快，存储量可能很大，经验可能和我们非常不同，因此它的具体行为可能不是那么容易解释或预测。
总之，人工智能研究的正当性既来自人类认识思维一般规律的长期渴望，也来自社会发展对复杂信息加工的实际需求。这项研究同时也带来了新的挑战，对此我们绝不能掉以轻心，但也不该盲目恐惧。要避免AI造成的危险，起码要把AI是怎么回事搞对吧？那些“AI必然导致灾难”的断言在这一方面往往都不及格，其结果是和风车作战，反而对可能性大很多的危险毫无提防。除非我们有足够的证据认为某项技术（包括各种意义下的人工智能）的确会是弊大于利，我们还是有充分理由来继续这项探索，同时拒绝廉价的保票，准备好对该技术的各种后果进行尽可能恰当的应对。
版权声明：本文由科技工作者之家—科界App子栏目《返朴》原创，投稿/授权/合作，请联系
Haykin的机器学习里面明确说了：“神经网络只是一种高级复杂运算量巨大的参数估计”，目前人类还搞不清楚自己的智能何来……
1. AI行业的发展不是天就是地：要么一路凯歌奇点来临，要么泡沫破灭回到解放前。其实往往两者都不是。任何一个行业的发展都是既有高速发展期也有瓶颈期的B体育，起起落落更多是人们心里的期望问题。
2. 人工智能一定是模仿人类。其实AI=artificial intelligence，并没有humanlike之意，无非是让机器通过过往经验获得处理开放性问题的能力而已。
3. 现在行业有泡沫很危险。的确行业存在泡沫，但没有泡沫的行业就如同没有泡沫的啤酒一般寡然无味。一个行业没有泡沫说明大家对它没有期望与想象，也就很难有活力。
4. 一旦泡沫破裂就会回到解放前。就算行业有泡沫且泡沫破裂了，已经落地的科研成果应用依然会存在。比如公安用了人脸识别系统提升了效率，不会因为舆论的倒戈而回到原先人眼看的方法。
5. 仅仅依靠nb的科学家决定一切。nb的科学家对AI行业的贡献非常之大，但如果要使技术落地应用，还需要好的场景以及一系列的工程优化。相应的也就需要优秀的产品经理与工程技术人才。
AI究竟有多智能？Facebook曾在这个夏天因为新闻版块的问题，陷入了风暴中心。有媒体曝出，Facebook虽然宣称新闻版块由AI接管B体育，但背后的操作并不是完全自动化的，而是让 AI 通过算法推荐新闻，再由一个审核团队进行人工审核。这样一来，Facebook 就节省了一个专业编辑团队的人工支出。
类似事件的曝光也透露了科技世界的一些秘密：那些以高效、全能、客观的AI 作为卖点的公司，往往无法做到他们所宣称的那样，因为最终，他们总是无可避免地要在操作环节中加入人为操作，而这些人往往都在我们看不见的地方进行工作。
把视线移至印度班加罗尔，让我们来认识一下一位叫Kala的母亲。Kala是两个孩子的母亲，她经常坐在家中临时办公室的电脑前工作。我们的团队于三个月前，在一个寻找在线临时工的网站上找到了Kala。平时，她两个十来岁的儿子会在隔壁房间做作业，她会时不时喊他们到电脑屏幕前，并指着屏幕上的英文问他们：“这在英语里是个不好的词吗？”这就是2016年AI后台的样子。Kala每周都会用很长时间来审查和标记包含不和谐内容的例子。有时她会帮助像Google、Facebook、Twitter和微软这样的科技公司，训练能够管理在线内容的算法。
无论是Facebook的热门话题，Amazon的Alexa，还是其它能响应人类要求的智能机器人，虽然都宣称是AI驱动的，但都少不了背后的人为操作，这些工作人员被聘请来通过应用编程接口（API），根据接收到的查询和请求做出回应。这样的人为操作和AI的结合，能在AI出现问题时起到保障作用，而且这样的模式在短时间内并不会消失。的确，将人力操作融入在不断发展的科技中，是从机床的发明以来，就一直存在于自动化发展中的东西。
我们称之为AI发展的最前沿，也是自动化发展的最终悖论：AI发展的进步，也必将导致劳动力市场的创新和破坏，因为涉及人力的工作将与之前大相径庭。经济学家预测，到2033年，技术创新将把30％的全日制职业转变为可以通过自动化和人力劳动结合，“按需”完成的增强服务。总之，AI将消除一些现有的工作，并重新定义什么类型的工作最适合人类。这些AI主导的增强服务，由机器人与人类共同操作，旨在提高我们的日常生产力，但同时也为社会带来了新的挑战。
很多在AI背后的人为操作，会在AI无法自主作业时，提供帮助和掩护。这些服务背后的一个“黑暗秘密”就是，从FacebookM到YouTube的“自动”消除不和谐视频功能，其实都是由工作人员在背后进行的网页清除工作。那么，那些“自动”回复你抱怨送货延迟的留言的机器人呢？他们是披着AI外皮的契约劳工。如今，人类和AI的结合服务涵盖了零售，营销和客户服务等领域。事实证明，AI也像人类一样，在做艰难决定的时候也会很挣扎，不知道什么样的内容该被去除，什么样的内容该留。
这个故事的重点不是在于Facebook因为启用了人类编辑而导致新闻带有偏向性，重点在于，目前AI的发展水平还无法摆脱人类的协助操作，不管是发送新闻还是处理披萨订单。新闻内容的审核和策划，从新闻源、搜索结果到判断内容的争议性，都需要科技公司和媒体公司聘用相关人员来作出判断。
这些在AI背后工作的人究竟是谁？他们很多都和Kala一样，是普通人，拿着特别低的薪资，基本上都是自由职业者，或是供职于临时的机构，其中很多都不是美国人。科技公司将大量的内容审核工作外包给全世界各地的合同工，他们的培训、工作环境或编辑决策几乎没有任何透明度，这是很罕见的现象。其实，让人惊异的是，Facebook“编辑团队”事件过后，用户们并没有提出这样的疑问：社交媒体的内容管理方式是什么？是谁在操控那些出现在我们的虚拟平台上的新闻内容？
我们团队利用了两年时间，来探究这些特殊工作人群的世界，其中内容审查已经成为一个稳定的工作流，大大小小的科技公司的内部操作，都涉及成千上万个关于什么内容该删除或保留的决定。它们需要合同工来训练算法，以做出关于内容的一些最关键的决定。这是一种应该受到重视的新型就业机会，因为这些人避免了互联网成为一个充满垃圾邮件和肮脏信息的地方。公司通常会通过Crowdflower和Amazon Mechanical Turk等众包平台，或Clickworker等供应商管理系统，来招聘兼职的合同工。
我们需要严肃地思考AI操作中的人工介入问题。这类劳动力应该得到培训，支持和报偿，以便让他们更愿意、更有准备地去做好一份，许多人可能会觉得乏味或苦闷的工作。未来的大量工作内容，将远远超出热门话题的编辑处理，并需要人类的创造性努力，以指导AI更快速，更全面和更有效率地运作。首先，我们需要科技公司提高他们的透明度，这些公司在兜售AI产品和服务时，完全避开了其中的人力成分。我们应该倡导这些公司在宣传和广告中坚持真相，述明原理。我们需要被告知整个过程中有人力操作的参与，因为我们希望他们的劳动和付出被赋予应有的价值，我么也希望能进一步了解他们在训练、支持AI系统时是如何作出决定的，特别是当他们的工作内容与公众利益相关时。
作为消费者，我们有权知道提供给我们新闻资源的AI是由什么组成的，它们的工作流程是怎样的，就像我们有权知道，每天给家人吃的是什么材料做的食物一样。作为公民，我们需要知道我们接收的信息来自哪里。以及，作为人类，在人类为现实或虚拟的商品在工作时，也需要得到认可。这些在全世界各地勤奋工作着的人们不能被忽视或隐藏。正如我们需要公司对生产我们的食品、衣服和计算机的劳动和生产者负责，我们也需要公司对消费者，和生产及决定数字媒体内容的工作者负责。
