人工智能的基本问题可以提炼成四个：“做什么
《返朴》从头动身，我的人工智能（AI）专栏也持续搭载。和曾经的做法相同，我会把AI作为一个科学问题（而非技能或商业问题）来评论，力求提炼智能、认知、思想、知道等现象中的一般规则，或许说探究在什么含义下计算机能够和人脑混为一谈。和一般的科普不同，我写的更像是自己的“探险笔记”，由于这个范畴仍处于百家争鸣时期，没有有许多公认的“科学”定论来被“遍及”。假如读者发觉我的“妄议”（或许“王议”）和别处看到的不同，能够想想哪种说法更有道理，而不是哪种更盛行。由于许多论题相互交错，我会引证我曾经写过的文字（均存于https：//cis.temple.edu/~angp/Chinese.html）以防止重复。至于这个专栏的称号，天然不是说AI像《水浒》里的牛二，“满城人见那厮来都躲了”。这事以后会告知。今日以底子问题开篇，就是先把招牌挂出来，后边再连续上货
——王培
像许多其它研讨范畴相同，人工智能的底子问题能够提炼成四个：“做什么？” “能做吗？” “怎样做？” “该做吗？” 下面是我对这些问题的简略剖析。
研 究 目 标
我在《当你议论人工智能时，到底在议论什么？》（点击文末“阅览原文”检查，下同）中现已列举了“人工智能”名下五类不同的研讨方针，而现在盛行的“人工智能就是用计算机处理那些曾经只要人脑才干处理的问题”就是其间的“才能派”。这一派的优势是通俗易懂，直接收效，但缺陷是圈画得太大，以致于曾经叫“自动化”“计算机运用”的作业现在都赶时髦改叫“人工智能”了。由于这种界定使得AI涵盖了许多彻底不同的体系，在此规模内树立一个一致的人工智能理论的或许性甚微。
在《人工智能迷路：计算机的高技能等于高智能吗？》中，我介绍了“通用人工智能”的观念及其在前史中的浮沉。时至今日，这个词越来越多地呈现在各种评论中，但对其含义的了解仍有许多误区。比方一个常见的说法是把通用体系叫做“强人工智能”，而把专用体系叫做“弱人工智能”。这个差异不无道理（由于前者的方针远高于后者），但二者的差异其实不是才能的强弱（专用体系在才能上往往现已远胜于人），而是运用规模和作业原理，所以这种称号会使人将二者间“质”的不同误判为“量”的不同，以为把各种专用体系整合在一起就是通用体系了。
即便在当时的通用人工智能研讨者之中，对研讨意图的切当设定也各有不同。有些人妄图尽或许忠诚地模仿脑结构，有些人妄图在尽或许多的范畴中取代人，有些人（包含我）妄图让计算机遵从和人底子相同的“思想规则”。
有些读者或许会想，连底子概念和方针都没弄清还怎样研讨，殊不知对许多杂乱现象的精确描写不或许发生在研讨的开端，而会是研讨结果的一部分，所以先“一致思想”是不实践的。另一方面，那种以为无需争辩“智能”界说，只需跟着直觉用法走就好的观念恰恰是现在这个范畴中观念紊乱的重要原因，也是不行取的。人工智能研讨中的许多争辩都能够回溯到对智能的不同了解，而这个问题又不能靠字典、威望或民意测验来处理。假如研讨方针不相同，对其它相关问题的答复天然也就不会相同。在这一议题上尚无一致，恰恰更意味着咱们应留意辨识不同的研讨方针，而防止抽象地断语“人工智能”怎么怎么。
成 功 可 能
从“人工智能”“思想机器”等成为研讨方针时起，这种尽力的成功或许性就一直是有争议的。跟着深度学习等技能的成功，现在盛行言语中的人工智能（在某个详细问题的处理才能上到达或逾越人类）的或许性不再是问题，但通用人工智能的或许性仍是遭到广泛置疑的。
对这个问题的肯定性证明即便在学术界以为功德圆满之后的很长时间内仍不会被大众遍及承受，比方有人会坚持说它没有“魂灵”，不管它做到了什么。因而，我下面只简略阐明为什么现有的否定性证明都是不能成立的。这儿有几种不同的状况。
一类“人工智能不或许”的断语是出于对这个范畴的研讨方针的误解，因而是在进犯一个稻草人。持这种心情的人往往以为这个范畴的方针是制作在全部方面都和人一摸相同的计算机。找些依据阐明这不或许并不难，但问题是，我还不知道任何研讨者真是冲着那个方针去的。实践上，全部研讨人工智能（包含通用人工智能）的人都仅仅以为计算机能够在某些方面和某种程度上和人脑相相似。许多研讨者以为在“人类智能”的许多现象之中存在一个更一般的“智能”机制，而“人工智能”是这个机制的另一种完成方法。依照这种观念，即便人工智能彻底完成，也不会和人类智能在外部体现上彻底相同。因而，这种“人工智能不或许”的定论不会对这个范畴中的研讨有任何影响。
相比之下，另一类“人工智能不或许”的证明是值得注重的，由于它们是直指人工智能技能的某些“死穴”。比较常见的包含“计算机有必要遵从程序，因而不或许有灵活性和创造性”“计算机只能依据方法来运用符号，但无法取得其含义”“有些真理人能发现，但计算机永久不能”。在这儿，我不详细评论它们（拜见我曾经的文章），仅仅指出它们的一个一起问题：其实这儿每个证明都是针对一个详细的智能技能或计算机用法，但定论却往往是“人工智能”怎么怎么、“计算机”怎样怎样，其结果是夸张了其定论的适用规模。这些评论对人工智能的开展是有利的，由于它们从不和为新理论、新技能的研制供给了学习。惋惜的是，至今仍有不少人以为它们限制了全部人工智能研讨所能到达的高度。
具有挖苦意味的是，在近期对人工智能的极限的评论中，许多形如“人工智能永久也无法……”的断语反而是出自“人工智能专家”之口。这其实也源于干流人工智能在历经挫折后对“大问题”的逃避。许多人研讨多年“人工智能”，但仅仅注重于对某单个功用的完成和某单个问题的处理，因而在他们说“没人知道怎么完成通用智能”时，他们实践上说的是“我不知道怎样做，并且我所跟随的那些名人也不知道怎样做。其它人的作业不值得留意，由于横竖他们也还没做出来呢”。由于有理由以为通用智能体系和专用体系是十分不同的范畴，在后者的研讨中成名的人物对前者讲话时威望性其实是很有限的，并且“现在还没做出来”和“永久也不能做出来”明显不是一回事。
总归，通用人工智能现在最少应被看作是或许的，由于没有满足强的不和理由。
实 现 途 径
由于专用体系的完成途径因问题而异，在这儿我只评论通用人工智能，并且只会集剖析几种常见的观念，而把对我自己的研讨进路的介绍留给其它文章。
在信任通用人工智能或许完成的人们傍边，现在最被看好的技能天然非深度学习莫属。每逢深度学习的一个新用处呈现，总会有人说 “这标志着又向通用人工智能前进了一步”，好像在这个方向上走下去就是了。在《深度神经网络会产生人这样的智能吗？》中，我现已阐明晰经过深度学习以及相关的机器学习技能完成通用智能的困难。这儿要弥补的一点是：有人以为深度学习现已是“通用”的了，由于这个技能能够被运用于许多不同的范畴。但这不是“通用人工智能”的意思。深度神经网络确实既能被练习下围棋，也能辨认相片，但同一个网络不能一起做这两件事。由于以往的机器学习研讨底子上都是以“迫临单一函数”为指向的，把它们推行到多方针（尤其是规划时没有考虑过的方针）绝不是个简略的事，由于它要求整个研讨标准的底子改动。时至今日，尚没有一个用深度学习完成通用人工智能的完好道路图，而信任这个或许性的人往往是从已有的效果做简略外推。
另一个主意是整合各种专用“模块”于一个“构架”之中，以让它们分工协作，成为一个通用体系。这是个很天然的主意，也有不少人在试。可是这条路远不如看上去那么天经地义。随意找一本人工智能教科书，其间说到的算法或规划就得有几百个，各有不同的用处。把它们都完成在同一个计算机体系中在原则上是或许的，但决定在什么时候用哪个东西，这自身大约就需求通用智能了，更不要说这些东西各自的理论预设往往是相互冲突的，因而无法相互和谐。另一个大问题是诸认知功用的区分大致上是沿袭心理学的传统（如推理、学习、回忆、联想、感知、运动、言语、心情、知道等等），虽然它们之间的联络明显十分亲近。假如智能确实是“横当作岭侧成峰”，那么从不同视点和间隔描绘不同的“岭”和“峰”天然能够，但假如意图是给庐山造个模型，那么别离结构这些“岭”和“峰”，然后再把它们“拼装”起来，这就不对了，由于这些“构件”更应被看作同一个方针的不同旁边面，而非不同部分。
有人企图经过结构更“忠诚于人脑”的模型来到达各认知功用的一致再现。像我在《深度神经网络会产生人这样的智能吗？》中所说的，这条途径的最大问题不是其难度，而是其必要性。假如咱们把智能当作一种有不同完成方法的认知机制，那就没有理由以为人脑是仅有能完成它的方法，虽然它确实是咱们最了解的方法。和人脑在完成细节上最接近的模型未必是人工智能最合适的模型，虽然这种模型对脑科学而言很有价值。
总归，在完成其它意图时有用的技能未必对通用人工智能有很大奉献，由于这儿的方针和限制条件十分不相同。在挑选技能道路时应当从智能的特征动身，一起考虑计算机体系的实践条件。
伦 理 抉 择
最终，即便咱们发现了缔造思想机器的途径，那也不一定意味着咱们真要把它做出来。现已有许多名人大声疾呼地要求人工智能慢下来乃至停下来了，由于他们惧怕人类失掉“万物之灵”的位置及其结果。关于这种诘难，我现已写了《人工智能风险吗？》来回应，而这儿仅仅再加些弥补。
首要，许多“人工智能专家”对AI安全性所做确实保往往只触及他们所构建或能够想象的体系，其间彻底没有习惯性、灵活性、自主性、创造性等通用人工智能体系才或许具有的特征，因而说的底子就是别的一个问题。由于这些特征，通用人工智能带来的伦理道德问题和传统技能有底子的不同，因而要求不同的应对计划。
作为习惯性体系，通用人工智能最大的特色之一就是其行为不仅仅取决于规划（先天要素），而愈加依赖于经历（后天要素），因而对这种体系的操控需求经过影响它的经历来完成，就像社会对个人的限制那样。因而，不能盼望人工智能作业者能够规划出永不犯错的体系，也不能奢求对人工智能安全性的研讨能够预先排除去全部风险。而在另一方面，在这种体系上进行的研讨能够极大丰富咱们对习惯性体系（包含人和）的知道，将教育学和社会学（乃至经济学和法学）的研讨规模扩展至包含智能机器在内。
和其它问题相同，对人工智能的惊骇常常来自对其研讨方针的误解。许多人以为“通用人工智能”会是在全部范畴逾越人类，以致于近乎全知全能的存在，所以这种体系的呈现会在人类前史上形成一个“奇点”，尔后的开展便不在咱们的掌控乃至了解规模之内了。至今停止，我还没有看到足以使我信任这一定论的依据。我以为通用人工智能彻底能够造出来，而这种体系会有和人十分相似的认知功用。可是，这不意味着计算机能够全面到达以致逾越人的处理问题才能，由于习惯体系的行为依赖于其经历，而一个人工智能体系是不会具有和人彻底相同的经历的。因而，人和机器的详细才能会有重合，但仍会有人能处理但机器不能处理的问题。像我在《人工智能迷路：计算机的高技能等于高智能吗？》中所解说的，通用的“智能”和专用的“技能”不是一回事。不同方法的智能，不论是人类仍是人工的，在前一方面都相似，而在后一方面未必可比，就像无法说诸葛亮、达芬奇、莫扎特谁更聪明。这也阐明通用人工智能的作业原理仍是咱们能够了解的，其行为也是能够经过对其经历加以影响来操控的，虽然它的运算速度或许很快，存储量或许很大，经历或许和咱们十分不同，因而它的详细行为或许不是那么简略解说或猜测。
总归，人工智能研讨的正当性既来自人类知道思想一般规则的长时间巴望，也来自社会开展对杂乱信息加工的实践需求。这项研讨一起也带来了新的应战，对此咱们绝不能漫不经心，但也不应盲目惊骇。要防止AI形成的风险，最少要把AI是怎样回事搞对吧？那些“AI必定导致灾祸”的断语在这一方面往往都不及格，其结果是和风车作战，反而对或许性大许多的风险毫无防范。除非咱们有满足的依据以为某项技能（包含各种含义下的人工智能）确实会是弊大于利，咱们仍是有充沛理由来持续这项探究，一起回绝廉价的保票，准备好对该技能的各种结果进行尽或许恰当的应对。