一、引言：“不确定性”的恐惧与希望

大众化的历史知识是由具有标志性的历史事件构成的。可以作为人工智能里程碑事件之一的，就是基于人工神经网络（ANN）的AlphaGo完胜人类顶级围棋手。^[1] 有人兴奋，有人忧虑，更多的是茫然和失落，好像一场世界大战前的平静后面的骚乱和不安，人们面对的不是确定性的预期，而是不确定性的未来：恐惧还是希望？这种直觉是前所未有的，而此前还没有一种整体性视角可以鸟瞰这一切，因此我们不得不来到一个最大的论域中。“科学与人文”这种两种文化的相对视角可以提供一种从技术角度转向人文文化考察的方向，但并不能提供解决的方向。困扰人们已久的中国与西方文化或文明的冲突，或许正在等待这两种“两种文化”的交叉汇合带来的全新的生机：在技术领域的人、机伦理危机中把中国文化有关人性本质的观点带入到新时代的境界，或许这就是危机中的希望。

科学与人文之间存在不同是一个事实。自然语言不确定性与科学技术精确性之间的差别是无法用一种科学方法克服的。科学家正是不断地克服主观性和不确定性，艰难地运用工具方法，才逐步建立起精确的理论体系和物理事实，才有了客观和确定性的科学理论和技术。我们不能以自然语言解释或理解这后面的存在。基于工具文明和对象性文化的加速进步，人类社会登上了一级级更高的台阶。另一方面，相比于科学事实，自然语言和日常生活却更加实在。科学技术在某种意义上只有为了人的目的才有价值，每一个科学家身份背后的人生才是科学成为科学的最终动力，如果科学不能为人类的历史进步做出贡献就没有了意义。虽然自然语言和人的直觉无法确定性地表达和操纵科学思想，但所有的科学成果走完自己的历程后就自然地永存于人类的常识中，这可以通过比较一下历史上幼儿、小学、中学教育内容的不断深化而毋庸赘言。

西方文化不断强调“人是万物的尺度”（普罗泰戈拉）或“人为自然立法”（康德），但这实质上只是一种以哲学语言说出的目的或信仰。中国传统文化虽没有这样明确的表达，但却以自身的本质表现了人的主体性，这种直觉的、日常生活中的智慧本身就是意义和价值。为自身价值和意义的生存妨碍了中国人对外的扩张、征服的野心，但却可得到一切现象、实体背后的本身价值。这是一种自身表达的自己的确定性，不是“自在之物”（康德）、“我思故我在”（笛卡儿），或者“存在者的存在”（海德格尔）等对不确定性的困惑，而是“天人合一”元语境中的自然的自在与历史同一，“大象无形”的非表达和非形式的确定性，这就是与西方逻各斯（Logos）不同的中国理性。

今天的人工智能对人的地位的伦理挑战，实际是人的价值和意义陷入科学与人文两种文化难以弥合的鸿沟而产生的不确定性的恐惧。从中国文化来看，“人类历史的终结”也就是“历史”的终结。人类终结后的历史与人类出现前的历史是因被人认识而展开成为“历史”的。一个没有人的世界可以与一个数学或物理公式一样永远正确，却不会有“历史”这种本质性，最确定性的科学和技术如果没有人的肯定也就无所谓确定性的意义了。人工智能带来的并不是对人的地位的替代，而是对人的价值和意义的重新认识，是人类自我更新的重大机遇。

当前人工智能的发展远不只是从技术理论上能不能解释的问题，人工智能的发展已经明显地表现出了对人的地位和社会存在的挑战，而且有识之士已经开始把这样的问题放在当前最迫切的位置上，但却找不到解决的方向。我们认为这不仅是“科学与人文”这两种文化的交汇漩涡，也是“中、西文化”一次深度融汇的机遇。因此，我们可以在这样的文化背景上，总论性地介绍人工智能在技术、科学理论、社会推动、伦理和哲学等方面的一些深层次问题。

与西方一些国家重视人工智能研发不同的是，中国文化重视人和人性的中心地位，这使我们能在“中西文化”和“科学与人文”的相对性中处于一种特殊的文化地位。我们能否在这样两种“两种文化”的交织中不失机缘？在此，我们提出这个问题，面对攸关人类自身利益的人、机伦理关系，期望在一种大格局下研究AI平台的伦理学问题。^①

二、AlphaGo胜过“人”了吗？

AlphaGo战胜人类棋手后，一种通常的说法是“AlphaGo战胜了人”。这种表面性的理解实际是对人工智能挑战人的地位的恐惧，而不是基于对人棋关系和人机关系的复杂性的全面理解后所作的结论。实际上，无论在何种水平或角度上讲解或分析AlphaGo是如何胜过人类顶尖棋手的，设计、制作、训练AlphaGo的科学家，最终都不能基于人工神经网络模型解释这台机器是如何工作的。与通常人们所理解的算法或计算机原理不同，ANN的工作机制仍然是一个“黑箱”，一般所说的“机器学习”的函数化算法模型只是他们在模仿大脑神经突触联接所设计的人工神经网络联接模型的基础上所做的再模拟（函数拟合）。这种“模仿”既不是数学理论的推导，也不是物理定律的推导，只是基于人的模仿产生的效果。

因此，作为人工智能的“机器学习”只是因模仿而得到的机器表现了“学习”功能。这可以从几个模仿层次上予以分析。首先是人对大脑神经突触的联接关系的模仿而产生了人工神经网络模型（ANN），然后是以函数和算法形式对人工神经模型的再模仿（统计学中的数学化方法“函数拟合”的移植，算法模仿）。“机器学习”的学习功能则是人通过“训练”机器（“监督学习”）而得到的，让机器读入大量的人类经验数据而完成拟合函数中的变量（权重）确定，即完成机器的功能模仿，使机器具有实战能力。所有这些不同层次的模仿都是基于人的模仿而得到的人的智能在某方面的功能，正是这一点决定了人、机关系。人、机之间主要的区别就在于，人是天生的主体学习者，人的模仿既可以是形似，也可以是具有主体意义的学习。人的学习具有创造性潜能，而“机器学习”只是对人的模仿产生的模仿，机器是在人造的“先天性”上才得到自己的模仿能力。AlphaGo的成功不是算法或逻辑的胜利，而是人的模仿的成功。这种成功是由人、机对弈中机器的胜利（have achieved unprecedented performance，出人意料的表现）而被肯定的。在这种意义上，AlphaGo在人、机对弈中的胜利最终表达的是人的智能的胜利！

尽管模仿大脑神经突触联接得到了具有“学习”能力的人工神经网络模型，但这不是基于机理上的设计，也没有机理上的理解和解释^②。现在开源的可以在计算机上运行的“机器学习”程序，是对人工神经网络模型的算法再模仿（函数拟合）。这种基于构造的模仿的再模仿而表现的机器的“学习”能力，不是算法本质的“算法”，不存在这样的“算法”^③。所以我们希望用Agent（代理）和Matrix（矩阵）这样的表达区分“人工智能”和严格定义的“算法”在本质上的不同。

三、对弈“局面”判断的不确定性

算法过程和其结果的可表达性和确定性是“工具理性”（韦伯术语）最精粹的表现。在算法理论中是以“多项式时间”（Polynomial Time）这个概念精确定义的，与数学的“线性关系”等价。从逻辑上说，“可计算的”也就是“可判定的”。与此相对的就是“指数时间”（Exponential Time）的概念，相当于数学中的“非线性”的意义。在计算机理论中则是“不确定性问题”（Nondeterministic Problem，NP）。NP就不是算法可确定性计算的，也不是算法可判定的，这个概念基于希尔伯特的第十问题和图灵对这个问题“拒绝式的解决”（Entscheidungs problem，不可判定性问题）^[2]。最直观的例子就是围棋的“局面”与判断。

围棋的棋盘和棋子简单而直观。围棋就是几何平面上的线性位置结构的产生和相对竞争（博弈）关系。几何平面上的线性位置的有限结构产生有序性意义，最好的例子就是“生命游戏”^[3]。但在此游戏中，棋子根据与其相邻棋子的关系, 按照一个既定的规则产生“生死”变化，由此来决定“局面”，所以“生命游戏”是“算法能行”的，程序变量的事前设定确定了局面变化过程（“生命”演化）；而围棋的局面要则由双方博弈共同形成的位置关系决定，就是说围棋局面的形成既不是由可共享的程序（递归）决定的，也没有不变的前提变量的设定，每一次局面的形成不是上一局面的继续（迭代），而是双方棋手独自看局的直觉判断和策略的博弈，所以围棋能体现人的直觉的智能。人工神经网格模型的运用能在围棋、图像识别、语音识别等方面取得出人意料的效果，都与这种直觉性质的能力的模仿有关。

人类棋手积累的数量巨大的棋谱，本质上就是局面的产生、判断和决策所形成的层次性直觉图谱。每一手下子后的棋盘局面是由棋子与棋盘共同形成的平面线性位置结构，但在不同的棋手直觉中是不同的局面。在一次对弈中，每个棋手心目中的局面是否能最终形成迭代连续的棋谱，是由双方决定的几何性，这里没有算法或逻辑的一致性。局面的产生、局面的判断和下子决策没有时间上的因果链，而是一种同时性。这种几何性和同时性的相对性是一种本质的并行不确定性。所以围棋的局面形成（判断）和策略决定不是“算法能行”的，而是基于人类的直觉的智能过程。棋手的经验棋谱构成了一个有效的图谱空间，这是对棋局所有可能空间的大规模收缩，不同的棋手会在这个巨大的图谱空间中形成自己的复杂的连续迭代模式（个人风格），初学者也在这个有效图谱空间中学习积累实战经验。由于AlphaGo充分利用了人类棋谱所构成的相对有限的合理棋谱空间，并能以大大高于人类的快速搜索能力和选择性，成功实现对围棋战法模仿，所以AlphaGo的胜利只是机器时空能力上的优势。人类棋手没有理由因与AlphaGo对弈失败而沮丧，因为这只不过是一个人与所有历史经验的对弈。

作为对人工神经网络模型的运用，DeepMind说“我们下围棋采用了类似结构，把盘面作为19×19图像，使用卷积层……”（We employ a similar architecture for the game of Go. We pass in the board position as 19×19 image and use convolutional layers …）。这样就把非算法的棋谱迭代用“模拟”（analogue）方法替代了。

中国人对围棋的机理解释一直是文化性的，主要强调人机关系中人的主体性，如“围棋十诀”等，并非纯粹的围棋机理，大体上是通过提高人性的修养而培养对局面的判断和把握能力。主要的棋理性的总结，如“金角、银边、草肚皮”，成了棋局判断中永恒的真理，从9线、13线到19线或更大的棋盘都适用。还有一些落子的基本规则等，但未发展成为完全的机制理论，只是心、口相传，和个人的经历结合成为个人的风格。AlphaGo却不能直接运用这些真正的棋理。

四、智能哲学的研究课题：“模仿”

AlphaGo的有些令人遗憾的退役主要是因为无法在机理上继续进行直接研究。其工作机理既不能像算法程序一样被取出来，也不能被编辑移植，但AlphaGo为之后的研究留下了丰富的遗产，如新近发布的AlphaGo Zero^[4]，为人工智能的机理研究打开了一扇大门。AlphaGo是基于ANN模型与算法的混合结构，由于缺乏对人工神经网络模型的机理解释，也没有对AlphaGo作为算法和硬件混合结构的整体性理论，现在一般只能援用算法理论的研究方法，如将AlphaGo看成是一种棋局空间的搜索“算法”。这是一种局限性眼光。从算法观点的解释看，19×19围棋仍然是有限空间中的搜索，搜素空间看似确定的（虽然很大），但目前的条件下任何机器无法构造和完全搜索这样大的空间，因此只能作为NP问题对待（如同MaxSAT）。NP没有确定性的算法，只有最优近似解决，这恰恰不能保证一方必胜。

人工智能是人模仿人的智能的创造物^[5]。人的智能是人的本质之一。所以，人的智能无法作为实证科学的对象，只能在智能哲学中研究。大脑可以被放在实验条件中研究，但大脑的生化结构和机制并不等于智能。虽然人可以模仿神经突触联接得到人工神经网络模型，并表现出机器学习的功能，但仍然不知道它的工作机制原理^[6]。

智能哲学的研究可以为人工智能与人的智能之间的关系提供基本的认知。AlphaGo提供了一个最基本的人机关系—“模仿”。“模仿”不是一种数学或逻辑的推演机制，“模仿”大体是仿形或仿结构，是形似，不是真仿，即不是机理、机制相同。英文中imitate与analogue就具有完全不同的专业意义，analogue有仿真的意义，而且是计算机专业术语，analogue指具有物理并行意义的机器。“模仿”既是人的智能能力，又可以是机器的功能属性，“模仿”可以表现功能，“模仿”和“模仿的模仿”就能实现形式结构到机制表现的生成性。这种结构与功能关系的类似研究，如社会学中的结构功能学说（structural functionalism），它对社会学理论做出了重要的贡献。在超越科学与人文的鸿沟，融合中国文化与西方文化的智慧的基础上，智能哲学的研究将为揭示人工智能的机制打开通道，并为理解人的智能提供认知上的准备。

五、人、机伦理关系与“第三问题”

当前人工智能已经在研究、开发和实用中遍地开花，百花争艳。每个参与者都有一个几乎切近的目标，研制“通用的人工智能”或称“强人工智能”，就像当年的图灵机一样“万能”的智能机器。如果这样的机器可以完全代替人的功能，如果人工智能永远只是人的工具，人也就可以永远“坐享其成”了。但是，这是人类追求的最大幸福吗？人自己存在的价值是什么？如果通用人工智能能自主，并自主认为不应作为人类的工具，人类还能保卫自己的尊严和地位吗？因此，人们一方面为人类文明进步频率的非线性加快而激动（所谓“奇点”临近），另一方面却不得不为人工智能可能超过人的智能而与人类争夺空间生存权而恐惧。或许，功能机器逐步替代人的身体结构直至意识实现对“人”的替换，这都是人类从来没有考虑过的问题。人们经常开玩笑地自问：“我是谁？从何而来，向何而去？”这只是哲学问题的日常化，除了哲学家，没人较真，但人工智能的挑战是无法回避的，如果不把人机关系放在意义和价值的伦理关系中，就无法研究这个攸关人类命运的迫切问题。

人、机伦理关系取决于对“人”的意义、价值和地位的理解，这是一个最古老、最深刻的哲学问题，也是伦理学成为东西方哲学和文化思想中一个根本问题的原因。哲学学科和众多的知识学科，特别是近现代以来的科学技术的发展使哲学、伦理学不断地分化、消散于名目繁多的学科理论之中，当现代人几乎淡忘了这些古老的智慧时，人工智能所面临的巨大预期、困惑甚至是恐惧迫使我们把人工智能的伦理学问题推到一个最重要的位置上。

人类知识的积累和进步以及科学技术的发展使现代人享受到前所未有的物质上的“幸福”，但知识和技术本身成为了一种既具有客观性又具有主观性意义的事物。波普曾以“世界3”^[7]这个概念来描述这个特殊性的对象，但“世界3”理论并没有得到有力的支持和继续深入展开，其困难在于，“世界3”理论只是一个概念体系而不在传统哲学的体系框架中，波普也没有提供一个与传统哲学中的“主、客”关系不同的三方关系的研究模式，未能进入哲学研究的主流，所以人与知识、工具、技术的关系问题并没有得到深入、系统性的研究。即使是“信息”这样非常特殊的研究对象，由于其被动性本质无法完全脱离客观性范畴而不具有对人的价值和地位的挑战。但这种不同于主客关系的第三种关系（第三问题）无法被忽略，在哲学理论中一直以逻辑、语言问题等的形式反复出现，争夺发言权。人工智能的发展的自主性问题使“世界3”获得了强大的现实性和争夺性，但这样深远和深刻的问题不是一门或数门学科理论有能力回答的。

如果说实证科学研究世界“是什么”和“如何是”，那么，伦理学就是研究社会“如何是”和人“应该如何是”问题。这两门学问一直分属“科学”和“人文”两大领域（所谓科学与人文的“两种文化”）。从科学研究领域中产生和迅猛发展的人工智能已经侵蚀了最基本的人文学科领域。具有理性本质的西方文化无法应对自己所缺失的本质的挑战。AlphaGo的全胜似乎是一种暗示，在科学与人文的越界混乱中，中西文化的融合才是解决的道路。

六、现实社会中的人工智能

伦理学也是一门实践的学科，因此作为哲学伦理学或哲学人类学性质的研究与作为社会学或经济学、法学等应用伦理学不同，人、机关系的伦理学问题已经直接面对当前的普遍化人工智能所造成的对人类的社会生存状态的影响。受到普遍关切的一个问题是，机器越来越多地代替了人的工作岗位，大量失业的人将如何重新得到自己的社会地位？

在人类历史上有过阶层人口大量转移的例子，其总伴随着剧烈的社会冲突甚至战争的阴影。人类社会为此付出了沉重的代价才换得了社会的进步。实际上这是人、机的伦理关系以社会问题形式对人类的法律规范和政治觉悟的挑战。如果人类的智能和理性不能主动应对，人类社会就真的难逃此劫。但人的这种政治自觉性从何而来？这需要深刻认识人、机伦理关系，实质上要求西方主导的伦理学实现自身的转变。

伦理学基于对人的意义和价值的研究，但西方伦理学自希腊时代以来，一直把人所追求的目的作为伦理学的目标。“如果在我们的活动中有的是因其自身之故而被当作目的，我们以别的事物为目的都是为了它，如果我们并非选择所有的事物都为着某一别的事物，那么显然就存在善或最高的善。”^[8]因此，如“善的生活”（苏格拉底）以及人生的“最大幸福”等就成为伦理学的研究目标。在高度发达的现代经济社会中，人的地位和价值与经济生活中的目的直接挂钩，这就是由机器代替人工作的“幸福”变成了人失去社会经济地位的恐惧。大量农业人口转变为工业人口仍是经济活动领域之内的事，现在要求大量的包括部分智力工作在内的大规模职业转向，不是社会经济领域能够解决的，而是要求人的伦理价值和伦理学自身的转变。但是，人类能真正意识到并准备好吗？如果不能回答这样的问题，就只有坐等接受“人类的终结”了。

在中国传统文化中，对秩序的重视是中国思想的主要特征，因此中国文化意义的伦理学主要关注人与人的社会关系构成的社会秩序。这种秩序基于人性的本质，在人与社会的共同历史中实现同一。从人工智能的某种能力上评估，人的历史似乎面临着结束，但历史不会结束。今天人工智能对人的地位和价值的挑战实质是实现人与历史重新获得同一性的要求。

社会现实中人工智能的另一个问题就是个人如何与人工智能相处？人能得到人工智能的高级服务方式就是精神生活中的“交流”。与虚拟世界中的游戏不同，这是一种涉及虚拟人格个性的问题，与人工智能可能具有的法律地位一样，这是人、机伦理关系的高级层次，与个人的关系更直接，在个人本质的心理构成上将产生长远的影响，其社会影响更深刻。如果在心理上接受了虚拟的心理人格关系，就为人、机生物接合的人格性打开了大门，传统的人成为了不设防的城市。为此，人做好准备了吗？

在中国传统文化中，人的本质与历史的本质是一致的，但西方文化不具有这个本质性。因此，所谓人工智能挑战人的历史地位，实际上是指“‘人’的历史”的终结。这种观点在西方哲学史中并非少见，尼采的“超人”，福柯的“人死了”等，并不等于历史的终结。从中国文化的观点看，所谓人工智能对人类的挑战恰恰是人与历史新的文化整合机遇，以中国文化和中国思想融合现代文明的冲击，不仅仅是中国人的任务，而是人类的共同责任。

七、人工智能相关的社会问题

社会是人类的生存方式。人类社会与人类的进化史是同一的，改造社会与改造人类具有相同的性质。人类对人类社会的认识正如人类对自己的认识一样，是一个历史过程，不可能存在一种事前设定的改造人类或改造社会的“工程”，这样的观念、企图或设计本身就是反人类和反社会的。人工智能是人类创造的，不是事先的全盘规划，就是说人工智能的产生和发展是人类社会进步的构成部分。只要不是恶意地、反社会地去造成人类社会的不协调发展，人类和人类社会的发展是能形成自己的必然的历史道路的，这本身就是人类最基本的伦理信念和伦理原则—无论西方或东方，无论科学和人文，都普遍接受这样的真理和原则。正是因为人类信守这种基本原则，人类和人类社会才战胜了历史上无数的曲折、战争和灾难，进入到蓬勃发展的今天。人工智能的发展是否会导致反人类、反社会性质，不是人工智能本身的本质问题，而是知识和技术作为“第三问题”出现在以往的主-客关系模式中。但从哲学史上说，以非理性哲学思想出现的观点或学说实际上一直与这种主-客对立的模式反对性地存在。因此，今天的人工智能引起的轩然大波并不是无根之木。在哲学意义上，人、机伦理问题只是人类思想的一次自我更新。

人工智能对人类社会带来的利益和弊端正如人类社会中出现过的很多重要事物一样，总是同时存在的。当人们认为机器智能将超过人的智能的时候，人类并不是坐以待毙。在人工智能引起人类面临的所有紧迫问题之前，相对容易处理的是作为研究开发人工智能科学家和技术专家在职业上的伦理问题，也就是，人（研究、开发者、应用者）如何将传统的人的道德和伦理信念贯彻在自己所研究、制造、开发的人工智能中，使其服从甚或具有人信守的伦理原则。我们只有人类的伦理学原则，我们只能在我们已有的人类的伦理学的理念的基石上进行人工智能的研究、开发和应用。但人能否或何种程度上将人的伦理原则赋予机器还是一个有待研究和实践证实的问题。今天我们能做到的就是坚守我们人类的伦理信念，坚持人类的尊严、价值和意义。在这个基石上，人工智能的研究和发展至少能有我们人类的伦理底线。

正是由于中国传统文化具有人和人性的本质性，所以我们可以在继承中、西方传统学说和理论的基础上直接把人工智能的伦理学问题作为人工智能的本质问题来对待。从中国文化看，伦理学的最基本问题就是人的本质问题，而人具有不确定性的本质，在融合西方伦理学传统与中国传统文化的基础上，把人性精神贯彻在从业道德和设计理念中，是一条最切实的道路。

人工智能相关的法律问题已经引起了广泛的关注，而人、机伦理关系是法律规约的基础。从人、机伦理关切过渡到立法程序是不可避免的，但是现在人工智能的社会地位没有可依据的前提，比如人工智能所谓的“自主性”是否价值中立？这就要求人工智能具有价值观和判断能力；或者，人能否将人类的伦理观念植入工智能之中？人工智能是否会服从或被恶意的不负责任的目的所影响，谁最终承担责任？

人工智能渗入到各行各业和日常生活已经是一种事实，人工智能发展势头超乎想象，这种情况对一般认知和投资决策造成了巨大的冲击。对于资本市场或国家战略来说，人工智能将成为一个巨大的产业，这一点毋庸置疑，但对人工智能的巨大投资预期将成为现实或是泡沫，仍然是一个攸关大局的事。目前的热潮实际上是由对人工智能与人的地位关系的有限的理解和想象推动的，对人工智能的恐惧似乎还很遥远，但巨大的市场就在眼前，这两种视角之间没有选择的依据。很遗憾，迄今为止，包括技术专家，并不能真正理解和解释真正的人工智能的机制，无法在单纯的机器能力（算法），人工智能（agent）和人的智能三个不同的层次之间做出清晰的层级划分，也就无法为投资和战略决策提供有效的理论根据，库兹韦尔就是这样理解的：“苹果可以做出苹果酱，……如果电脑运行‘大脑软件’则可以变成人脑。……问题在于我们能否发现一个算法并在一个实体中实现计算过程以等效于人类的大脑。”（The question is whether or not we can find an algorithm that could turn a computer into an entity that is equivalent to a human brain.）^[9]正是因为不能正确地理解机器、人工智能与人的智能之间本质的不同，才会有种种既难信服又不得相信的预期未来。如何确立清晰的人、机伦理关系，如何正确地判断人工智能发展的趋势，如何调整现有的社会期望和行为，等等所有大观点问题已扭结成一种大局势，不管愿不愿面对，愿不愿回答，人工智能时代已经到来。

① 本文相关内容和参考资料除已有文内夹注外，可参见作者有关中国文化与中国思想、算法理论、不确定性问题（NP）和不确定性理论、智能哲学等的系列文章。

② Deep Mind的“价值网络”与“策略网络”的图示并不是算法或逻辑的关系，只能说是一种模仿式解释。

③ 自然语言中这种术语的借用是造成人们误解的一个很重要的原因。