整体视角下的新型计算机技术伦理问题

摘要：近年来，大数据、人工智能、脑机接口与虚拟现实等新型计算机技术迅速发展并不断融入人们的社会生活，带来数据隐私问题、自由意志问题、主体性问题、新型人际关系与人机关系问题、虚拟世界主体行为的道德性问题等一系列新型、复杂的伦理问题。学界多从具体伦理情景出发进行研究，研究范围集中在大数据与人工智能，缺乏对相关伦理问题的整体性把握和对问题本质的追问。从伦理范畴层面和技术层面探究新型计算机技术伦理问题的共同根源，从伦理规范向技术的内化、经验主义策略与理性主义策略的结合以及技术解决方式的内在矛盾性与自反性治理三个角度论述新型计算机技术伦理问题解决的普遍特征，提出数据隐私作为新型计算机技术伦理问题本质的观点，最后表明研究意义并进行未来展望。

关键词：数据隐私;大数据;隐私保护;数据伦理;信息伦理

相较于传统计算机技术带来的黑客攻击、版权侵犯、虚假信息传播等伦理问题，新型计算机技术伦理问题具有隐蔽性、复杂性、不可理解性与全面数据化等新的特征，相关伦理问题包括数据隐私问题、自由意志问题、主体性问题、新型的人际关系与人机关系问题、虚拟世界主体行为的道德性问题等等。就其具体内容而言，广义的数据隐私问题指对于企业、机构乃至国家机密数据及个人隐私数据的永久记忆和深度挖掘分析给数据隐私保护带来的威胁;自由意志问题指主体行为预测在物理空间、信息空间、主体理性认知与实际感受等层面给主体自由诉求带来的困扰;主体性问题指具备一定程度思维、情感乃至意识等人类智能后的人工智能体是否应当以及应在何种程度上被赋予主体性的问题;新型人际关系与人机关系问题指看护机器人、伴侣机器人等人工智能体、脑机接口设备带来的角色替代、情感错位、人机边界模糊等伦理问题;虚拟世界主体行为的道德性问题指虚拟现实技术对现实世界的高度仿真使虚拟与现实世界边界逐渐模糊带来的伦理挑战。

一、新型计算机技术伦理问题及其解决方式综述

大数据、人工智能、脑机接口与虚拟现实等新型计算机技术对人类社会发展具有重要影响且涉及丰富的伦理内涵，我们在此对其相关伦理问题和解决方式进行简要介绍。

（一）大数据技术

大数据技术能够对主体的位置、身份、浏览足迹等隐私数据进行广泛收集、深度挖掘分析并长久储存，主要涉及数据隐私问题等伦理问题，其对主体数据隐私的侵害具有隐私主体非自主、初始数据来源易追踪、数据收集与分析过程非透明、隐私保护权责关系非清晰、数据信息长期储存且可重复利用等特征。

在大数据技术数据隐私问题日益凸显的时代背景下，欧盟制定出全球首个致力于隐私和数据系统保护的法律，即《欧盟数据保护法》，并设立“数据遗忘权”;类似地，美国加州政府设立“橡皮擦”法案以保护数据隐私的可遗忘性。技术层面的数据隐私保护途径主要有数据发布匿名保护技术、社交网络匿名保护技术、角色挖掘、风险自适应访问控制、数据溯源技术与数据水印技术等[1]。

（二）人工智能技术

人工智能技术不仅涉及数据隐私问题，还涉及主体性问题、新型人际关系与人机关系等相关伦理问题。从伦理问题产生主体的角度，可将人工智能伦理问题划分为强、弱人工智能伦理问题，弱人工智能伦理问题由初步模拟人类或动物智能解决现实问题的技术手段引发，强人工智能伦理问题由具有自我意识、自主学习与自主决策能力的强人工智能体引发。

当前阶段的弱人工智能主要以深度学习算法形式存在，这些算法被广泛植入计算机、自动驾驶汽车和智能机器人等弱人工智能体。问题在于，往往连算法设计者本人都无法完全理解和掌控深度学习算法的“黑箱”式决策过程，当被植入深度学习算法的弱人工智能体给人类造成人身、精神损害或财产损失时，相应的权责关系很难得到合理划分。更棘手的问题还在于，弱人工智能体的普及已经对劳动密集型及高度流程化职业的存续性产生威胁[2]。

虽然强人工智能体的出现仍难以预期，但科幻文学与电影的长期宣传及其可能给人类社会带来的强大冲击力使强人工智能体伦理问题受到公眾更为广泛的关注。强人工智能体伦理问题的关键在于具备乃至超越人类智能的强人工智能体是否以及应在何种程度上被赋予人类社会主体地位。

当前少有人工智能领域专家学者对其相关伦理问题的具体治理技术进行研究。究其原因，弱人工智能技术在数据安全与隐私保护等伦理问题治理方面与大数据技术具有技术同构性，加上人们对于人工智能伦理问题尚无定论，亦未形成相关法律规范，进行人工智能伦理问题治理技术的研究不具备现实基础。

（三）脑机接口与虚拟现实技术

脑机接口伦理问题产生于人脑、动物脑或脑细胞培养物与外部设备建立的直接连接通路，引发人的主体性等伦理问题。虚拟现实伦理问题产生于计算机仿真系统给主体带来的虚拟世界体验，引发虚拟世界主体行为的道德性等伦理问题。学界少有对这两类新型计算机技术伦理问题的专门研究，事实上它们却对传统伦理观有着更大的冲击力。

脑机接口技术实现了人脑与外部设备的双向信息传递与控制，是引领人类走向后人类与超人类的关键技术，却也带来隐私和知情同意、个人身份和能动性、增强人类、偏见等相关伦理问题[3];虚拟现实技术在为人类构建出一个新的可能性生存空间的同时带来了数据隐私泄露、性格重塑、诱发犯罪、情感错位、虚拟世界与现实世界边界模糊化等伦理问题[4]。较之于强人工智能体以外在于人的形式对人的主体性产生威胁，脑机接口技术直接将人改造成半人半机器的智能体，根本上改变人的主体性定义;较之于大数据技术对人与世界“全面”数据化带来的数据伦理问题，虚拟现实技术为人类创造出数据虚拟时空，也使伦理问题蔓延这个全新世界。

类似于人工智能技术，脑机接口技术与虚拟现实技术正处于其初级发展阶段，相关伦理问题仍未凸显，人类社会也暂未发展出对其伦理问题的法律、道德或技术解决方案，但这只是一个时间问题。

二、整体视角下的新型计算机技术伦理问题

（一）伦理范畴层面

隐私问题、自由意志问题、主体性问题、新型人际关系与人机关系问题、虚拟世界主体行为的道德性问题等伦理问题间存在着内在的共通性。雷曼（Jeffrey H.Reiman）认为，新技术对人们隐私的侵害类似于一种“信息圆形监狱”，使人们遭受外在自由与内在自由丧失的风险[5]。从信息角度讲，隐私与自由是一体两面的，作为主体隐私存在的信息指主体所拥有不被外界监视或掌握的信息，而不被外界监视或掌握的信息即是主体自由意志的可能性空间。主体性指人在实践过程中自由、自主地活动的地位和特性，它建立在主体自由的基础之上，而主体自由的实现又需要主体隐私的保障。类似地，新型人际关系与人机关系的形成内在规定了关系主体的存在，从而内在规定了主体性的存在，进而新型人际关系与人机关系同样可从主体间隐私的相互作用与相互影响等主体隐私视角进行理解和把握。虚拟世界主体行为道德性问题的关键同样在于主体行为的隐私性，属于主体数据隐私的虚拟世界行为不涉及道德性问题而不属于主体数据隐私的虚拟世界行为涉及道德性问题。可见，隐私伦理问题是多种新型计算机技术伦理问题的共同本质，这一定程度上解释了仅有大数据伦理问题发展出了一系列技术与法律解决方案的原因：所有新型计算机技术伦理问题归根结底都是数据伦理问题，人们为了应对大数据技术数据隐私问题而发展出的一整套针对数据伦理问题的解决方案对其他新型计算机技术伦理问题而言亦具有普适性，这不仅在伦理学层面而且在技术层面均具有基础性意义。

（二）技术层面

多数专家学者对大数据、人工智能、脑机接口与虚拟现实等新型计算机技术伦理问题进行分而治之的研究探讨，这种处理方式具有很大局限性。随着万物互联与数据共享趋势的逐渐明朗，人类全部的数据收集、存储与处理能力趋于被整合到同一复杂系统，新型计算机技术伦理问题开始以系统性风险形式出现，分而治之的处理方式显得不合时宜。在圍绕数据展开的技术体系中，大数据技术为海量数据的收集、传输、存储和分析提供基础性技术架构;人工智能技术专研以深度学习为代表的数据分析技术;虚拟现实技术为数据分析结果提供三维沉浸式呈现方式;脑机接口技术为数据信息的人机传输提供直接连接通路。各不相同的新型计算机技术共同为数据信息的收集、传输、存储、分析与呈现提供或基础性或功能性的技术支撑。

从数据的观点看，大数据技术正将人与世界全面数据化;人工智能与脑机接口技术试图对人的意识、思维与情感等进行数据模拟;虚拟现实技术致力于在现实世界外构造数据化的虚拟世界。新型计算机技术对人与世界全面数据化的理解、处理方式决定了其伦理问题的本质是数据伦理问题：大数据技术伦理问题本质上是人与世界的全面数据化问题、数据所有权问题、数据使用权问题、数据隐私问题等数据伦理问题的集合;人工智能技术伦理问题本质上是对意识、思维、情感等人类智能的数据化处理以及数据隐私问题等数据伦理问题的集合;脑机接口技术伦理问题本质上是人类精神活动与机器计算的数据边界问题、数据隐私问题等数据伦理问题的集合;虚拟现实技术伦理问题本质上是现实世界与数据虚拟世界的边界问题、数据隐私问题等数据伦理问题的集合。进一步讲，数据化问题、隐私问题与边界问题，或者说包括数据隐私问题与数据边界问题在内的数据伦理问题，就是新型计算机技术伦理问题的本质。

三、整体视角下新型计算机技术伦理问题的解决

新型计算机技术伦理问题的解决有着诸多共通性：一是法律、道德、技术等的重新分工问题;二是将伦理规范内化至计算机系统应采取经验主义策略抑或理性主义策略的问题;三是技术解决方式的内在矛盾性与自反性治理。

（一）伦理规范向技术的内化

传统伦理问题的解决依赖公民道德修养的提高与法律约束，而由于新型计算机技术伦理问题的复杂性、隐蔽性与不可理解性，其伦理问题的解决注重将伦理规范以算法形式写入计算机系统，使伦理规范成为一种内化于技术的强制性约束。不同于技术决定论与技术乌托邦，理查德·斯皮内洛（Richard Spinello）提出技术实在论，认为道德能够通过对技术的渗透成为网络空间的主导者。在程序正义的指导下，通过向计算机系统植入伦理算法的方式，不仅普遍的道德原则可以内化至技术之中，法律法规乃至主体道德偏好均可进行这种内化。

问题在于，利益相关产业的内在动机普遍缺失，互联网公司不希望其对用户数据的挖掘分析与长久储存受到限制，以期持续站在数据鸿沟的优势方;机器人制造商期望人工智能体获得类似人类个体的主体性认同，从而收获更为广阔的市场空间;无人驾驶汽车制造商期望“电车难题”等相关伦理问题逐渐淡出人们的视线。因此，很多专家学者认为相关治理需要多层次、多角度的介入，布鲁斯·施耐尔（Bruce Schneier）指出更广泛的约束机制包括道德压力、名誉压力、制度压力和防护机制[7]，劳伦斯·莱丝格（Lawrence Lessing ）提出“代码、市场、规范和法律共同规范网络空间”[8]369-370。但同样地，把对利益相关产业的法律约束、道德约束、市场约束等外在约束以算法形式内化至技术，使之成为一种不以人类意志为转移的强制性约束，相关伦理问题的治理就会变得简明而有效。

（二）经验主义策略与理性主义策略的结合

在新型计算机技术伦理问题的技术解决方式中存在两种对立观点：“自下而上”观点和“自上而下”观点，亦即哲学语境下的经验主义与理性主义之争。

经验主义策略指计算机系统运用反向强化学习等机器学习技术模拟人类在特定情境下的行为模式进而形式上习得与人类近似的价值观。例如，英伟达公司研发团队曾展示过一辆采用“端到端”机器学习架构的无人驾驶汽车，它在对人类驾驶数据进行累计72小时的观察学习后即可获得自动驾驶能力[9]。但人类驾驶数据中记录了很多不道德的人类驾驶行为，学习人类驾驶数据后的自动驾驶汽车可能会超速、尾随、插队，乃至参与到路怒一族中。经验主义策略能让计算机系统学到人类决策行为中蕴含的价值观念，却无法令计算机系统认识到什么样的行为才是真正道德的。

理性主义策略指在计算机系统中编码出一套作为其伦理准则的算法程序，计算机系统全部功能的实现都接受这套伦理准则的监督。这套“自上而下”伦理准则的基础数据可以是阿西莫夫“机器人三定律”、康德的绝对命令、特定形式的功利主义等等。理性主义策略同样存在显著缺陷，以康德的绝对命令为例，本杰明·康斯坦特（Benjamin Constant）指出，绝对命令使人们告诉杀人犯其杀害目标的位置，因为在任何情况下都不能说谎[10]。价值的多元性决定了理性主义策略不能因循一成不变的伦理准则，伦理准则必须接受最新经验数据的持续改造以不断进化。计算机系统既要学习人类行为数据中蕴含的价值观念，又要把握人类理性对于道德的定义，只有经验主义与理性主义相结合的策略才能使计算机系统习得真正的人类道德，这亦是一种理论与实践相结合的习得路径。

（三）技术解决方式的内在矛盾性与自反性治理

诉诸技术手段在解决一部分新型计算机技术伦理问题的同时往往又暴露出新的伦理问题，产生这种现象的根本原因在于数据调用在获得伦理问题解决能力的同时必然对被调用数据的隐私性产生威胁。以数据溯源为例，数据溯源基于数据分析技术获取数据来源信息，为主体数据隐私与数据主体边界的相关安全策略与安全机制提供支持。但数据来源信息本身就隐私高度集中，数据溯源技术以对数据来源信息隐私性的威胁为代价换取对数据内容信息的安全保障，其真实的隐私保护效用值得怀疑。

新型计算机技术在引发新的伦理问题的同时也为伦理问题的解决提供技术支撑，即新型计算机技术的自反性治理。以数据挖掘技术为例，数据挖掘在对主体隐私保护产生威胁的同时能对主体隐私泄露风险进行预警分析，将其应用在数据隐私挖掘抑或数据隐私风险预警取决于技术使用者的主观意图。技术在未被应用于实现特定主体主观意图时是技术中性的，此时的技术虽不负载现实价值却负载可能性价值，在技术层面为新的倫理问题的出现与解决奠定可能性基础，这种可能性又会在现实条件的作用下转化为现实。新型计算机技术的自反性治理很好地印证了上述理论观点，新型计算机技术在未被应用于实现特定主体的主观意图时是中性的，但却负载数据边界问题、数据隐私问题以及新型计算机技术伦理问题的自反性治理等可能性价值。

四、研究意义与未来展望

（一）研究意义

从整体的观点出发，把新型计算机技术伦理问题归结为包含数据边界与数据隐私在内的数据伦理问题，把新型计算机技术伦理问题的解决归结为伦理规范向技术的内化、经验主义策略与理性主义策略相结合以及技术解决方式的内在矛盾性与自反性治理。不同于过去学界对科技伦理问题过于宏观或微观的研究视角，通过对大数据、人工智能、脑机接口与虚拟现实等新型计算机技术伦理问题的整体性研究，梳理出针对新型计算机技术伦理问题的中层理论，在宏大叙事与具体问题之间架起理论桥梁，为新型计算机技术伦理问题相关学科的发展提供有哲学高度的理论指导。

新型计算机技术的出现使原本对人与世界的数字化进程向数据化转变，从二进制编码走向人类可以理解的量化，使数据世界与物理世界从分立走向重叠与融合。个体的人有了一个数据化的自身与之对应，世界也有一个数据化的存在形式，人和万事万物不仅作为物理意义的主体而存在，亦作为数据主体而存在。进而每个伦理问题都获得了一个数据化的形式，都有一个数据伦理问题与其对应。数据伦理问题是全部伦理问题的数据化形式，是全部伦理问题从物理世界向数据世界的映射。数据伦理问题的核心在于数据边界与数据隐私，数据边界指在数据世界中规定某行为之为某行为、某主体之为某主体的边界所在，数据隐私指主体的隐私数据。而事实上，人与世界无法被完全数据化，一个相对于人类科技而言无限延伸或无限可分的世界所对应的数据量同样是无限的，且对人与世界的数据化过程本身亦会对相关数据产生复杂的自反性影响。与此同时，对人的数据化本身就牵涉到对人的物化、透明化、对象化等伦理内涵。于是，自然法则、人类科技发展水平和伦理规范共同制约着对人与世界的数据化进程，使得完全数据化的主体和行为无法真正出现，人类当前发展阶段面临的数据边界问题远不如数据隐私问题那般突出。

事实上，大数据技术已将数据隐私问题作为其伦理问题的核心进行处理，并发展出一系列技术、法律层面的解决方案。从数据隐私的角度认识大数据技术给人类自由意志带来的侵害，确保对主体未来行为的预测结果作为主体数据隐私不被公开，可很大程度上避免这种侵害，乃至使其成为主体行为规划的一种辅助性决策工具;从数据隐私的角度认识人工智能与脑机接口技术相关伦理问题，剥夺人工智能体和脑机接口设备的数据隐私权，使之形成与人类在信息层面的不对等，令其思想与行为趋于透明化，可很大程度上避免人类利益受到侵害，巩固人类作为控制主体的相对地位;从数据隐私角度认识虚拟现实技术伦理问题，将主体的虚拟世界行为视为主体数据隐私，虚拟世界主体行为的道德性不受现实世界伦理规范的制约与评判，相关伦理问题就会随之消解。以数据隐私作为认识新型计算机技术伦理问题的基本出发点，可帮助我们直接把握到其“症结”所在，为相关伦理问题的认识与解决明确思路和提供指导。

就伦理规范向技术的内化而言，由于数据隐私是通过技术手段被数据化了的隐私，其相关伦理问题亦产生于技术过程之中，显然内化于技术的伦理规范能对其进行更为精准、有效的应对与解决;就经验主义策略与理性主义策略的结合而言，何种策略在何种情况下更为适宜取决于数据隐私来源的相关属性，诸如主体行为数据等直接来源于经验的数据隐私更适宜采用经验主义策略解决相关伦理问题，诸如通过大数据分析等方式间接得到的数据隐私更适宜采用理性主义策略解决相关伦理问题;就技术解决方式的内在矛盾性与自反性治理而言，数据隐私本身既是受保护对象又是对隐私进行保护的有效资源，而当其被用于隐私保护时又会产生新的隐私泄露风险，对数据隐私进行不同隐私等级的划分，评估不同情境下的数据隐私泄露风险，进而基于对数据隐私的精准把握来应对新型计算机技术伦理问题技术解决方式的内在矛盾性与自反性治理。

（二）未來展望

不同于传统伦理问题，新型计算机技术伦理问题具有显著的隐匿性与不可理解性，在新型计算机技术的运用过程中人们往往对自身利益受到侵害或侵害到他人利益浑然不觉。因而“德性即知识”变得尤为显著，人们很难知道究竟怎样的行为才是符合道德的：这需要相关主体具备一定的计算机技术专业知识来做出甄别。于是，最好的解决途径即是将伦理规则内化至计算机系统，使符合伦理规范的行为被技术强制执行，人们不必再对相关行为的道德性进行自主判断。于是，道德就是对将伦理规范以算法形式内化至计算机系统内部有价值，不道德就是阻碍或破坏这种伦理规范向技术的内化。对既不具备这种道德行为能力又不具备这种不道德行为能力的普通人而言，当面对新型计算机技术伦理问题时，他们能够遵循的唯一道德就是坚守正义。

参考文献：

[1]冯登国， 张敏， 李昊. 大数据安全与隐私保护[J]. 计算机学报， 2014， 37（1）：246-258.

[2]莫宏伟. 强人工智能与弱人工智能的伦理问题思考[J]. 科学与社会， 2018（1）：14-24.

[3] Yuste R，Goering S，Bay A，et al. Four ethical priorities for neurotechnologies and AI[J]. Nature，2017，551（7679）：159-163.

[4] Behr K M， Nosper A， Klimmt C， et al. Some Practical Considerations of Ethical Issues in VR Research[J]. Presence，2014，14（6）：668-676.

[5] Reiman J H. Driving to the Panopticon： A Philosophical Exploration of the Risks to Privacy Posed by the Highway Technology of the Future[J]. Santa Clara computer and high-technology law journal，1995，11（1）.

[6] Spinello R A. Cyberethics： Morality and Law in Cyberspace[M]. Jones and Bartlett Publishers，Inc. 2002.

[7] Doyle T. Bruce Scheier， Liars and Outliers： Enabling the Trust that Society Needs to Thrive[J]. Journal of Value Inquiry，2014，48（1）：151-155.

[8] Lessig L. Code and Other Laws of Cyberspace[M]// Code and other laws of cyberspace /. Basic Books，1999：369-370.

[9] 苏令银. 能将伦理准则嵌入人工智能机器吗？——以无人驾驶汽车为例[J]. 理论探索，2018（3）：38-45.

[10] Constant， Benjamin. Des re actions politiques [M].Ceuvres completes，1797.