学习幻肢与神经全景敞视：脑机接口技术应用于教育的主要伦理挑战

[摘   要] 文章对脑机接口技术应用于教育的现状进行了梳理，在此基础上分析了该技术应用于教育领域所带来的主要伦理挑战，并相应地提出改进策略与展望。研究发现：（1）在脑机接口技术应用于教育实践方面，主要表现为利用脑机接口智能穿戴设备实现对学习者注意力和情绪的实时监控，并通过干预以增强学习能力;（2）在脑机接口技术应用于教育所带来的伦理挑战方面，主要表现为对神经增强设备的依赖导致教学主体的自我认同危机和脑机接口作为超级全景敞视工具对学习者神经隐私的侵犯;（3）在改进策略方面，两大伦理挑战所体现的内核是教育实践领域“人—机”和“我—他”两对基本矛盾，要想化解这些矛盾，需要从价值观层面转向“以人为中心”的教育—技术深度融合，以及通过对教育技术治理场景边界的划定并配合立法实现全方位的神经隐私保护。

[关键词] 脑机接口; 全景敞视; 神经隐私; 教育伦理; 教育技术

[中图分类号] G434            [文献标志码] A

[作者简介] 朱洪洋（1989—），男，辽宁沈阳人。讲师，博士，主要从事教育哲学与教育政策的研究。E-mail：hyz@njnu.edu.cn。

一、引   言

新兴信息技术与教育的融合成为近年来全球教育改革的主要趋势。一方面，技术红利赋能教育变革，既为教育场景提供全新的互动方式，又为教育制度设计提供变革思路;另一方面，相伴变革机遇，新技术给教育理论和实践所带来的挑战也是不容忽视的问题。赫尔辛基大学2018年的一项研究就引起了争议，研究人员在检查了2000名芬兰学生2012—2015年的PISA成绩后发现：数字化课堂阻碍学习，数字化学习使得学生更容易被分散注意力。法国国民议会也表决通过一项法案，规定从2018年9月起，禁止3～15岁的学生在校园内使用手机。以上与科技—教育融合发展趋势背道而驰的研究结论和决策让我们不得不思考，先进的科技成果迅速普及教育领域是否合理，又带来了哪些新的挑战？

近年来，脑机接口（Brain Computer Interface，以下简称BCI）技术逐渐开始应用于教育领域并展现出其技术潜力。这是顺应科技与教育融合的趋势，也是变革教育的尝试。但是，对极为隐私的个体生物脑电信号的系统搜集和分析，也意味着对学习者个体隐私的侵犯逐渐渗透到脑电层面。因此，很有必要对BCI技术引入教育领域所带来的伦理挑战进行谨慎的讨论。

二、何为脑机接口

（一）脑机接口基本概念和构成

脑机接口是近年来技术领域新兴的一种人机交互方式，其研究涉及神经科学、计算机科学、控制和信息科学等多学科领域，意在通过对大脑神经信号的采集、转换和识别，直接实现人脑和外部设备的通信。第一届BCI国际会议对BCI的定义为：“脑机接口是一种不依赖于大脑常规的通过外围神经和肌肉进行输出通路的通信系统。”[1]其本质是一套交流和控制系统，初代的研究和应用版本主要目的是服务运动障碍患者，如全身随意肌（除眼睛外）全部瘫痪的闭锁综合征[2]。近年来，BCI技术逐渐转向对一般人群的应用，受到了学术界和资本市场的关注，逐步成为技术发展和商业应用的趋势领域之一。

一般一套BCI系统包含三个主要模块：信号采集、转换算法和信号输出。信号采集主要通过采集设备搜集脑信号，如慢皮质电位（Slow Cortical Potentials）、P300诱发电位（P300 Evoked Potentials）、感觉运动皮层的μ节律、β节律和运动皮层的单部件活动等;转换算法通过人工神经网络、遗传算法等将搜集的信号进行识别分析，并将加工后的信息输入信号输出系统;信号输出系统接收加工后的信息，进行指令的操作，如打字、移动光标、移动假肢等。BCI通过对脑信号的识别，直接实现对机器的控制，目前在现实生活中已经可以实现一系列人机交互操作，例如：可以通过意念进行打字和机器操控。BCI应用也面临着一系列难题，其中最为主要的几个方面是：要排除非脑电信号的干扰;转换分类体系的规范化;对设计和应用最难的是如何持续采集用户发出的输入信号[1]。BCI可分为侵入式、半侵入式和非侵入式三类。侵入式一般采取在大脑中长期植入微电极阵列的方式实现，可以获取质量相对较高的神经信号，但容易引发免疫反应。非侵入式则一般采取不侵入大脑组织获取脑电图信号，如利用外挂式的佩戴装置进行信号侦测采集，但搜集的信号相对侵入式较为模糊。半侵入式则是介于二者之间，其接口植入颅腔而非大脑灰质，引发的免疫反应相对较少。

（二）脑机接口在教育领域的应用现状

目前，BCI在现实生活中的应用，除了医疗康复领域外，都与记录和提升认知能力、识别情绪有关。已有商用产品将BCI应用于教育领域，通过可穿戴设备实时监测学生的脑电信号，并通过配套软件系统实时进行输出反饋。

BCI技术的教育应用产品主要通过对学习者脑电信号的监测和干预，提升学习者注意力水平。本质是应用非侵入式BCI技术记录和分析学习者脑电信号，将信息进行量化处理和呈现，通过反馈实现对学习者的干预。在具体的教学情境中，BCI设备为教师和学习者提供课堂学习状态、学习态度等方面的评估，并依据脑电信号个体差异提供个性化的学习指导和实时学习干预。配套系统通过对学习者脑电的实时追踪与大数据档案化存储结合，实现对学习生活的全面监控和分析。

BCI应用于教育呈现为软件和硬件结合的特征。借助硬件实现个人脑电信号的搜集，并通过软件分析数据和可视化呈现。其设计初衷为使用BCI设备实时分析学生学习参与度以及注意力水平等，通过监测反馈增强学习者的学习能力、发现学习中的困难。对学习者来说，这有利于结合自身认知规律反思并发挥自身认知特长。对于教师来说，可以通过BCI人机交互界面实时获取学习者注意力和参与度数据，辅助实现某种程度的因材施教，提升教学实践能力。随着BCI技术的迭代，其与教育场景和学习者的深度整合也是未来的主要发展趋势。

三、脑机接口技术应用于教育的主要伦理挑战

（一）学习幻肢：脑机接口技术对学习者自我认同的重塑

BCI应用于教育带来诸多伦理挑战，首先在于对学习者自我认同重塑所带来的风险。对人脑来说，一项基本的工作就是区分我世界（Me World）和非我世界（Not-me World）。[3]这种区分最终影响自我认同的建构。自我认同关系到个体关于自己有意识或者无意识的心理表征，涉及个体与世界持续互动过程中的一系列问题，例如“我是谁”“我想成为何种人”“我与他人是何种关系”等，是个体依据个人的经历所反思性地理解到的自我[4]。

在个体与世界的互动过程中，作为互动基础的身体以及个体与环境的交互方式至关重要。身体是社会个体原始的物理工具，是个体天然的技术对象，也是个体最独特的技术手段[5]。具身哲学（Embodied Philosophy）认为，人类获取意义的感知体验是基于人的身体构造。因此，身体构造在人的自我认同形成中起着基础性的作用。神经伦理学研究也认同，认知和道德发展都有其自然神经基础和限度。身体构造既是自我认同的基石，也为自我认同发展设定了自然限度。梅辛格（Thomas Metzinger）提出，我们的自我认同是一种现象自我，其主要内容为透明自我模型（Transparent Self-model）。透明自我模型是不断形成的过程。现象自我（Phenomenal Self）不是某物，而是一个过程。如果一个有意识的信息处理系统在一个透明的自我模型下运作，那么作为一个人的主观体验就会显现出来[6]。我们是通过自我模型来观察和理解世界的，但是这个自我模型本身是我们无法意识到的，因此，将其隐喻地理解为“透明的”。

青少年时期是人类个体生长发育的上升期，也是梅辛格所谓“透明自我模型”形成的关键期。现代社会的绝大多数人，在青少年时期都长期身处学校教育环境，在此过程中与他人的互动以及学习对自我认同建构影响至深。青少年在此期间形成明确的兴趣爱好和生活哲学，学校教育情境与自我认同的形成发展有着密切的联系。人们的自我认同感通常是与人的身体和记忆联系在一起的，它与人们的日常生活体验是一致的[7]。人们的形体存在（Human Corporeality）总是与人们的自我意识紧密相连的。因此，人们的自我认同首先都是源于其对自己的形体存在的知觉和认识[7]。

幻肢（Phantom Limbs）概念由米切尔（Silas Mitchell）提出，指失去肢体的病人有时会感觉到断肢的存在，“是出了问题的大脑里头的一种身体表征人造物”[8]。人类在脑中建立关于身体的表征，若长期使用BCI设备，我们对自我身体的表征也会逐渐改变，当人摘取BCI设备时，仍然存在对该部分的表征，产生幻肢感。这会导致不自觉地就采取佩戴BCI设备时的行为模式和策略。这类似于习惯了使用触屏手机，使用非触屏设备时也会下意识地划动屏幕。

长远来看，BCI技术的引入会对学习者的自我认同以及教育交往产生巨大影响。仅以目前已经商用化推广的非侵入式教育类BCI设备为例。BCI技术应用到学习情境中，学习者要长期佩戴相关设备，该设备成为学习中的人体增强工具。为获取完整的周期性数据，不仅在课堂上而且还要在课外学习期间佩戴设备。这意味着BCI设备成为学习期间无法离开的工具，且与人的神经系统联结。BCI设备作为长期与人体联结的增强工具会对使用者的躯体自我感（Bodily Sense）产生影响，使用者容易产生设备本身即是身体一部分的错觉。学习者在长期使用后亦有将BCI设备作为自然身体延伸的意识。当摘掉设备时，是否会出现自身仍然与BCI设备连接的幻肢现象，是否仍然保持着使用BCI设备辅助学习的习惯，这是需要警惕的问题。尤其是当青少年心智发育尚未完善，尚处于自我认同形成的重要阶段，BCI在教育中的应用会对其自我认同产生很大影响。学习者会怀疑学习过程中自己是自然躯体的“我”，还是以BCI技术增强加持的赛博格（Cyborg）“我”，哪个才是学习情境中真实的“我”？当失去BCI技术辅助时，“我”是否还是“我”？

在教育交往中，长期佩戴BCI设备也同样会带来一系列自我认同挑战。如学习者的自我认同是使用BCI学习者群体中的一员，当摘掉设备时我是否还属于这个群体？同时，由于对脑电信号的识别都是以数字指标的形式予以反馈和显示，这改变了教师和学习者对学习过程甚至是自身的感知方式，无论是对情绪还是注意力水平的反馈，数据能指是否能真实反映学习情况所指，教师以能指来看待学生，是对学生片面的理解，建立在此基础上的教育交往改变了以现实感知和直觉感知为基础的交往模式，这改变了自我认同形成的既有规范。倘若一味地在数量化的基础上寻求实在感，则实在感也就势必演化成抽象的数量符号。[9]

（二）神经敞视：脑机接口技术对学习者的神经隐私侵犯

BCI技术应用于教育带来的另一伦理挑战在于对学习者神经隐私的全面侵犯。隐私涉及隐私权人和其他人的隐私保护、言论表达自由和知情权。隐私权是人们生活中的一个必要条件，如果不保护人们的隐私，就很难保证人们的道德和尊严[7]。BCI技术系统搜集学习者神经信息并进行分析与存储，对个体神经信息的系统掌握，若数据被不法分子利用，甚至可能实现对隐私权人的言论表达和知情权的控制和利用，个体的自我控制也进一步受到威胁。神经隐私既是权利（Rights）的问题，也是权力（Power）的问题。不夸张地说，对神经信息的全面掌握关系到谁能控制未来，拥有未来世界的话语权。

人类正加速步入后工业社会的信息时代，日常生活和社会组织中的技術促进信息传递的演变和交往过程的现代化，这成为社会进化的推动力量[10]。信息传递方式和交往方式的改变也重塑了整个社会的互动模式和权力关系。波斯特（Mark Poster）认为，信息社会的人类正生活于超级全景敞视（Superpanopticon）之中，个体身份的重构以及日常生活被信息技术和数字话语全面掌控，人处于前所未有的全方位监控之中。全景敞视的英文名词“Panopticon”源于古希腊神话中的多眼巨人Panoptes，它有许多只眼睛可以观察世界，即使有一些眼睛是休息的，但总是有一些处于观察中。全景敞视建筑就像多眼巨人一样，对被监视者进行不间断的监视。其提出者边沁（Jeremy Bentham）设想全景敞视建筑的规划不仅可以用于监狱的设计建造，也可以同样适用于学校、医院等各种社会机构。他认为全景敞视建筑是“迄今未有的通过心灵获取心灵力量的新模式”[11]，是“一个用来磨砺出无赖的诚实的磨坊”[12]。这暗示全景敞视建筑的两个特质，其一是实现一种心灵的控制和改造，其二是将被监视者视为需要被时刻鞭策的无赖囚徒。福柯认为，类似全景敞视建筑，我们的社会是一个监督的社会，“在这一社会秩序中，根据种种力量和身体的一整套工艺，个体被仔细地制造了出来”[13]。

超级全景敞视则是基于信息数据库的新形式现代规训和控制。随着人们对信息技术的依赖，人机共生合成体（Symbiotic Merger）实际上正在消解人类实体存在原有的界限，人可以超越时空的限制进行信息符号的交流。在波斯特看来，人类经历了“口头媒介—书写媒介—电子媒介”三个信息交换的演进阶段，不同的信息交换模式意味着不同的交往模式，交往模式的改变重塑了主体。口头媒介阶段的特征是符号的互应，书写媒介阶段的特征在于对意义符号的再现，而我们身处的电子媒介阶段则是以信息的模拟为特征。在不同的信息方式中，人的存在方式与自我认同也不尽相同，在口头媒介阶段个体处于面对面交流的总体中，到了书写媒介阶段个体则成为处于理性/想象的自律性的中心行为者，到了现今的电子媒介阶段“持续的不稳定性使自我去中心化、分散化和多元化”[13]。在电子媒介阶段，对个体的支配从语言行为的支配变为了更为复杂和隐蔽的语言形成的支配。

BCI技术与大数据、人工智能技术在教育领域的融合式应用使得对学习生活的监控技术更为全面和隐蔽。在信息技术进入教育领域以前，对学习者的监控仅仅停留在通过“察言观色”进行解读，或者通过高频率的考核测试进行间接监控。在超级全景敞视下，对学习的监控从最初的视频监控演变为可穿戴设备的全面信息搜集。通过可穿戴设备，学习者的注意力水平和学习情绪都可以通过设备实时呈现，相关数据都以数据形式存储和分析。即使在学校以外，这种监控也无可避免，成为一种对学习者生命过程不间断的监控。通过远程监视获取学习者的学习状态，通过数据记录随时回溯其学习情况，这呈现出超越时间和空间限制对学习进行规训的态势。规训的一个主要目标就是给人定位[14]。这种超级全景敞视式的规训给教育生活带来了新的挑战。在BCI超级全景敞视中，学习者成为“囚徒”，身处全天候的监视之中。当个体知道自己处于监控之中时，其行为模式也会相应作出调整，以符合监视者的期待。

四、对策与展望：教育技术治理的

价值选择与场景边界

当以BCI为代表的新技术应用于教育时，我们既要警惕其威胁既有规范，又要防止对它的审慎演变为新式卢德运动，从而在反思平衡中作出恰当的价值判断。

（一）“人—机”矛盾的调解：“以人为中心”的教育—技术深度融合

教育与科技融合已经成为当今的趋势之一，这种融合绝不是表面上教育与科技的简单叠加，而是需要触及更深层次。技术作为工具的领域，既可以加速人的衰弱，又可以增强人的力量[15]。但在处理人与技术的关系时，我们往往被技术理性所反噬。当涉及BCI应用于教育所带来的“人—机”矛盾时，很有必要回到价值观的层面进行讨论。这种思考涉及：在教育中应用BCI技术其初衷为何，应采取何種基本价值观引导教育与科学技术的深度融合？

“以人为中心”（Human-centered）的理念最初源于工业设计概念，其背后蕴含着人本思想。当以产品设计的思路来展望教育—科技的深度融合时，“以人为中心”的理念具有重要的参考价值。斯坦福人工智能研究中心提出，建构“以人为中心的”（Human-centered）人工智能技术[16]：必须融入更多人类智慧的多样性、细微差别和深度;应该与对人类社会影响的持续研究相结合，并以此为指导;最终目的应该是增强我们的人性，而不是减少或取代它。

参考以上理念，我们可以思考BCI技术应用于教育时更为妥善处理“人—机”矛盾的方案。从核心的价值观层面来说，BCI技术应用于教育必须是“以人为中心的”。这种以人为中心的价值选择，不仅要渗透于技术产品、教学环境和课程设计，还要成为学习者、教师、家庭、教育管理者和产品设计者价值观的一部分，比如：

（1）在处理人—机关系上，应帮助学习者认识到，采用BCI技术的目的是为了更好地服务于自己的学习。学习者应持续获得如何理性处理自身与BCI设备关系的培训或相关帮助。

（2）学习者不应该被视为边沁所谓的“无赖”或“囚徒”，而是被视为具有基本人权和主体性的独立个体。教育管理部门及学校应明确规定BCI设备及相关数据采集的空间场景边界与时间边界，校外空间与时间应该明确规定不佩戴BCI设备。

（3）BCI设备的使用不应磨灭每一个个体的基本特质，如肤色、性别、种族等。

（4）BCI设备应适配于个体的智能优势和长项，而非创造千人一面的学习场景。

人类社会并不是一个装有文化上中性的人造物的容器。那些设计、接受和维持技术的人的价值与世界观、聪明与愚蠢、倾向与既得利益都必将体现在技术身上[17]。无论如何，我们在教育中对BCI技术设备的应用，都应以增强人性为目的。

（二）“我—他”矛盾的化解：技术治理场景的边界划定

罗素（Bertrand Russell）指出：“在柏拉图那里，伦理与科学最终融合为一。善等同于知识。如果真是这样，那太令人欣慰了。然而不幸的是，柏拉图的观点十足地过于乐观。那些最富有知识的人，有时也许将知识用于邪恶的利益。”[18]

BCI技术应用于教育领域所造成的“我—他”矛盾主要表现在对个体神经隐私的侵犯与反制。其本质问题在于教育中的技术治理问题，可归结为：当我们已然采取技术治理时，对个体神经隐私进行搜集和利用的场景边界在于何处？

在教育中使用BCI设备的确可能为因材施教带来便利，但这种便利是以学生让渡个人神经隐私为基础的。目前的BCI设备皆是由商业公司开发及支持。企业通过产品搜集个体隐私信息，这些神经隐私如何被利用需要得到关注。所谓“三岁看小，七岁看老”，个体的各种决策和行为模式都有其神经基础。通过对神经信息系统的搜集和使用，甚至可以预测和影响个体成年后的消费行为和婚恋观念等。在教育领域中使用BCI设备对个体的隐私侵犯将是严重且影响深远的。如果技术趋势已经不可避免，则应及早重视，并从硬法和软法的层面予以规制。否则，学校培养和教育出的将不再是公民，“而是完美的消费者，最适合数字经济的个体”[19]。

当人们提出要隐私权时，他们实际上是在寻求一种选择和决定权，即选择与自己分享亲密空间、靠近自己的人，划定自己的个人空间和身体空间的权力。[7]如图1所示，以空间属性和信息可识别为坐标维度，技术治理的应用场景可以分为四类：场景1为参与者在场、信息可识别，典型的场景为应用BCI技术的教室课堂;场景2为参与者在场，信息不可识别，典型场景为未应用任何信息采集技术的传统课堂;场景3为参与者不在场，信息可识别，如佩戴BCI设备的学习者在家进行学习，其神经信息可直接传输到网络云端，并呈现于教师或家长的管理屏幕;场景4为不可识别，不在场，典型场景为传统上未应用任何信息采集和监控技术时，学习者离开学校后的学习生活。

在场景1和场景3中，均涉及BCI技术在教育生活中的应用。当制定相关管理规定时，应着重对场景1和场景3进行关注，尤其是，是否应在离校学习时也普遍沉浸于场景3，即BCI技术应用于非学校环境中，其合理性与正当性也值得进一步思考。还应注意的是，场景1和场景2，即应用BCI技术和不应用BCI技术的课堂，其时间分配比例应如何侧重，也是重要的问题。只有当从硬法和广义的软法层面对不同技术治理场景的神经隐私进行保护，以及对不同技术治理场景的时间占比进行合理的分配，我们才能在人体增强技术与个人隐私之间寻找到平衡点，从而防止个人神经隐私和数据被滥用。

可以预见的是，BCI技术应用于教育会带来许多积极变革，比如在特殊教育领域更好地帮助学生学习;通过成本相对较低的技术为贫困地区学生提供更为优质的教育资源;提升个体的学习效率，激发其进行深度学习;对智慧课堂的辅助强化。BCI远远未达到科幻电影中的技术水平，还不足以威胁人的生存或已在日常生活中普遍使用，仍有许多技术问题亟待解决。可以预见的是，BCI技术应用前景是广阔的。BCI技术应用于教育，可以实现学习者能力的增强，但学习者是否完全具有支配自我意念和脑信息的能力和权力，在何种程度上可以使用BCI技术？

就像黑板的发明和使用使得对孩子的学习和内心生活的监督变得越来越有可能，脑机接口技术是否是下一块黑板？

[参考文献]

[1] WOLPAW， JONATHAN R， et al. Brain-computer interface technology：
a review of the first international meeting[J]. IEEET transaction on rehabilitation engineering， 2000， 8（2）：
164-173， 172.

[2] TOWNSEND G， et al. A novel P300-based brain-computer interface stimulus presentation paradigm：
moving beyond rows and columns[J]. Clinical neurophysiology， 2010， 121（7）：
1109-1120.

[3] 帕特里夏·丘奇兰德. 触碰神经：我即我腦[M]. 李恒熙，译. 北京：机械工业出版社，2015：28.

[4] 安东尼·吉登斯. 现代性与自我认同[M]. 赵旭东，方文，王铭铭，等译. 北京：三联书店，1998：275.

[5] 马塞尔·莫斯. 社会学与人类学[M]. 佘碧平，译. 上海：上海译文出版社，2003：306.

[6] METZINGER T. Being no one：
the self-model theory of subjectivity[M]. Cambridge：
MIT Press， 2004：
24， 1.

[7] 范梅南，莱维林. 儿童的秘密：私密、隐私和自我的重新认识[M]. 北京：
教育科学出版社，2014：
108，114，73，81.

[8] 阿拿瑟斯旺米. 不存在的人：从自闭、幻肢到出体经验，一场“自我”的科学壮游[M]. 何明宪，译. 台北：究竟出版社，2016：
99.

[9] 张凤阳.技术理性与现代人的经验方式[J].南京大学学报（哲学社会科学版），1995（2）：104.

[10] HILBERT M. Digital technology and social change[EB/OL].（2017-06-01）[2019-05-01].https：//canvas.instructure.com/courses/949415.

[11] BENTHAM J. Panopticon， constitution， colonies， codification， liberty fund[M]// The Works 4， Edinburgh：
William Tait， 1843：
39.

[12] BENTHAM  J. Memoirs part I and correspondence， liberty fund [M]// The Works 10， Edinburgh：
William Tait， 1843：
84.

[13] 马克·波斯特. 信息方式：后结构主义与社会语境[M]. 范静哗，译. 北京：
商务印书馆，2014：
127，13.

[14] 米歇尔·福柯. 规训与惩罚[M]. 刘北成，杨远婴，译. 北京：
生活·读书·新知三联书店，2012：
245.

[15] 赫伯特·马尔库塞. 单向度的人[M]. 刘继，译. 上海：
上海译文出版社，1989：
211.

[16] FEI-FEI L， ETCHEMENDY J. Humanity：
the next frontier in AI[EB/OL]. （2018-10-22）[2019-10-12]. http：//airesearch.com/tag/human-centered-ai.

[17] STAUDENMAIER M. Technology"s storytellers：
reweaving the human fabric[M]. Cambridge：
MIT Press， 1985：165.

[18] 伯特兰·罗素. 西方的智慧[M]. 瞿铁鹏，译. 上海：
上海人民出版社，1992：
434.

[19] 马克尔·杜甘，克里斯托夫·拉贝. 赤裸裸的人：
大数据，隐私和窥视[M]. 杜燕，译. 上海：
上海科学技术出版社，2017：
76.

[20] 吕德文. 治理技术如何适配国家机器——技术治理的运用场景及其限度[J]. 探索与争鸣，2019（6）：61.