财新传媒
位置:博客 > 刘兴亮 > 用AI监测员工大脑活动,一种未来形而上学

用AI监测员工大脑活动,一种未来形而上学

01
智能化的物理环境总令人联想到重重开合的金属型圆门,眼球识别,触控的半透明蓝色屏幕,扁平而巨大的操作间里身着「太空服」的工作人员一动不动或穿梭往返……在科幻巨制中,它是一个由直角构成的数学化的空间。
 
当这个空间冒出体型巨大的机器人与人发生社会交互行为时,观众觉得理所当然。
 
然而,从漆黑的电影院走出,在刺目的阳光下一阵晕眩,望着熙来攘往的街道揉揉眼睛,大脑过电般迅速重现刚刚的影像,不,这不是真的。只有菜市场的嘈杂,厨房里的油烟,孩子的哭闹与落入黄昏的晚照才是人间世相。
 
以上是科幻电影给我的一贯感受。
 
人怎么会与冷冰冰的机器天天发生关系,即便有也是人在操纵机器,如若反过来让机器操纵人,事情就显得诡谲而危机四伏,令人不寒而栗。
 
我现在想对观众朋友们(东北话叫好朋友们)提个问:假如工作单位给你脑袋上套个「温暖牌」电子监控器,以便对你的大脑信息做出即时分析,以调整你的状态与行为,那么你会怎么做呢?
 
你接受这种行为吗?如果不接受,那是为什么?
 
02
 
据《南华早报》报道,有工厂引进员工脑电波扫描系统,敷设在工人帽子上的传感器追踪脑电波。人工智能对工人的心理情绪状况进行实时分析并得出结论。这样,公司就能够优化工作流程。
 
在工人整个值班期间,传感器会持续收集脑活动数据,通过对这些数据的分析,能获悉工人的烦躁,抑郁和消极心态。此时把工人送去休息,或许有利于生产效率和企业的人文建设。
 
据说,火车司机、复杂设备操作者、电力网工作人员在工作时需要高度集中精力,这类员工已经采用了脑电波扫描系统。
 
这么做到底有没有效?为此俄罗斯卫星通讯社专门对我进行了一次采访。
 
这实际上涉及到的是人工智能的科学运用问题。通常,我们倾向于相信新技术在试验阶段之后,会给人的生活生产带来飞跃性的帮助,在过去的历史经验中,技术革新遵循这一规律。就此我首先表明了自己对应用新技术的乐观态度。
 
因为《南华早报》说江省电力有限公司从2014年起开始对员工使用情绪监控技术,此后盈利增长了约20亿人民币(约合3.15亿美元)——不知这一信息来源是否真切。
 
另外,上海一家医院采用了脑造影术,是很先进的前沿技术。该系统对病人的脑部活动进行扫描,借助「智能监测摄像头」分析他的脸部,同时在病床下面安装一种确定机体运动和姿势的传感器。
 
人工智能对所有数据进行处理,以便确切预测病人的不合适行为,据说这对精神病院来说尤为迫切,要知道那儿的患者行为极具不确定性。
 
03
 
那么是否可以依赖脑电波扫描系统?如果系统犯错,或者数据解读错误,责任将由谁承担?
 
 
对于俄罗斯卫星通讯社的问题,我当时如是作答:
 
「我认为这个技术是靠谱的,至少从原理上来讲,可行性是非常强的。至于这一系统的准确性具体能达到多大的百分比,我很难说。我只能说,这个系统从技术操作角度来说,是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样,药物研发出来之后,还需要几年的临床试验。这一人脑监控技术的研发已经基本完成了,但是还需要通过‘临床’来收集更多的数据,因为人工智能是靠两条腿驱动的——一条腿是算法,另一条腿是数据。再好的算法,如果没有大量的数据作支撑和配合,这样的算法都是瘸腿的。此外,正如所有的规则都不可能百分之百平等,规则只能照顾到大多数人的公平,没有百分之百公平的规则。具体到这个系统上,系统的确会存在一定的失误率,不可能百分之百准确,但是只要将失误率控制在一个可控的范围之内,就是可以接受的。」
 
04
 
在此之前,我就做过人工智能在未来生活中可能扮演什么角色的分析,明确提出了医生极可能失业的预测。
 
中医讲究望闻问切的诊疗手段,其有效性在西学东渐的一百来年逐步被各种机器所碾压,无论身体哪个部位不适,对医生来说,确诊往往意味着你要走进B超室、CT室、核磁共振室,或者其它什么化验室,那些化验单比病人口述带来明确的结果和应对措施。
 
根据病例中积累的数据,医生可以跟踪病人的健康历程,做出相对有利的判断。从人工智能的角度而言,高度集成的科学算法,对病人的各种身体数据进行分析,显然比情绪化的大夫更科学、精准和有效。
 
真到了那一天,医院是否还需要医生,会成为可怕但无奈的现实。就效率和经济成本而言,一个医院只要有一个院长和精于操作计算机的人就基本完善了。其他人员都将扮演打酱油的角色。
 
与此略有不同的是,我们今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能,大脑是否萎缩或有物理性病变,而是实时监控你的大脑活动,情绪状况以及所思所想。
 
也就是说万物之灵的人的头脑,被机器所掌控,并据此调整你的「现状」与行为模式。听起来有些讽刺,但未必不是现实。
 
05
 
到此我首先想到一些棘手的状况。比如按照性学家的分析,一个男人每四秒就会产生一次与性相关的念头。假如脑电波扫描系统能够成像,那一个人关联的显示器就会成为一幕连续不断的A片现场——此情此景竟让我无语凝噎。
 
人有悲欢离合,月有阴晴圆缺,笛卡尔对人的本质性的定义就是「我思故我在」。设想一个人的大脑出于善意的目的而被监控,这里边隐藏着很大的伦理风险。
 
人性是不可试探的,就如神圣是不可试探的一样。
 
如果一个人明确地知道自己的思想被他人掌控,势必带来一个硬币的两个面,他可能被迫变得更主动和积极于工作,提高效率;也可能伴随着消极思想的状态,以便自我隐匿和保护——下班后能不能切换回来是很成问题的,长此以往人将变得拒绝思考停止进步。
 
按照道德的要求成为一个「心中无不可与人言者」的楷模是人的极致追求,在现实中能够做到哪一步则个体差异极大。
 
当然,也有学者认为极难借助脑造影术解读心理情绪状况,并且就目前在工厂进行实验所取得的「成就」,也可能具有相对性。对此我们还是抱着审慎的乐观态度拭目以待吧。
推荐 1