人工智能技术对人的意识压抑性控制

　　摘要：现今人工智能技术在给人类带来丰富物质生活的同时,也偏离了原有的道德准则,迫使人们背离了作为自然人的“双向度”生活,这一影响给后现代人类带来了危机。文章通过马尔库塞的技术理论,解构人工智能技术在思想、生产和生活三个方面对人的意识的压抑性控制,激发人们思考摆脱“单向度”生活,寻求后现代人类自由与解放的未来新出路。

　　本文源自哈尔滨学院学报,2020,41(09):35-39.《哈尔滨学院学报》(月刊)创刊于1980年，是经国家新闻出版总署批准出版发行的，由哈尔滨学院主办的学术期刊。其前身是《哈尔滨师专学报》，1980年创刊，季刊，1999年改为双月刊，2001年更名为《哈尔滨学院学报》，2002年改月刊至今。本着传播理论信息，沟通学术见解，推动科学研究和教育改革，繁荣科学文化的办刊宗旨，在体现学术性、高校性、师范性和地方性特点的同时，注重理论和实践相结合，始终坚持新(选题新)、快(出版快)、高(刊文学术水平高和编辑出版质量高)，在为两个文明建设服务过程中逐渐形成了自己的办刊风格。

　　20世纪60年代之后,人们的生活发生了巨大变化,旧的自动化技术手段被新的人工智能技术手段所代替,而科学技术的发展本应从一个必然王国向自由王国前进,但事实却并非如此。现今人工智能技术已成为新的意识形态,成为一种压制人意识的工具。本文从人工智能技术对人的意识的影响出发,以马尔库塞的理论为基础,分析和批判人工智能在思想、生产及生活等领域对人的内心向度的压抑。

　　一、马尔库塞技术思想的基本内容

　　(一)技术和意识的缘起

　　技术和意识是马尔库塞的重要理念,同时,马尔库塞也受到了海德格尔、霍克海默和阿多诺、马克思等人的技术观点的影响。海德格尔认为技术是一种解蔽方式,以及通过技术如其所是的显现在“世界中”。但是现代技术不仅仅是一种解蔽方式,而是一种促逼的手段,更是一种使人沦为持存物的存在,使人深陷于“座架”之中,从而使人的行为异化。马尔库塞的技术思想深受海德格尔的影响,他认为,技术使人深陷于囹圄之中,正如海德格尔说的“座架”,同时,把政治、经济、文化等社会体系都纳入在技术的控制之下,形成一个极权的社会,这在马尔库塞的《单向度的人:发达工业社会意识形态研究》中得以体现。

　　在霍克海默和阿多诺看来,技术一词,更多的体现在对艺术和生活的控制。他们认为,现在科学技术的发展,并没有为文化产业提供更多创造性,而是大规模的复制产品,从而形成人们的消费品。这种消费品正在消除人们的想象力,迫使人们将文化产业所呈现出来的东西与现实世界相混淆。例如,电影总是想制造一种现实的世界,而人们也会把现实的世界当作电影世界的一种延伸,以为现实的世界就是电影世界一样。但事实并非如此,只不过是有经验的制片人构想一个虚幻的世界,驱使人们越来越产生错觉,从而阻碍了人们想象和思考的空间。“文化工业不断在向消费者许诺,又不断在欺骗消费者。”[1](P156)马尔库塞非常赞同霍克海默和阿多诺的技术对人们意识控制的分析,他认为“现行的社会控制形式在新的意义上是技术的形式”,[2](P9)这种新的人—技之间的结合似乎有利于整个社会的发展,但实质上是一种潜默化的控制形式。

　　在马克思看来,技术异化并不是在技术本身,而是取决于技术本身的社会的生产关系,即“工艺学会揭示出人对自然的能动关系,人的生活的直接生产过程,以及人的社会生活条件和由此产生的精神观念的直接生产过程”。[3](P410)而马尔库塞认为技术异化是技术与人之间的关系。诚然,马尔库塞曲解了马克思技术异化的思想,但在解放人类自由方面,马尔库塞认同马克思《1844年经济学哲学手稿》中关于人的本质的解放思想,人要实现自我的解放就要实现艺术的解放。

　　对于技术的理解,马尔库塞吸收了众多的思想,其中对海德格尔的技术异化和单向度的思想有效的结合,并指出:“因为思想和言论属于某个思想和言论主体,如果该主体的生活依赖于实施一种被强加的功能,那么它就依赖于对这种功能的需求的满足——因而它依赖于控制这种需求的人。”[2](P109)对于抑制性的技术控制,改变了人们的行为和单向度的思想。从霍克海默和阿多诺对人的艺术和生活的控制出发,马尔库塞已对科学技术就是意识形态进行了系统的分析,提出了“科学技术的发展=日益增长的物质财富=不断扩大的奴役”。同时,马尔库塞吸收了马克思的人的本质解放方式的思想。马尔库塞所处的时代是极度发达的工业社会,在技术高度发达的基础之上,对人类意识压抑性极度明显。如今,我们所处的时代是信息时代,人工智能技术是新一轮的技术形式的存在,而马尔库塞的技术理论仍对人工智能技术有重大的意义。

　　(二)技术和价值中立的矛盾

　　马尔库塞认为,价值中立不能体现在技术上。技术是作为一种意识形态为控制手段提供了合理性,技术承载着人们的思想,或者更确切的说技术承载着社会特定人的价值,设计者本身就带有善恶之分。所以,使用者在使用技术时,就带有设计者的思维,按照设计者所设计的产品而使用。因此,技术“中立性”的传统概念已经不能得到维护。

　　马克库塞认为:“技术本身不能独立于对它的使用;这种发达工业社会是一个统治系统,这个系统在技术的概念和结构中已经起着作用。”[2](导言)日益自动化的生产技术装备并非是单纯工具,技术与对人的控制联系在一起,技术对人的控制类似于海德格尔所说的“座架”,使人在技术的控制之下产生行为异化。这种对人的技术控制系统满足社会运作所需的文化发展、生活方式及职业发展,使技术在社会中形成合理的地位。

　　在现实中,物质都是中立的,物质并不是为某种目的所构成。但是把物质以特定的历史主体联系起来,技术就含有一定的社会价值,它离不开技术本身所赋予的效用以满足社会的需求,使技术在社会占有合理性的地位。社会被技术所控制并不是技术现象所呈现出来的神秘力量,它是技术所带来的丰富物质文化而形成完善的福利体系,它比任何一个意识形态都更有说服力。各种技术控制手段是为了所有社会集团和社会利益而服务的,技术合理性的意识形态功能,不仅在它的操作应用中带有偏见,在管理方法、艺术设计上同样也是如此。

　　二、人工智能技术对人单向度意识的控制

　　马尔库塞认为,技术成为一种压制人的意识并作为一种新的控制形式渗入到社会生活的各个方面,而人工智能技术作为技术形态中新的控制形式,它将影响人们的意识,使人背离了作为自然人的双向度意识的生活本性,就连人的本质也将受到抑制,它的影响将更加广泛,融入到人们的思想、生产和生活等领域中。

　　(一)思想领域:人工智能技术是人单向度意识的思维方式

　　人工智能技术作为新型的社会控制形式,无论是物质匮乏的社会还是现今物质丰富的社会,人们的行为同样受到制约,并没有实现个人的自由。人类受人工智能技术所支配,封闭一切对现今存在的状况的辩证性思维方式,阻止了人类向自由和解放迈进。它产生虚假的意识,使人们形成单向度的思想和行为模式,是一种更为强大的无形力量支配着人们的思想。现今的人工智能技术的意识形态强化了个人对社会的认可,个体内心的反思向度逐渐被削减了,失去了个人的否定性思考和批判的能力。人们对人工智能技术控制缺乏思想意识上的反思,无论在思想上还是在行为上都接受了人工智能技术控制是合理的意识和观念。人工智能技术本身并不带有某种智能属性,而是人们赋予了它智能属性。社会的积极或消极的状态都会影响人工智能技术的走向。

　　现今的人工智能技术的发展并不是和谐的发展,从人工智能技术制造和支配的角度来理解,形成一种控制和支配人的思维逻辑。人们只关心效率,将人本身排斥于意识之外,人们不再关心自身本质的存在。人工智能技术作为意识形态所发生的效用是对大众的行为进行诱导,抑制大众的意识。而人工智能技术本该出现的目的应该是追求自由的生活,但实际上发生的作用并不是如此:“国家机器把其防务和扩张的经济、政治需要强加在劳动时间和自由时间上,强加在物质文化和精神文化上。”[2](P6)人工智能技术带来的丰富物质文明和精神文明成为抑制人类意识的工具,它已经潜化在现今的文明社会中。现今的潜化并不是个人重复社会所实施的外部控制并成为永恒,而是内心的自由向度已被人工智能技术所占领。

　　人工智能技术的发展给人类提供了诸多的便捷,而这种便捷的满足却使“快乐原则”被削减,快乐被逆转为顺从态度而服务。马尔库塞认为:“同调整过的俗化的快乐相对照,升华维护着压抑性社会加诸个人的拒接意识,因而也维护着解放的需要。可以肯定,一切升华都是由社会力量来实施的,但这一力量的不幸意识已克服了异化。还可以肯定,一切升华既接受了社会为阻止本能的满足而设置的避障,又越过了这一避障。”[2](P4)越来越复杂化、智能化的人工智能技术,导致奴役人的思维能力增强,人类沉沦于机器操纵的对象,而在思想上,也日益受到机器的支配。

　　(二)生产领域:人工智能技术是人单向度意识的内在根源

　　人工智能技术造成了进一步的劳动分工,理性的发展已建立在被数字化计算和能被数字化计算上的合理化原则上进一步确认。劳动过程的日益智能化和数据化,导致了人们这种最终丧失了与产品的接触,人们被分裂成孤立的、抽象的数据,人们成了可有可无、无足轻重的数据。劳动逐渐地数据化和智能化,而人在劳动过程中也逐渐的减少,人们将丧失热情、沦丧意志,人工智能技术将成为压迫人的潘多拉魔盒。

　　马尔库塞认为:“今天的意识形态就包含在生产过程本身之中。”[2](P65)而在笔者看来,现今的社会在一定意义上比先前的发达工业社会更有意识形态。现在人工智能技术对人的思想传输不再靠宣传,而转变成一种生活方式,一种舒适、智能和熟悉个人习惯的生活方式。它阻碍着质的变化,因而就出现了一种单向度的思想,单向度的思想是由制定者和数据的提供者来为系统推进的。它们的话语领域充满了自我实现的美好愿景,这些美好愿景的话语不断的重复,最后形成令人昏昏欲睡的命令和指令。例如,人们只能在现有的人工智能测评数据里进行测评,而这种测评最后会变为,你想要通过,就必须进行现有的单向度的操作模式进行测评,除此之外,并无其他的操作方法。这种单向度的操作模式,导致个人只能局限于单一的操作系统,限制人的行为,抑制个人的意识。

　　机械化的技术向人工智能技术转变,逐渐废除作为单个体的工具,而作为“独立的单位”呈现。人工智能技术凭借着自身的技术在社会中占据合理的地位,使用者和设计者都愈来愈依赖他们所使用和设计的机器,人们只能在辛劳和愚昧的生活中生存。因为现今的人工智能技术不单单可以提高人类对自然的控制能力,创造出丰富的物质财富,形成一种智能化的生活方式,还通过与这种生活方式相适应的思维行为方式,即意识形态,来证明了对人的压抑的合理性。

　　(三)生活领域:人工智能技术淡化人对生活的激情

　　人工智能技术的进步使人们在生活上得到了巨大的满足,但剥夺了批判的意识和对生活的热情。生产力发展越智能,人工智能技术越融入生活的方方面面,为人们提供多样、丰富、智能的消费品,如智能汽车、智慧医疗、人脸识别等。各式的人工智能技术产品被当作生活中的灵魂,把个人束缚在人工智能机制的变化上,对人的控制正是在它所产生的新的需要中建立起来的,使人们在人工智能技术的环境下生活感到更加的舒适。人是在现实生活中追求自身,从各种各样的现实的商品中认识自己,这似乎就是人真正存在、生活的全部意义。而现在的人工智能技术的出现,将现实世界和虚拟世界连接起来,人们只能在虚拟世界里寻找自身的存在,在欲望满足、纵情享乐中维护现状。

　　马克库塞认为,技术本应要为人类的自由解放而服务,但却反而成为奴役人类的工具。人工智能技术的进步促使了智能化程度的不断提高,这种智能化比之前发达工业的机械化不仅减少体力劳动,更为显著的是减少脑力劳动。这样的人工智能技术发展起来的社会是新型的、极权的、不自由的社会,是一个假象的社会,使个人的思维和行为受人工智能技术的驱使。“人性被科技压制,自由意志的丧失、幸福感异化严重阻碍了精神的解放。”[4]

　　人工智能技术作为新的意识形态具有更多的虚伪性和欺骗性。我们现在已经被数据所迷惑,人们现在只相信数据,一切以数据为基础。当人工智能技术渗透到社会生活的各方面,成为一种新的统治手段,淡化人们对生活的激情,就会引发人类生存方式的危机。例如,在于淼指导的电影《来电狂响》中可以看到,每个人都顾着自己的智能手机,已经不关心身边的人和事。虽然这只是电影,但却反映出现实的生活。在当今技术如火如荼的发展中,我们应充分考虑人自由解放的意义,人工智能技术并不能解决一切问题。

　　三、规避人工智能技术对人的压抑性意识的探索

　　通过马尔库塞对发达工业社会技术统治论的批判进行反思,启示我们要将人文关怀作为人的全面发展的出发点,揭露技术意识形态所带来的负面影响。现今,人工智能技术的进步再次造就了一个繁荣的社会,这种繁荣是一个虚伪的繁荣景象,连人的本能的需要也受人工智能技术的压抑。本文借助马尔库塞的理论,通过艺术的解放实现个人的真正解放的可能,希望破除现今人工智能技术异化对人的压制性影响。

　　(一)意识的解放:走出单向度的意识

　　“单向度的人”是指个人丧失了对社会的合理批判,具有单面的思维的特征;而单向度的意识是个人接受生活中的一切,没有任何的反抗和批判的思维,接受社会带来的一切“合理性”准则,从而失去现实的自我。何怀宏老师在《何以为人人将何为——人工智能的未来挑战》中提出:“我们是能够通过我们的主观体验感受到我们的‘灵魂’或者说意识中的‘灵性’的,说人的意识是具有‘灵性’的,是指我们意识的复杂性、飞跃性、创造性。”[5]人的主观意识复杂、多样,但在单向度的社会里,人的思想就变得单一化,即封闭僵化的思想,而“幸福意识”的存在性,变成了一种不合理的存在。

　　马尔库塞对技术异化的解释却不同于马克思,马尔库塞对马克思的异化存在着一定的曲解。马克思认为:“随着资本主义生产的扩展,科学因素第一次被有意识地和广泛地加以发展、应用并体现在生活中,其规模是以往的时代根本想象不到的。”[6](P572)科学技术的发展不仅提供了丰富的物质生活,而且赋予人类改造世界的力量,从顺从自然到挑战自然的转变,逐步推进社会发展的进程。对于马克思理解的科学技术具有革命力量的立场来看,它是体现在对资本主义社会的批判上,认为科学技术是在资本主义社会中抑制人意识的工具。“人工智能和未来劳动的‘智能化’‘无人化’趋势发展,尽管会在一定的历史阶段即资本主义历史阶段使工人遭受新的异化和痛苦,但同时也将为以劳动解放为基本标志的未来共产主义社会创造条件,为工人和全体社会成员腾出大量自由时间创造条件。”[7]因此,在笔者看来,摆脱现今的人工智能技术对人意识的控制,走出单向度的意识,就是实现共产主义。

　　人工智能技术的迅猛发展已经引起人们的重视。人们并不是对人工智能技术的发展持有抗拒的态度,而是对人工智能技术的本质和人的本质进行反思。在现代人工智能技术为人类提供更多便捷的同时,人们不能不思考《未来简史》一书中提到的:“等到无意识但具备高度智能的算法比我们更了解我们自己时,社会、政治和日常生活将会有什么变化?”[8](P361)马尔库塞的单向度理论对现今社会具有极其重要的意义,特别是对人工智能技术对人的意识控制问题具有重大借鉴意义。

　　(二)意识的重构:艺术和意识的交融

　　马尔库塞认为:“艺术将不再是既定机构的婢女,不再是美化其事业和不幸的技巧,相反,它将成为摧毁那一事业的不幸的技巧。”[2](P200-201)马尔库塞希望借助艺术的力量去摆脱技术的控制,实现人的本质解放。但马尔库塞同时指出,如果没有广告和媒体灌输给人们的思想,技术对人的意识控制可能就会被瓦解,但这种抑制性的控制已经成为社会中的一部分,因为这是现实社会中发展所必须的。

　　马尔库塞认为,人们更多的喜欢在一个舒舒服服的不自由的社会中存活,要想逃离技术控制的前景是黯淡的,即“由于人们批评的、否定的、超越性的和创造性的内心向度的丧失,人们似乎根本不会再提出或想到提出什么抗议”。[2](P200)对此,笔者认为,现今的人工智能技术虽然在某种程度上对人的意识具有抑制性,但是在艺术领域,人工智能技术的确无法控制。例如,《阳光失了玻璃窗》这本书是微软小冰参考了519位现代诗人的作品所写的,但微软小冰并没有自我的意识和情感。它不懂得李白“飞流直下三千尺,疑是银河落九天”的那种对祖国河山的热爱;它不懂得杜甫“烽火连三月,家书抵万金”的那种对亲人的想念;它不懂得杜牧那种“商女不知亡国恨,隔江犹唱后庭花”的忧国忧民的情怀。人工智能并不是人,它只仅仅存在于创造,而非艺术,更不懂得人类的心境。既然不懂人类的心境,何谈控制。因此,艺术是人工智能技术无法破除的坎。

　　马尔库塞在对人的意识控制研究中只是对个体的人,没有把个人放在社会关系中来考察,缺失了马克思视域的主要思想,即“在马克思看来,无产阶级意识从现实的社会出发,在社会物质生活中和人类物质交往实践中不断探索追求,本质上把控了社会的发展规律”。[4]因此,人们应该把艺术放在社会的背景中来考察,人类的心境是人工智能技术无法模仿的,也无法学习的。

　　四、结语

　　马尔库塞的理论时刻提醒着人们要避免沦为“单向度的人”。现今人工智能技术的大量发展和运用,给我们带来丰富的物质生活的同时,使我们不得不思考人工智能技术是否正在奴役我们的意识,不得不思考人的本质存在的地位。在一个没有否定、批判和超越的单向度生活方式中,是否是人类存在的最好归宿。答案应该是否定的。马尔库塞的技术理论对人类的发展,特别是对现今的人工智能技术发展有着一种批判性的启迪。

　　当下,“人工智能正在世界范围内以燎原之势蓬勃发展(如谱写歌曲、创作诗集、发明创造、汽车自动驾驶、股票操作、智能监控、生物特征识别等),应用范围仍在不断延伸,未来可能‘无孔不入’”,[9]但我们也需要有防范意识,在精神信仰、哲学思辨、艺术创作等方面应坚守人类独有的特征,做一个具有主体思想意识的人,而不是成为人工智能的附属品。

　　参考文献：

　　[1]霍克海默,阿多诺.启蒙辩证法[M].渠敬东,曹卫东,译.上海:上海人民出版社,2003.

　　[2]马尔库塞.单向度的人:发达工业社会意识形态研究[M].上海:上海译文出版社,2006.

　　[3]马克思.资本论:第1卷[M].北京:人民出版社,1975.

　　[4]夏志远.“异化”的生成与启示:读赫伯特·马尔库塞《单向度的人》[J].前沿,2017,(12).

　　[5]何怀宏.何以为人人将何为——人工智能的未来挑战[J].探索与争鸣,2017,(10).

　　[6]马克思恩格斯全集:第47卷[M].北京:人民出版社,1979.

　　[7]蒋红群.无产阶级会沦为无用阶级吗?[J].马克思主义研究,2018,(7).

　　[8]赫拉利.未来简史[M].北京:中信出版社,2017.

　　[9]季连帅.人工智能法律规制研究[M].哈尔滨:黑龙江人民出版社,2019.