控制论如何影响文学艺术?

控制论如何影响文学艺术?

Embed below code to your site

  就本义而言,“控制论”(Cybernetics)的出现频率在逐渐减少,似已垂垂老矣。像很多宏大概念一样,它也经历了起源、发展、高潮与衰败。在它的巅峰期,它的影响几乎横跨所有学科,其角色颇类似于今日的“人工智能”。不过,落红化作春泥却带来勃勃生机,控制论的词缀赛博(Cyber)摇身一变,已嵌入无数时尚的概念中,例如赛博朋克、赛博格、赛博文化、赛博空间。威廉·吉布森(William Gibson)在他1984年的小说《神经漫游者》(Neuromancer)中,将赛博空间描述为——从人类系统的每台计算机中抽象出来的数据的视像表示,这种对“赛博空间”的定位,对我们如何理解并与数字世界互动产生了深远的影响,也形塑了人们对赛博这一词根的新理解。1自“cyber”单独成义闯荡江湖后,对文化研究者而言,“赛博+”就成了一种有诱惑力的构词召唤:如何为旧领域进行数字化赋能?只需万物加“赛博”即可。不过,可以发现,在这一过程中,“赛博”的虚拟、电子、数字化含更受欢迎,而其通讯、控制、系统等含义却慢慢变得边缘。

  中心与边缘的转换本是理论史发展的常态,就原因而言,却各有不同,且能呈现出不同的思想风景。那么,为什么控制论衰落了?在往日,它是否以及如何在文化场域扮演了核心角色?近些年,人工智能与文学艺术的交互日益增强,文学、艺术与科技的关系再次成为热点,在学界思考相关问题的时候,有一个维度不该被忽视,那正是20世纪四五十年代便已经开始,并持续到20世纪中后期的文学艺术与科技的话语交互,其中,控制论扮演了核心角色,其影响持续到今天。正如斯特凡诺斯·杰罗拉诺斯(Stefanos Geroulanos)等人指出的:“控制论在我们的物质世界、精神世界中无处不在,即使这个名字和它的意义已经衰减。”2

  控制论是何时以及如何浸润到人文思想中的?它又是如何一步步对文学艺术领域产生影响的?这种影响的背后又体现了科技话语的何种传播模式?对今日探讨人工智能与文学艺术的关系有何启发?

  本文将从控制论的基本内涵出发,勾勒一阶控制论(First-Order Cybernetics)对罗曼·雅各布森(Roman Jakobson)、罗伊·阿斯科特(Roy Ascott)等文艺理论家和艺术家的影响,探讨二阶控制论(Second-Order Cybernetics)代表人物冯·福斯特(Von Foerster)等对一阶控制论的反驳,艺术哲学家关于三阶、N阶控制论的思想实验,反思“控制论”在文学艺术领域发挥作用的方式。

  反噬人文:梅西会议与一阶控制论对人文社会科学的渗透

  在日常意义层面,控制论的核心思想并不难理解,简而言之,它强调观察输入和输出的关系,通过反馈调节输入,从而控制输出。然而,从历史渊源的层面讲,控制论的诞生却颇为复杂,源于政治博弈、军事对抗,这是它的横向因果,也源于纯粹的科学推演、哲学思辨,这是它的纵向因果。

  就政治博弈与军事对抗而言,现代意义的控制论发源于第二次世界大战。在战争中,人类需要解决复杂的系统控制问题,以完成军事目的。例如,炮弹腾空之后,该如何完成弹道控制?船舶启航之后,该如何进行通讯规划?不同共同体之间,如何快速传递讯息?这些都促使科学家和工程师开发新的方法。控制论创始人诺伯特·维纳(Norbert Wiener)便曾参与其中,“在这场战争之前,人一直是防空炮台火控系统的重要组成部分。这个脆弱但并不总是同样可靠的部件不得不被火控自动装置取代;这个问题交给了毕格罗和维纳”3。在实践过程中,很多和控制论有关的想法纷纷涌现,例如,当时维纳、朱利安·毕格罗(Julian Bigelow)、沃伦·麦卡洛克(Warren McCulloch)和沃尔特·皮茨(Walter Pitts)注意到,机器和生物体虽然直观上有诸多不同,但在结构和功能上又都表现出相当大的相似性,两者都可以用系统来描述。

  第二次世界大战结束后,崇尚科学的时代氛围为科学家寻求一种普泛性的科技观念提供了有力的支撑。此时,美国历史迎来了光辉的时刻,战争中科学家发挥了重要作用,他们的地位也得到了全世界的肯定。美国与科学两个词被绑定在一起,这给了民众无与伦比的自豪感。科学、技术、工业的强大地基也给了学术讨论一种安全的氛围。除核能之外,新兴高科技得到重视,电子通用计算机等更有效的通讯设备自然也乘势得到了足够的关注。

  冷战背景下的政治组织效率、意识形态争论与控制论构成了观念互动。这同时发生在美国和苏联两个超级大国。在苏联,“一些学者将科学‘意识形态化’,将科学理论翻译成一种充满价值的政治语言,而另一些学者则试图通过在意识形态与所谓的价值中立、‘客观’的科学内容之间划清界限,将科学‘去意识形态化’”4。而在美国,“自动化是否会降低人的独特性,例如思考或学习能力?美国媒体、知识界,还有智库在1950年代中后期相继进入这场讨论中。他们当中,弥漫着一股自我激励和自我说服的进步主义气氛:机器代替人工,劳动力解放出来,有足够的时间培养创造力”5。二战结束,冷战开始,时代风潮中可以嗅到一股末世论的味道,在军事竞争的背景下,扩大控制论研究与政治组织效率以及军事动员能力有着密切的关系,控制二字也由通讯维度扩展到以信息为中心的政治书写上。

  就科学探索与哲学思辨而言,控制论中的诸多思想萌芽于古代,在近代科学演进过程中,系统、反馈等概念渐渐获得了新的思想含义与规范的数学表达,获得了可演算的特性。

  在任何时代,人们都寻求一种对世界、宇宙的系统解释。古代哲学家常构建有关“宇宙秩序”的思想,企图发现世间万物存在一种秩序,它维系着宇宙系统的稳定,而人则需要感应、顺从、遵循宇宙秩序。例如,前现代世界,各民族的传统医学中都有元素平衡的观念,健康被认为是体内各种元素和能量的平衡状态。在中国,阴阳与五行是解释一切的理论地基。虽然在数学语言、量化思维等层面,它们与控制论有颇多不同,但这与控制论中对系统稳定性和平衡状态的关注有一定相似之处。

  而控制论则在现代社会扮演了新的对世界的系统解释的角色。随着近世科学的发展,实验方法的应用,现代数学的进步,可规范化、演算化的系统观渐渐诞生,机器工业得到发展。从蒸汽机到计算机,机器的功能与数字技术、通讯技术的关联也日益紧密。机器与机器间的运转机制自然而然成为重要的研究对象。控制论创始人维纳曾写道:“在复杂的人脑活动与简单的加法器运转之间,存在着大范围的重叠之处。”6此处,维纳强调,人脑与机器在演算化、规范化层面存在着共通之处。维纳将控制论定位为关于机器与动物的通讯与控制的学科,威廉·阿什比(William Ashby)则着重强调机制属性:“控制论也是一种‘机器理论’,但它处理的不是事物,而是行为方式。它不会问‘这是什么东西?’,而是问‘它是做什么的?’”7

  由控制论的政治军事背景和科学演进规律可见,控制论的起源是具有时间跨度的,呈现出复杂的状态。如果追溯控制论的发生,可以列举几个不同类型的起源,构成它的起源族群。

  第一个是维纳和其他学者合作的文章。阿图罗·罗森布鲁思(Arturo Rosenblueth)、维纳和毕格罗在1943年发表了论文《行为、目的和目的论》(“Behavior, Purpose and Teleology”),对控制论思想而言,这是具有开端性质的文章。在西方哲学史和西方科技史中,或许也曾有过与控制论类似的思想潮流,但这篇文章第一次明确地、带有现代科学色彩地表述了控制论的基本思想。

  第二个是梅西会议(Macy

Conferences)。1946—1953年举行了多次的梅西会议,主题是“生物和社会系统中的反馈和循环因果关系”(Circular Causal and Feedback Mechanisms in Biological and Social Systems)。梅西会议的诸多参会者都参与了与控制论有关的议题讨论,成功地扩大了控制论在知识界的认可度和影响力。

  第三个是维纳的著作。1948年,梅西会议参与者维纳写就其经典著作《控制论:或动物与机器的控制和通信的科学》(Cybernetics: or Control and Communication in the Animal and the Machine),正式将这个冉冉升起的新兴领域命名为“控制论”。

  在这一起源谱系中,维纳的理论位置无疑是重要的,但在控制论的传播这一维度下审视,它在人文学科及艺术领域的影响却主要发源于梅西会议。如果说哪一个历史事件是控制论思想和人文学科思想交汇的纽结点的话,那么毫无疑问就是梅西会议。梅西会议并不是一次会议,它是一系列由梅西基金会(Josiah Macy Jr. Foundation)赞助的相关会议的统称。20世纪40—50年代,美国心理学家麦卡洛克等人组织了这一系列会议,吸引了多个领域的研究人员,包括数学家、物理学家、生物学家、神经科学家、语言学家和社会科学家等。梅西会议的目标是促进多学科间的合作,探索生物和机械之间的共同原则。第六次会议时,会议名改为“控制论”,从此梅西会议与控制论紧紧地绑定在了一起。因此,才有学者说:“控制论在获得其命名之前就已经存在了。”8这句话的意思是,虽然控制论的名称诞生较晚,但梅西会议已持续讨论了很久控制论的问题。

  值得大书特书的是梅西会议的跨学科属性,这促进了控制论本身的发展,也开掘了它与其他学科对话的潜能。在控制论思想的指引下,在统计、信息、反馈、调节等概念的参与下,梅西会议的与会者对主导20世纪上半叶的学科范式进行反思和重构,他们的箭靶跨越社会学、经济学、管理学、传播学、心理分析、语言学、文艺理论等学科。控制论被视为一切学术研究的时代答案,如维纳所说:“如果说17世纪和18世纪早期是钟表时代,那么18世纪后半叶和19世纪就是蒸汽机时代,当代则是通讯和控制的时代。”9通过这句话,维纳给他所处的时代定了性:这是控制的时代。兰纳夫·格兰维尔(Ranulph Glanville)则指出:“可以说,在20世纪50年代的科学乌托邦态度中,控制论被视为关于一切事物的新答案。”10格兰维尔的话意味着,无论你从事什么类型的研究,只要你与控制论在同一时代,那么,控制论都会给你的研究以解答。

  例如,弗洛伊德大名鼎鼎的“欲望”观念就曾受到维纳的批判:“在1946年3月的第一次会议上,维纳批评弗洛伊德的性欲概念是不恰当的,并认为‘信息’是描述心理事件更合适的基本概念。当麦卡洛克谈到信息和符号作为精神生物学元素(psychobiology)时,他回应并阐述了这一观点,这些元素具有物理维度,同时可能具有意义,无论是真是假。”11在这一学术讨论中,维纳高举“信息”大旗,企图取代“欲望”在精神分析中的位置,这一观点饶有趣味,且富于启发:欲望是生物学表述,而信息则是控制论表述。

  再如,很多时候,除了科学家的发难,人文社会科学的学者自己也会结合控制论的思想,对学科范式进行反思。人类学家格雷戈里·贝特森(Gregory Bateson)是其中的代表性人物,他的出发点是,社会科学的理论存在不足之处,社会科学也需要解释社会中的因果关系,然而,在这个层面上,人们是否已发现了解释社会因果的有效模型?在一次会议上,他希望维纳与其他科学家能帮助他澄清循环因果关系这个概念,“贝特森还是了解了负反馈和正反馈,了解了负反馈如何以非形而上学的方式解释最终性,且发现了与信息有关的现象的特殊性。此外,他还熟悉了罗素的逻辑类型理论,这在他的脑海中产生了共鸣,他的想法和后发习得有关。很快,他关于社会循环过程的推理也开始包括沟通和自我指涉的问题”12。

  由此,我们可以看到控制论发生影响的基本方式。在控制论会议上,学者们不只讨论通信科学、神经科学、工程技术的问题,也关注心灵、人类、价值、文化等传统人文问题,并形成了相关思考。当然,这是一个漫长的、复杂的博弈过程,梅西会议并没有产生瞬间说服的神奇效果,它经历了多个语言层级的转换和交互,它的影响是熏陶浸染性的。控制论思想为人文学者和艺术家提供了宝贵的材料,但要把它锻造为称手的“兵器”,还需要时间和场所。这也是科技话语对文艺话语产生影响的基本方式——一种需要维度转换的语言传播方式,与此同时,这种转换当然也会带来意义的迁移和改造。

  赛博语言:控制论的科学大同理想

  那么,控制论作为研究方式能否移植到文学和艺术中,如果能,如何完成这一任务?众所周知,控制论鼻祖维纳有两部经典的著作:《控制论:或动物与机器的控制和通信的科学》和《人有人的用处:控制论和社会》(The Human Use of Human Beings: Cybernetics and Society)。前者主打专业,后者主打通俗;前者为数学公式包围,后者为自然语言浸润。在《控制论:或动物与机器的控制和通信的科学》里,作为一位计算机科学家,维纳享受着他跨越文理、古今的思想游戏的快感,他谈到柏格森时间,也谈到牛顿时间……不过,在他的表述中,他本人也是游移不决、举棋不定的,控制论方法是否能为人文社会科学所模仿?可否成为一切学术研究的解决方案?他也持怀疑态度。

  控制论与文学艺术的交汇,需要双向的推动,其一是文学内部的科学倾向,其二是控制论找到自己的中介概念和中介人物。

  文学内部的科学倾向从何开始?控制论影响的发生与“文学科学”的建构有何关系?文学能否或何以成为一种科学?

  在古老的文学研究中,人们喜欢搬运先贤的箴言、权威的话语,并把它们当成立论的出发点。另一方面,人们还喜欢抒发自己的感受,依赖个人的直觉,把个体直觉视作靠近真理的法门。这样一来,文学研究的思维方式就有了鲜明的权威导向与感性特质。

  在现代以来的文学研究实践中,主要出现了两种“文学科学化”的方法。基于考证的文学史是第一条科学路径,它旨在让人们浇灭青春时代孕育的那种文学激情,悬置有关“天下第一”的价值判断,用史实、材料和证据说话,以考证为方式,以时间为体例,以综合前人判断为客观的保证。反对印象式的文学理解,正是文学科学诞生的起点,孔帕尼翁在《从福楼拜到普鲁斯特:文学的第三共和国》中写道:“在这个时期,历史学作为一种‘反文学’的科学,作为一种具有严密的方法,以严格重建事实为己任的专业,确定了自己的位置。”13基于语言的文学理论则是第二条路径,英美新批评、布拉格语言学派、形式主义、结构主义等文学思潮无不体现这一特点。罗兰·巴特在《文学科学化》中写道:“我们有文学史,但没有文学科学……文学科学的模式,显然是属于语言学类型的。”14

  文学科学化的潮流,要求文学的学院建制,要求可公约化的学术话语,而控制论的科学色彩让文学学科看到了这种可能。彼时,科学的地位已毋庸置疑,人文学科也出现明显地向科学看齐的倾向,传统的研究被认为是笼统而模糊的描述,只有采用科学范式,人们才能进入真理殿堂。语言学、行为主义等的发展已经影响了人文学科的话语系统,而控制论则为其开辟了一个新的话语副本,传统人文话语构建的防御体系渐渐分崩离析。事实上,这场旷日持久的“战争”一直影响到今天。

  在那个特殊的历史契机里,在控制论如风一般迅速吹到其他学科领域的过程中,有些概念成为关键开关,有些人物成为关键人物,共同打开了控制论影响其他学科的基础机制的过程。“赛博语言”(cyberspeak)就是这样一个关键概念,这个概念扮演了上文所述的通用语的角色。在控制论会议的参会者名单中,有些名字是文艺理论学者耳熟能详的,其中一个是艾·阿·瑞恰兹(Ivor Armstrong Richards),一个是雅各布森。由此,控制论找到了它在文学艺术理论领域的突破口。

  先从“赛博语言”15这一关键概念说起。“赛博语言”是一种普遍化的语言,它超越日常语言与具体学科术语。学者们在追溯控制论发展史时,发掘了这一隐秘的思潮,将控制论所寻求的这一普遍的跨学科的共通语言称为“赛博语言”16。它的基本诉求是,任何人类思想都有三种表述模型,其一是日常语言,为我们生活所用;其二是专业话语,每个学科基于日常语言,提炼出只属于本学科的抽象表达,这些表达被广泛用在专业学术研究中;其三是赛博语言,它也存在高度抽象化的特点,但可以化约为基本符码,成为各学科的通用语言,具有高度的可复制、可交流的特征。有论者指出:“控制论作为一门跨学科(拉丁语‘trans’–across)的力量在于,它从它所掩盖的许多领域中抽象出具有极大普遍性的模型。这些模型有几个目的:它们使学科之间的复杂关系井然有序;它们为学科内的复杂性排序提供了有用的工具;如上所述,它们为跨学科交流提供了‘通用语’。”17

  举例来说,“思考”“琢磨”“寻思”都是日常话语,在谈到计算机时,我们会说“计算”,而给它们一个可沟通的控制论表述的话,就是“信息处理与重组”,人的思考是“信息处理与重组”,机器的计算也是。控制论的会议号召所有学者、各个学科,无论心理学、社会学、新闻学还是文学,都能够使学科语言控制论化。

  值得注意的是,控制论思想的底层话语是数学,但此处所谓的“赛博语言”并不是数学语言。

  控制论是高度依赖数学的,它的基础思维方式是数学式的,它与诸多数学领域都有着密切的关联。控制论的核心思想便是:将一切还原为机器,将机器抽象为系统,将系统抽象为数字信息,将数学方程的数字信息输入和数字信息输出构建关联,根据数字化的反馈结果调节数字,从而达到更好的数值效果。由于控制论是一种研究系统控制和调节的学科,因此在涉及系统和运动的数字化表达时,它会涉及线性代数的知识,使用矩阵、向量、线性方程组和特征值等概念描述和分析线性系统;控制论需要关注系统的动态变化与演化行为,因此,微积分所涉及的函数的导数和积分等概念可以很好地描述系统内部的变化;系统中的变化呈现出一定的随机性,研究者需要在面对多个变量时将不确定性用数学的范式表示出来,因此,概率论和统计学是非常有用的表示工具,随机变量、概率分布、统计推断等概念都可以被应用于系统建模之中;控制论需要关注研究对象的离散状态和连续动态,因此,差分方程和微分方程也是有效的描述工具;控制论强调获得最优控制的结果,因此,最优化理论被用来解决控制系统的优化问题,以便通过运筹和计算认识到最优输入,系统性能的最优呈现和最优控制策略。

  这些控制论的数学话语影响了一些经济、管理类学科,但并没有影响人文与艺术。翻看各学科教材可以发现,控制论话语的数学版本已经体现在经济学教材中,而文学艺术则并非如此,具体研究中,统计模型与量化方法大规模介入文学艺术研究,还要等到“数字人文”(Digital Humanity)时代的到来,等到这一概念整合旧有资源。

  因此,在人文学科和艺术理论中,控制论发生影响是以丧失部分数学属性而获得新的“迁移模型”的方式实现的,系统化思维、赛博语言等都是产生了重要影响的控制论思想迁移模型。控制论虽然在数学层面有其难度,但在基础理念层面却相对易于理解,在控制论传播的这一过程中,这一模型因此非常便于迁移和类比,为将文学想象为巨大机器的人提供了优质的理论资源。

  具体来讲,雅各布森担任了从控制论思想到文学艺术理论的那个中介点。我们很少在文学艺术批评中直接看到控制论这一名词,但借由雅各布森的转化,控制论思想弥散开来,成为一套适合文学艺术使用的赛博语言。

  迁移模型:结构主义与战后英国艺术

  雅各布森是俄国语言学家、文艺理论家,布拉格语言学派的代表人物,二战时移居、任教于美国。20世纪诸多学科,如语言学、文论、艺术学、哲学,都曾受雅各布森影响。移居美国前,雅各布森已经开始了他对“文学科学”的探索。具体到文学研究层面,他曾声明,他所研究的是“文学性”,而非形形色色的文学作品,他关注的是文学科学,而非文学体验,他自己对诗歌的分析方法也更注重语言的排列组合形式,而非情感与思想内容。他说:“语言学处理语言结构,正如同绘画研究处理图像结构,由此,语言学是语言结构的总体科学,诗学是其内在组成部分。”18雅各布森将语言问题视为一种结构问题,这样一来便可以比拟科学,而且,诗学作为其中一个部分,也可以搭上便车,走向科学坦途。

  可以用如下方式概括雅各布森“科学化”的研究风格。第一,它是一种还原和分析化的理解方式,它是模型化和非反思化的,它是和主体无关的,或者和观察者无关的。这意味着,他的研究不依赖于研究者的主观感受,而是尽可能地客观、理性和科学;第二,它追求清晰、操作性强的表述风格,他非常注重文本的内部机制,相对忽略外部语境;第三,注重可演算化的特点,让诗学成为符号内部的运转与游戏,要暂时悬置政治、经济、人性等因素的介入;第四,对符号、机制、关系的重视超出对研究对象的实体的重视。19

  由此可见,移居美国后,控制论对他的影响并非除旧布新,也有一拍即合之感。除此之外,赛博语言观念也为他的研究注入了新质。1948年,第五届梅西会议举行,雅各布森在会上进行了极前沿的讨论,维纳和香农的控制论、信息论模型被他用来分析语言,于是,语言系统也成为一套可使用信息、符码、反馈、交换的系统。将信息论融入语言学,这是雅各布森晚年工作的基本思路。除了参与控制论会议外,还有诸多证据可以证明雅各布森和控制论的密切关系,例如他与维纳的通信等。

  具体而言,首先,赛博语言作为一种迁移模型,影响了雅各布森学术研究与写作的理念。在自己的工作中,他也开始不断地使用控制论的常用语词,如“信息”“通讯”“系统”等。其次,控制论思潮影响了雅各布森的研究风格,他开始构建一些模型,最著名的是信息传播六要素模型,将信息传播过程分为发信者、讯息、语境、联系、符码、收信者,此模型后来不断被写进各学科的教材中,影响遍及文学、社会学、传播学、教育学等学科。最后,雅各布森本有的语言科学、文学科学信念,经由控制论得以加强。

  由雅各布森这一中介开始,控制论的迁移模型的威力得到发挥。其他重要的结构主义理论家,如列维-斯特劳斯(Levi-Strauss)、雅克·拉康(Jacques Lacan)等,也与控制论有一定的联系。不过,较之雅各布森,他们与控制论的联系更为隐晦。以斯特劳斯为例,二战之后,斯特劳斯与雅各布森,以及控制论代表人物贝特森曾同处一校,时代的气氛、朋友的交谈自然会影响他的思维方式和学术取向;另一方面,结构主义与控制论在反思人文主义的立场上有共同之处,也可谓与时代潮流相汇。此外,斯特劳斯还曾直接评价过维纳的工作,对它在社会科学中的研究潜力大加赞赏。20这些或许都是斯特劳斯的著作与控制论思想存在精神上的共通性的缘由。

  除了雅各布森等关注文学科学的学者和结构主义理论家,理查德·汉密尔顿(Richard Hamilton)、阿斯科特也是受到控制论影响的文艺从业者。作为艺术家与策展人,他们的实践产生了广泛影响。如果说控制论对雅各布森的影响是直接迁移模型,那么,对阿斯科特等人的影响可谓间接迁移模型。虽然阿斯科特等人与控制论科学的数理层面并无互动,甚至不像雅各布森那样迁移使用了控制论的思维模型,但控制论的表层话语充满了可以激发想象力的概念,而这些概念迁移到艺术领域,激发了艺术家与策展人的灵感。阿斯科特称战后英国艺术时代为“对话的时代”(an age of dialogue)21,对话的对象正是科学,尤其是控制论。这主要体现在如下两个层面。

  第一,控制论思想重构了新一代艺术家的艺术范式。爱德华·山肯的概括非常精到:“控制论为这些艺术家和其他欧洲艺术家提供了一个构建视觉符号和关系系统的科学模型,他们试图通过利用图解和互动元素来创造具有信息系统功能的作品。”22一些控制论理念和当时艺术家的观念、策展人的理念产生对话,从而影响了当时的艺术事件。战后英国的展览有一些口号特别有代表性,例如“元形式”(metaform),再如“机械占据主导”,展览中的艺术品都在沟通视觉形式与科学理念,他们当时认为,艺术不管多么复杂,最后都可还原为自然物理规律的结果,在自然中或生活中得到相关图像,只要符合自然规律的,把它机械化、规律化,就会呈现出这样的效果。1951年,理查德·汉密尔顿的展览“生长与形式”(Growth and Form)产生了广泛影响,他的理念便是促进生物形式、机械形式与艺术的对话。与展览伴随的研讨会在伦敦当代艺术学院举行,也为生物控制和艺术控制的讨论提供了机会。讨论中的一些看法颇能代表当时艺术家、跨学科人士的理念:“形式、配置、模式和结构的共同概念是有序复杂性的概念,它是由某种统一的原则控制的多重性。因此,我们的主题是在物理学、生物学、心理学和艺术的复杂过程中实现空间形式的统一。”23之后,随着计算机技术的发展,控制论开始与计算机技术合流,艺术创作的计算机介入与人机之别成为被关注的问题。1968年,“赛博珍奇展”(Cybernetic Serendipity)在伦敦举办,这是一次计算机艺术展,是“控制论艺术”的一次集中呈现,这时的控制论艺术一定程度上与计算机艺术合流,是之后人工智能艺术的先导。

  而对著名控制论艺术家阿斯科特个人来说,控制论还给有想法的新锐青年艺术家提供了弯道超车的机会。阿斯科特探索控制论的动机是复杂的,他不仅看到这个领域为他的艺术创作提供了新的视角和工具,而且也认识到了这个领域可以帮助他在竞争激烈的艺术界独树一帜。在众多追求创新和独特的艺术家中,阿斯科特选择成为“控制论的人”,这个决定反映了他的自我定位、野心和追求。24总的来说,阿斯科特的探索不仅表明了控制论在艺术创作中的潜力,也反映了艺术家如何通过独特的研究领域来塑造自己的艺术身份和声誉。

  第二,控制论思想影响了艺术教育家的教育理念。20世纪50年代末和60年代的艺术教育领域经历了许多重大变化,这些变化在很大程度上影响了艺术和设计教育的方式。一方面,艺术和设计教育开始变得更加正规化,得到了更多的认可和尊重。很多国家开始实施一系列政策改革,赋予艺术和设计学科更高的地位,并使这些学科的培训得到学位的认证。这种趋势反映在艺术学院的创建、艺术和设计课程的发展以及艺术学位的授予等方面。另一方面,这个时期也见证了许多新的和实验性的教学方法的出现。艺术教育者们开始探索更自由、更创新的教学方式,以鼓励学生发挥创造力和独立思考的能力。这些变化同时反映了艺术和设计教育的一种拉锯战,既要满足日益正式化的教育体系的要求,又要保持其开放、创新和实验性的特质。这种挑战在今天的艺术教育中仍然存在。

  20世纪50—70年代,艺术学校出现了一种倾向,即利用控制系统、监视和行为主义的教学方法。这样的方法,往往强调系统和规则,而不仅仅是个体的创造性表达。这不仅在艺术教育中产生了深远影响,而且在更广泛的教育和社会环境中也引发了重要讨论。行为主义教学法是基于行为主义心理学,它强调可观察的行为和反馈,而不是内心的心理过程。在艺术教育中,这可能表现为对技术熟练度和制作过程的强调,以及对作品的明确标准和期望。控制论则鼓励将教育看作是一个由相互关联的部分组成的系统,在这种情况下,教室不仅仅是一个教师向学生传授知识的空间——它是一个动态的系统,信息向多个方向流动,系统中一个部分的变化会影响到其他部分。这些思潮都突出了教育教学中的“控制”之维。

  具体到阿斯科特,除了艺术家的身份外,阿斯科特也是一位艺术教育家,他认为,控制论理念可为艺术教育提供借鉴。他在很多英国艺术学院,主导艺术教育时,特别强调机械化、控制化的状态。1961—1967年,阿斯科特构建了英国艺术教育史上最颠覆性的教学模式“基地教学”(groudcourse)。在该教学方法中,有许多“干预”活动,如在项目进行中撕掉学生的作品,或者将学生置于密闭空间中等。他将控制论、行为主义和协同工作的元素融合在一起,构建了一个完整的创新输出系统。显而易见,这有很大的伦理挑战,过于前卫,阿斯科特曾因其教育理念遭到单位解职。

  在梳理了控制论的艺术影响后,我们可以发现,控制论以迁移模型的方式影响了艺术家、艺术理论家与教育家。然而,它与艺术的本性难免存在诸多不相符合之处,最为明显的是参与者作为主体的缺失,这也是结构主义、英国控制论艺术、控制论教育遭到诸多抵制、非议和挫败的原因。而这,也正是二阶控制论诞生的起点。

  无法控制:一阶、二阶控制论断裂的艺术影响

  客体化、技术化、数字化、中性化,控制论虽提供了方案,却也动摇了艺术的地基,视其为文艺的福音者有之,视其为灾难者亦有之。话语场的权力此消彼长,隐忍的意念终会涌现。在控制论领域也是如此,控制论产生影响的同时,也受到质疑,其中最具代表性的是一阶控制论话语与二阶控制论话语的分裂。实际上,在科学和工程从业者眼中,只有一种控制理论,无所谓一阶、二阶、三阶的分别,它们演化为和自动化、控制理论有关的大学教材。不过,在人文社科学者看来,控制论可以被划分为一阶、二阶乃至N阶的想法非常有吸引力,他们认为,在控制论应用到更广泛的学科领域时,这一范式理应有所改变,自我革新。

  一阶控制论与二阶控制论有何区别?简而言之,一阶控制论主要关注客观系统本身,它假设被观察对象是自足的客体。它主要关注系统本身与周遭环境的联动与反馈,以收集参数,优化控制。一阶控制论假设系统独立于观察者而存在,观察者只在系统外部推动、监测、干预。与其相反,二阶控制论将观察者纳入其中,作为观察者的人类主体不再是与系统无涉的,观察者与被观察系统在持续不断地彼此作用,相互影响,“自指”“观察者介入”等概念开始进入讨论。二阶控制论代表人物福斯特等认为,观察者的行为会影响观察对象的状态、反应,这种相互影响正是系统的重要特征。“在一阶控制论的情况下,观察者与系统和目标之间有一个关键的边界(在这里使用的术语中),在二阶控制论的情况下,没有这样的边界。”25

  假设我们有一个系统S,观察者O,以及观察者的行为B。在一阶控制论中,系统S的行为不依赖于观察者O或其行为B,只依赖于内部参数群P。我们可以将此表示为:S=f(P)。然而,在二阶控制论中,系统S的行为是依赖于观察者O和其行为B的。我们可以将此表示为:S=f(P,O,B)。

  勒菲弗尔曾绘图26对二阶控制论进行形象的说明(下图),观察者需要不断意识到体内的观察者,永远观察观察者本身。

  正因如此,牛顿的物理学可以类比一阶控制论,爱因斯坦的物理学可以类比二阶控制论。27这是一个有启发的比拟。在很多研究者眼中,一阶控制论是还原论式的,是牛顿以来的自然模型的演化,是盛行的现代科学的“简单化”和“还原论”模型,它需要更新自己的范式,迎接新的版本,“在更简单的系统中,控制论的方法,比较起那些早已为人所知的方式,有时并没有明显的优势。主要是当系统变得复杂时,新方法才显示出其威力”28。

  20世纪60年代,这种对一阶控制论的反思已经开始,分别在苏联和美国发生,差别在于前者是结构导向的,后者是计算导向的。29冯·福斯特的《关于控制论的控制论》(Cybernetics of Cybernetics)是这一领域的经典文献,他指出,“任何说的话都是观察者说的”,“所说的一切也都是对一个观察者说的”。由此,他强调了系统之外的人类主体的重要地位。二阶控制论反思了传统的“客观性”观念:“我想到了我们认知盲点的另一个根源,这是我们西方传统中的一种特殊的错觉,即‘客观性’:观察者的属性不应列入对其观察的描述。但我要问,如果观察者没有允许描述的属性,那么怎么可能在一开始就做出描述呢?因此,我谦虚地提出,所谓的客观性是无稽之谈!”30就此,两种控制论得到区分:“被观察系统的控制论,可以认为是一阶控制论;而二阶控制论是观察系统的控制论。”31

  作为对一阶控制论的反动,二阶控制论在诞生时便带有鲜明的人文与艺术色彩,它探索着主体与客体系统的互动关系问题,这正是文学创作与艺术交互的核心问题。具体而言,二阶控制论话语对戏剧、建筑、设计等诸多领域都产生了影响,与之相比,二阶控制论对传统自然科学和工程科学反而影响较小,很多学者甚至不承认二阶控制论在这些领域产生过影响。

  如果说冯·福斯特是二阶控制论的理论旗手,那么,格兰维尔就是二阶控制论的实践先锋。格兰维尔发现了控制论与设计的互通之处,这构成了二阶控制论与设计艺术、建筑艺术的密切关联。他指出:“控制论是设计的理论,设计是控制论的实践。”32在此处,控制论与设计成了两位一体的存在,一方面,控制论是具体艺术设计的理论化身,另一方面,控制论理论的实践维度被设计包揽。二阶控制论对观察者、反馈、互动的强调融入了诸多艺术实践,例如,在参与式设计中,设计师不再是唯一的设计决策者,用户和其他相关者也参与到设计过程中,诸多观察者协同参与了艺术过程与艺术产品的构建。除此之外,还有其他控制论代表人物曾参与到设计艺术的实践中:阿什比在乌尔姆设计学院(Hochschule für Gestaltung)授课,讲授二阶控制论与设计艺术的关系;戈登·帕斯克(Gordon Pask)从20世纪60年代开始越来越多地参与到建筑艺术中,有具体的建筑项目,也为相关著作贡献文章。

  如果采用宏观的视角,平行地观察人类思想史的演进,可以发现,二阶控制论与20世纪法国艺术哲学思想也多有印证。而一阶、二阶控制论的断裂,又恰好对应于法国理论内部的话语场对立,从结构主义到后结构主义的转变和一阶控制论到二阶控制论的转变有共通之处。一方面是主体地位的重新唤醒。不过,区别在于,观察者仍是科学导向的主体,以研究和获取真理为目的,而法国理论更重视主体的情感维度和生存维度,旨在唤醒一种尼采式的激情。不过,在大众传媒层面,二者易于合流。例如,吉尔·德勒兹(Gilles Deleuze)的“游牧式主体”以人类历史上的游牧民族为隐喻,构建一个非辖域、非中心化、流动的主体形态。因为游牧主体一直在逃逸中,它无法被控制,这使得大众传媒层面的德勒兹思想天然与控制论思想产生关联。

  第二方面是对不可控性的强调,这一点更为重要,德勒兹、雅克·德里达(Jacques Derrida)、米歇尔·塞尔(Michel Serres)、埃德加·莫兰(Edgar Morin)、布鲁诺·拉图尔(Bruno Latour)等思想家都或多或少与这种思想有所关联。以德里达为例,他在鼎鼎大名的《人类科学话语中的结构、符号与游戏》(“Structure, Sign and Play in the Discourse of the Human Sciences”)一文中,对人文科学中的结构主义进行了批评。他认为结构主义方法试图强加一个稳定的、中心化的结构,从而忽视了文本的复杂性和多元性。“中心的存在”是一种对结构的假设,即结构总是有一个固定的中心,这个中心决定了结构的意义和方向。然而,德里达认为这个中心实际上是不稳定的,总是被推翻和取代。33德里达在这篇论文中还引入了“游戏”的概念,这是对文本的理解,即文本不是固定的,而是处于不断的变动和游戏中。

  德里达和福斯特在20世纪60年代提出了相似思考。尽管我们无法像对待雅各布森或斯特劳斯那样,清晰地绘制出他们与控制论的实证性关联,但哪怕德里达与福斯特的相似只是巧合,这也应看作是在人类整体历史演进的同一个环节、在同一种思维范式下,对同样的时代问题给出了相似的回应——一种跨越领域的“秘响旁通”,他们分享着同样的历史经验和科学前理解,使用不同的话语构建了类似的思想结构。人文学科与自然科学在某个历史阶段,各自顶级的思想者是否分享着类似的深层逻辑,是个非常有意思的问题。

  三阶到N阶:控制论过时了吗?

  控制论如果有一个人格化的形象,从一阶控制论到二阶控制论,“他”在回忆自己的过去时,会觉得自己的生命是一个不断被切割、磨损、分散的过程。因为“他”的目的是追求完美,追求科学和数学的纯洁性。这种美好向往伴随着科学自信的弥漫,伴随着对一切学科科学化的向往,曾赢得无数赞许。但是,当这种许诺无法实现,它就开始经受磨损与切割,强大的人文传统和艺术观念开始反噬它本身。

  控制论并非止于二阶,就笔者涉猎所及,已有学者深入论述三阶控制论,也有学者提及四阶控制论,这些控制论思想都基于对一阶控制论“客观之系统”的反思。关于三阶控制论,学者有不同的切入点,但其共性在于对关系、信息传递、循环、生态系统的强调,例如约翰·内森指出:“三阶控制论……指的是观察者之间的关系。”34而海尔斯曾总结控制论从一阶到四阶的相关研究和历史演进:“1945年至1960年的一阶控制论,1960年至1985年的自创生论或二阶控制论,以及1985年至1995年的三阶控制论,现在已经发展到第四阶段,在我的新书《我的母亲是一台计算机:数字主题和文学文本》(2005)中,我称之为计算体制。”35海尔斯等相关学者的思考,实则融控制论与新技术哲学为一炉,把控制论与后人类嫁接为一,这也是这个时代技术哲学著作的常见表述方式。

  笔者认为,作为思想实验,它们无可厚非;作为话语类型,它们却已经失效。

  不妨关注今日“控制论”呈现的几种话语形态——我们可以发现,和控制论相关的话语明显地分裂为三个板块。

  第一个板块是数学板块,它们仍旧是自动化、工业工程等专业的学习对象。翻开维纳的《控制论》、机械工程相关的《现代控制理论》或和系统科学相关的《非线性系统与混沌》,涌入眼帘的是如下词汇:动力学、分型、线性、非线性、不动点、二维流、耦合振子、洛伦兹方程……对传统人文学科和艺术学科的从业者来说,它们显得僵硬、冰冷而陌生。

  第二个板块则是科幻板块与后人类哲学板块。翻开和科幻小说、视觉艺术、后人类哲学有关的书册或文章时,或者说,翻阅广义的控制论文化著述时,我们看到的则是如下词汇:黑箱、反馈机制、混沌、监控社会、赛博格、后人类、异化、冷战、科幻……一种熟悉的感觉取代了之前的冰冷和陌生,科技批判带来的热情踊跃起来,技术哲学带来的亢奋又占据了我们,慢慢地,《银翼杀手》(Blade Runner)、福柯、末世论的话语资源开始在脑海中编排起来。在这个层面,控制论一定程度上成为涉及系统、机械、技术与人的关系研究的代名词。

  第三个板块是历史板块。控制论和第二次世界大战、冷战都有着密切的关系,也是发掘美国学术史的有效的切入点。通过控制论的入口,可以很好地勾勒出美国早期通信技术的研究史,人文学科、社会科学与自然科学的互动史,20世纪中叶诸多伟大科学家的交往史,以及诸多学术概念的诞生与变迁史。对中国来说,20世纪80年代,“老三论”(系统论、控制论、信息论)曾引发学术方法论的讨论风潮,与尼采、萨特的思想一起,见证了改革开放初期人们对西方科学、人文新思想的关注和渴望。因此,很多学者乐于谈论它的历史浮沉。

  数学、科幻与科学史,这三重维度的话语展现了控制论思想的基本悖论:狭义的控制论其实与人文学科和艺术学科毫无关联,它如今已经融入诸多理工科的基础教学中;但广义的控制论主要为人文学科和艺术学科所关注,它一方面构成了科幻小说与后人类哲学的永恒主题,一方面也提供了知识考古学的有趣对象。也就是说,控制论虽然在理工科内部依然进化着、发展着,但没有社会文化层面的更广泛的影响,在人文艺术领域,控制论衍生出的诸多概念却借由科幻、技术哲学等文化领域,呈现出广泛播撒、热度不减的态势。

  如果仔细审查第二个板块,那么,在科幻与哲学的表述中,具体科学技术的细节可被忽略,控制论成为一个巨大的符号,它似乎已经与技术哲学同义,杂糅了法国理论、量子力学、二阶控制论等话语资源。既然如此,笔者为什么又认为它们是失效的呢?

  第一,控制论的时代已经过去。此处不妨重新提及阿尔都塞的“意识形态作为人与现实的想象性关系”36的观念,一阶控制论之所以引发广泛的风潮,恰好因为它处在那个时代想象性关系的核心位置上,无论是战争的恐惧、学术科学化的风潮、政府组织与企业组织的统计化、通讯技术与计算机技术的发展,都需要一个强有力的理论形态,在这一过程中,文学与艺术也毫无疑问地受到了影响。而二阶控制论在学术界内部产生了一定的影响,则是因为科学信仰因人工智能寒冬、冷战博弈等遭遇了挫败,人们开始怀疑一阶控制论的位置与潜能。

  第二,三阶控制论和N阶控制论的对手是诸多新的科技衍生话语,后者更有竞争力。我们所面对的时代最为核心的变化在于科技的指数式进步,在这样的情境下,使用旧理论体系去谈论科学与人文学科、文学艺术的关系时,会觉得存在某种程度上的鸿沟。相比之下,科技体系内部的自生哲学反思显得更加具有生命力,在那个场域里,有着庞大的论文体系、快速反应的论文网站、丰富的科学博客与论坛、复杂多元的视频传播平台。如今,人文学者也在谈论人工智能的“透明”“人机共生”的创造力等,其中很多都是科学界话语的外溢。它们无疑比“控制论”更能反映新的关系。

  当然,回顾这段控制论与艺术的交互史,仍能给我们很大的启发,它提示着人们跨学科会议与跨学科交流的必要性、人文学者自我革新与突破的必要性、艺术家广泛获取灵感的必要性等。

  第一,“跨学科对话”的历史镜鉴。控制论的发展历程是一个典型的跨学科对话和交融的例子,它展示了不同学科间对话的巨大潜力。这个理论并非在某个学科中孤立形成,而是在工程学、数学、生物学、心理学等许多领域的交叉碰撞中产生的,它涉及信息、反馈、控制等一系列概念,这些概念在不同的学科领域中都有广泛的应用。

  第二,人文学科的话语资源库重构。跨学科对话促进了学术发展,推动了新理论和观念的产生。人文社科学者可以从科学家那里获取话语资源,以更深入、更全面的方式理解人文与社会现象。像曾经的社会学家利用控制论中的反馈概念,来理解社会系统的动态变化和稳定,如今的文学理论家可以借鉴信息理论,来研究文本的生成和解读等,也可以像德勒兹等理论家一样,以数学概念为灵感,重构理论话语。

  第三,艺术家从科技发展中汲取灵感的可能性。科技发展也为艺术家提供了无尽的创作灵感。艺术家可以利用最新的科技成果,创造出前所未有的艺术形式和表达,比如数字艺术、媒体艺术的新实验等。科技不仅为艺术创作提供了新的工具和材料,也提供了新的观念和视角。例如,控制论中的自动化和反馈概念,已被许多艺术家用来创作互动艺术作品。

  也许控制论的意识形态属性已经被人工智能、元宇宙取代。但它背后的历史细节仍值得回顾与反思,作为主导意识形态的控制论必然会丧失其地位,但作为“历史镜鉴”,它将长期在文学艺术理论领域发挥功用,也许人工智能与文学艺术的互动方式,仍将围绕着直接迁移与间接迁移这些基本的历史法则进行。一言以蔽之,尽管控制论的躯体已然磨损,但控制论的幽灵却仍在游荡。

  参考文献

  1.Ottis, Rain and Peeter Lorents, “Cyberspace: Definition and Implications”, in International Conference on Cyber Warfare and Security,Reading: Academic Conferences International Limited, 2010, pp.267-270.

  2.Geroulanos, Stefanos and Leif Weatherby, “Cybernetics and the Human Sciences”, in History of the Human Sciences, 1(2020), pp.3-11.

  3.Verveen, A.A, “In Search of Processes: The Early History of Cybernetics”, in Mathematical Biosciences, 11 (1971), pp.5-29.

  4.Slava, Gerovitch, “Mathematical Machines' of the Cold War: Soviet Computing, American Cybernetics and Ideological Disputes in the Early 1950s”, in Social Studies of Science, 2(2001), pp.253-287.

  5.吴畅畅:《维纳与控制论:在人文主义和冷战政治之间》,《东方学刊》2020年第2期。

  6.Norbert, Wiener,“Cybernetics”, in The American Academy of Arts and Science, 7(1950), pp.2-4.

  7.Ross Ashby, An Introduction to Cybernetics, London: Chapman & Hall Ltd, 1957, p.1.

  8.Bernard Scott, “Second-order Cybernetics: An Historical Introduction”, in Kybernetes, 9/10(2004), pp.1365-1378.

  9.诺伯特 · 维纳:《控制论:或动物与机器的控制和通信的科学》,王文浩译,商务印书馆2022年版,第63页。

  10.Ranulph Glanville, “The Purpose of Second-Order Cybernetics”, in Kybernetes, 9/10(2004), pp.1379–1386.

  11.Steve Heims, The Cybernetics Group, Cambridge: The MIT Press, 1991, p.146.

  12.Leone Montagnini, “Looking for ‘Scientific’Social Science: The Macy Conferences on Cybernetics in Bateson's Itinerary”, in Kybernetes, 7/8(2007), pp.1012-1021.

  13. 安托万 · 孔帕尼翁:《从福楼拜到普鲁斯特:文学的第三共和国》,龚觅译,生活 · 读书 · 新知三联书店2023年版,第30页。

  14. 罗兰 · 巴特:《神话修辞术 · 批评与真实》,屠友祥、温晋仪译,上海人民出版社2009年版,第268页。

  15.“cyberspeak”如何翻译是个颇麻烦的问题,若将其译为“赛博语言”,容易和今日的虚拟含义的赛博产生混淆,它包含着“可控语言”“像控制论那样使用语言”的意思,但译为“控制论话语”“可控语言”,也有不足之处。由于汉语学界已有译为“赛博语言”的先例,贸然改变译法容易混淆视听,因此,本文采取汉语学界既有的翻译,以“赛博语言”称之。

  16.Slava Gerovitch, From Newspeak to Cyberspeak: A History of Soviet Cybernetics, Cambridge: MIT Press, 2002, p.98.

  17.Bernard Scott, “Second-order Cybernetics: An Historical Introduction”.

  18.Roman Jakobson, Language in Literature, Massachusetts: HaRvard University Press, 1987, p.63.

  19.关于雅各布森一般观念与贡献的介绍,可参见Steven Caton, “Contributions of Roman Jakobson”, in Annual Review of Anthropology,16(1987), pp.223-260。

  20.Céline Lafontaine, “The Cybernetic Matrix of French Theory”, in Theory, Culture & Society, 5(2007), pp.27-46.

  21.Sloan Kate, Art, Cybernetics and Pedagogy in Post-War Britain: Roy Ascott’s Groundcourse, New York: Routledge, 2019, p.1.

  22.Edward Shanken, “Cybernetics and Art: Cultural Convergence in the 1960s”, Bruce Clarke, Linda Dalrymple Henderson eds., in From Energy to Information: Represention in Science and Technology, Art, and Literature, Stanford: Stanford University Press, 2002, pp.255-277.

  23.Sloan Kate, Art, Cybernetics and Pedagogy in Post-War Britain: Roy Ascott’s Groundcourse, p.35.

  24.Ibid., p.11.

  25.Ranulph Glanville, “The Purpose of Second-Order Cybernetics”, in Kybernetes, 9/10(2004), pp.1379–1386.

  26.Vladimir Lefebvre, “Second Order Cybernetics in the Soviet Union and the West”, in Power, Autonomy, Utopia: New Approaches toward Complex Systems, Boston: Springer US, 1986, p.128.

  27.Ranulph Glanville, “Second Order Cybernetics”, in Systems Science and Cybernetics, 3(2002), pp.59-85.

  28.Ross Ashby, An Introduction to Cybernetics, p.5.

  29.Vladimir Lefebvre, “Second Order Cybernetics in the Soviet Union and the West”, p.130.

  30.Von Foerster, Understanding Understanding: Essays on Cybernetics and Cognition, Berlin: Springer Science & Business Media, 2003, p.285.

  31.Von Foerster, Understanding Understanding: Essays on Cybernetics and Cognition, p.25.

  32.Ranulph Glanville, “Try Again. Fail Again. Fail Better: The Cybernetics in Design and the Design in Cybernetics”, in Kybernetes, 9/10(2007), pp.1173-1206.

  33.Derrida, J., Writing and Difference, trans. Bass, A., London: Routledge, 2001, p.352.

  34.Jon-Arild Johannessen and Arnulf Hauan, “Communication—A Systems Theoretical Point of View(Third-Order Cybernetics)”, in Systems Practice, 1 (1994), pp.63-73.

  35.Katherine Hayles, “Unfinished Work: From Cyborg to Cognisphere”, in Theory, Culture & Society, 7-8 (2006), pp.159-166.

  36.阿尔都塞:《论再生产》,吴子枫译,西北大学出版社2019年版,第353页。

www.haizi.name

发现了错别字? 请选中并且点击Ctrl+Enter发送!

 

 

孩子、家庭、社会。

登陆投稿

免费邮件订阅

输入您的电子邮件到下面的空格中,点击订阅,关注《海之子》的最新信息。