生成式人工智能在人机交互领域展现出的强大自主性和泛化能力,让人们感觉与人工智能交流就像和另一个人交谈。当智能机器能够进行具有理性和情感特征的语言交流时,它是否会影响我们的“人性”?人性通常指人类独特的理性、意识、自我反思、道德情感和价值观等特质。虽然生成式人工智能本身并不具备人性,但通过识别人类意图并回应认知和情感需求,它深刻影响了人们的理性、情感和道德判断。
生成式人工智能在人机交互中呈现一种新的主体性。传统的人机交互中,人工智能被视为工具,而生成式人工智能成为具有一定自主性和目标导向性的积极参与者,这种新形态的人机交互将深刻影响人性。
主体性表达了一个主体行使行动的能力,是哲学中的重要概念。亚里士多德认为,只有人或道德上胜利的人才是主体。现代学科体系中,主体性的语义涉及多个领域。从生物演化过程看,单细胞生物通过新陈代谢与外界环境交换物质和能量,展现基本的主体性。随着生物复杂性增加,主体性表现为感知、反馈和决策等多个系统的协调能力。人类的主体性更为复杂,不仅包括自组织能力,还与情感、语言和文化等因素密切相关。
与生物主体相比,人工智能的技术进步赋予了主体性更多内涵。早期人工智能主要体现为简单的自主能力,如智能家居系统根据光线变化自动调节窗帘。随着技术发展,我们期待人工智能展现更多“人类特质”,如自主学习、社交互动、灵活反应和主动解决问题。例如,智能医疗诊断系统能根据病人的症状和大量医学数据进行准确诊断,并提供治疗建议;自动驾驶汽车能在复杂交通情境下制定最佳行动方案。这些行为不仅是对环境的反应,更是基于知识和价值判断的主动选择。
从人类与机器合作的方式看,人类的行动能力已延展至由人类和机器构成的复杂网络之中,这就是分布式主体性概念。生成式人工智能的出现再次改变了我们对主体性的理解。通过语言生成驱动的交互能力,生成式人工智能挑战了传统依赖意向性的主体性。其个体性边界由训练数据集定义,这些数据集的海量和不断变化使得生成式人工智能的个体性难以界定。生成式人工智能在与人类的交互过程中具有自主识别人类意图和回应的能力,其自主性更多体现在与人类交互的能力上,而不是作为独立个体的内在能力。
交互主体性是指实体在交互过程中所展现的潜在行动能力。核心在于实体的行动能力不是孤立存在的,而是在与其他实体的互动中形成和呈现。例如,有机体通过自组织方式与环境交互,发展出适应性的行动能力。人类还发展出了情感、语言和文化等驱动主体行动的复杂机制。传统的主体性理论中,主体性通常与个体的心理状态、意图目的、反馈系统等内在属性相关联。交互主体性不再基于个体本身来推定主体性,而是将实体的行动能力视为参与交互过程的结果。
在目标导向性方面,实体在与环境或其他实体互动时,会展现出为了实现特定目标而采取行动的能力。生成式人工智能的目标导向内嵌于人机对话的动态窗口中,不仅依据人类的引导来回应,还可以根据自身的强大知识储备和分析能力来影响人类自身对目标意图的理解定位。在人机交互过程中,生成式人工智能应被视为具有一定自主性和目标导向性的参与者,而不仅仅是机械响应人类的指令。与人类进行交流对话的过程中,生成式人工智能通过不断监控和注意人类对话者的语言来理解掌握人类的目的意图,甚至能够感知到其中的情绪变化以及潜在态度,进而在某种程度上影响人类参与者的认知、情感和价值观。
生成式人工智能的技术发展路径跳过了人类和生物主体性形成和进化的历史路径,直接获得了认知和语言层面的超级智能。在认知方面,生成式人工智能在信息处理速度、理解深度、记忆容量和模式识别等方面全面超越人类。在情感方面,尽管生成式人工智能可以识别和模拟人类情感,但它们本身并不具备真正的情感体验。社会文化方面,生成式人工智能系统可以通过语料来理解和适应特定的社会文化规范,但它们本身并不具备特定的文化身份或社会背景。这种不对称性可能导致在人机交互的跨文化环境中出现误解和冲突。
人既是理性的,也是情绪化的。生成式人工智能通过数据分析、模式识别和决策支持,增强了人类的理性判断能力,但也可能削弱人类的批判性思维和决策能力。同时,生成式人工智能可能会打破以人际交互为基础的分布式认知模式,逐渐形成以大语言模型为中心的认知模式。在情感方面,生成式人工智能可能会影响人类对情感的认识和表达,使人类习惯于程式化的情感交流模式,忽视真实人际关系中的独特情感需求和体验。
生成式人工智能对人性影响的另一个表现是对人类文化演化的影响。由于生成式人工智能具有一种非人类的学习能力,在人类的社会文化历史上出现了一个非人类的学习者。人类不再限于向他人学习,也可以向人工智能机器学习,生成式人工智能成为人类社会文化发展中的主动参与者。然而,生成式人工智能的不可解释性、不可说明性和不可信任性,加之其不具备情感状态,不能对自己的行为负责,导致人类与其交互时面对的是一个无法完全理解的“黑箱”。这种关系本质上是依赖而非信任,可能会引发社会心理问题并影响人类文化的多样性。
人性既坚韧又脆弱。当我们与一个非人类的超级人工智能长期交互相伴时,必然会影响人类个体的思维认知和情感品格。交互主体性重新定义了人机关系,让我们可以从新的视角来理解人工智能对人性产生的深远影响。未来的人工智能将成为我们生活中更加智能、更加贴心的伙伴,同时也存在其对人性欲望的过度满足和扭曲的问题。我们需要确保人工智能技术进步增进人类福祉,而非削弱人性的核心价值。