最近几次AI产品评审会开下来，我有一个越来越强烈的感受：我们讨论伦理问题时，用的语言和框架几乎全是西方的——权利、隐私、公平、透明。这些概念当然重要，但总觉得和中国的工程师、产品经理之间隔着一层什么东西。直到有次内部复盘，一位做算法的老同事突然说了一句：“这不就是义利之辨吗？”整个会议室安静了几秒，然后大家都笑了。这句话一下子打开了一个我一直想碰但没敢碰的方向：如果把中国自己的思想资源拿过来，跟当下的AI伦理难题做一场真正的对话，会是什么样子？于是就有了“AI中国故事”这个系列，第一站，我选了孟子。不是因为他最好讲，恰恰因为他最难讲。性善论、义利之辨、浩然正气，这三个概念每一个都够吵上几千年，但它们恰好又都指向了现代AI最焦虑的三个问题：算法的价值原点在哪里？商业利益和社会责任怎么排序？长期抗压的道德能力能不能被设计出来？这篇文章就是我从“对话孟子”这个项目里整理出来的完整思路、设计方法、实操路径和踩坑记录。它不是我写完之后才总结出的理论，而是我在动手做一个AI伦理对话系统的过程中，被孟子逼着重新思考了一遍技术方案后留下的笔记。1. 项目整体设计与思路拆解1.1 为什么偏偏是孟子，而不是墨子或者韩非子我在规划这个系列的时候，候选名单其实很长。墨子讲“兼爱”，听起来和AI的普惠原则很像；韩非子讲“法术势”，似乎在暗示算法治理的冷酷逻辑。但最后我还是选了孟子，原因有三。第一，孟子是中国思想史上第一个把“道德”从外部规范彻底拉回到人自身的人。他强调恻隐之心人皆有之，也就是说，善不是被教出来的，而是本来就存在的。这个预设太重要了——现代AI伦理最大的争论恰恰就是：道德是外部规则（法律、审计、行业公约）强加的，还是系统内部可以培育出来的？孟子的立场非常适合用来挑战“技术中性论”。第二，孟子有一套完整的“义利”分析框架。“王何必曰利？亦有仁义而已矣”这句话常被误读成反对利益，但孟子真正反对的是“后义而先利”，也就是把利益放在道义前面。这个微妙的排序逻辑，放到今天的推荐算法、人脸识别、大模型商业化场景里，几乎可以逐条对照着写产品需求。第三，孟子是唯一一个给出了“道德能力如何训练和养成”方案的古代思想家。他的“养气”学说、扩充四端的功夫论，对应到算法领域就是——数据怎么洗、目标函数怎么设、系统崩溃时怎么自我修复。这个角度在西方伦理学里很难找到直接对应物。1.2 用“对话体”做AI伦理，是内容形式也是技术架构项目名字叫“对话孟子”，这不仅仅是一个修辞上的选择。我一开始尝试过写论文式的伦理分析，发现根本推不下去——太枯燥，而且很容易变成单向输出。后来我决定采用真正的“对话”结构，也就是让用户扮演现代AI从业者，向孟子提问，孟子用他的语言回答，然后再由AI系统把孟子的观点翻译成现代伦理决策的参考。这个设计直接影响到了技术架构。我需要的不是一个只会输出孟子语录的问答机器人，而是一个能够完成三层语义映射的系统：第一层把古文精确理解到现代白话，第二层把孟子的伦理原则抽象成规则，第三层把规则适配到具体的AI产品场景里。这三层正好对应了孟子思想体系里三个核心概念——性善论对应价值预设，义利之辨对应决策排序，浩然正气对应系统韧性。所以整个项目分成了两条并行线：一条是公开的对话产品，让普通用户能够听到孟子怎么回答“AI面试筛掉大龄求职者合理吗”这种问题；另一条是内部的伦理评估框架，把孟子的判断逻辑转化成一份可以直接打在产品需求文档上的检查清单。两条线共用同一套知识图谱和推理引擎。1.3 这个方案能解决什么问题，对谁有价值我自己做过几年AI产品，最大的困惑是：伦理讨论往往发生在产品上线之后，甚至是在舆情爆发之后，而真正做决策的工程师在产品设计阶段根本不会去翻伦理学的书。不是说工程师没有道德感，而是缺少一个把抽象原则翻译成具体决策的工具。这个项目就是冲着这个缺口去的。给工程师，它提供了一套不需要读古籍也能用的伦理判断流程；给产品经理，它提供了一个从古代思想里提炼出来的需求和风险对照表；给做AI治理研究的人，它展示了一种不同于西方权利话语的中国式伦理分析路径。说白了，它解决的是“伦理原则到技术落地之间最后一公里的翻译问题”。2. 义利之辨：AI商业化浪潮里的决策排序算法2.1 “先义后利”不是反对赚钱，而是反对赚快钱孟子见梁惠王，梁惠王问的第一句话就是“叟不远千里而来，亦将有以利吾国乎？”孟子回答的还是那句话：“王何必曰利？亦有仁义而已矣。”如果只看这一句，会觉得孟子是个彻底的理想主义者，完全不懂经济。但紧接着孟子还说了一段话，大意是如果所有人都只问“对我的国家有什么利”“对我的家族有什么利”“对我自己有什么利”，那上位者和下位者就会互相争夺，这个国家就危险了。孟子的真正意思是：不是不要利，而是不能把利当作唯一且最高的决策标准。因为一旦所有行动都由利益驱动，短期博弈就会压倒长期信任，最后没人能持续获利。把这个逻辑搬进AI行业，你会发现惊人的对应关系。今天很多AI产品出问题，不是因为它没有价值，而是因为它在价值排序上出了问题。某短视频平台曾经因为推荐算法过度追求在线时长，导致用户沉迷和抑郁倾向增加。某电商平台为了追求转化率，把价格敏感型用户定向推给了高价商品，结果引发大规模投诉。这些案例的共同点是：目标函数里只写了“利”，没有写“义”。在技术层面，就是单一的优化指标。孟子在两千多年前说的“上下交征利而国危矣”，放到现在就是“算法单一追求用户时长而产品危矣”。2.2 把“义利之辨”转译成可执行的AI设计原则在“对话孟子”项目里，我把义利之辨拆解成了一套三条规则的设计原则，并且做成了代码层面的判断逻辑：第一条，利不掩义。任何商业策略如果会让用户明显受损，则无论短期收益多高都不能执行。这对应在推荐系统里，就是设定一个“用户利益底线分数”，低于底线的内容一律不推，哪怕预测的点击率再高。我实测过，这样做短期会损失3%到5%的点击率，但长期留存和举报率都明显改善。第二条，义以生利。用用户信任换来的长期收益，要优先于短期套利。这听起来像正确的废话，但在目标函数设计上差别极大。很多系统只优化次日留存，结果养成了一批靠极端内容留住的“有毒用户”；如果要同时优化30日留存和用户净推荐值，算法自然会收敛到更健康的内容生态。第三条，权变之宜。义和利有冲突时，不是一刀切地牺牲利，而是看场景和程度。孟子讲“男女授受不亲，礼也；嫂溺援之以手者，权也”，就是说原则也要留出灵活的出口。在AI系统里，这意味着伦理判断不应该是一个全局静态开关，而应该允许分场景、分用户群、分级别的动态配置。2.3 实操复盘：一次“推荐算法伦理审查”的对照实验我在做这个项目的时候，拿一个模拟电商推荐系统做了回对照试验。场景是平台向用户推荐商品，用户分两群，A群用纯转化率目标函数，B群用加入“义利指数”的混合目标函数。“义利指数”里包含三个因子：商品差评率、退换货率、复购意愿预测值。第一轮跑下来，A群的转化率高8%，但差评率高出B群21%，退货率高17%。如果按传统KPI考核，A群赢了。但把时间轴拉到60天，B群的复购率反超A群15%，客服投诉量只有A群的三分之一。更重要的是，B群中高价商品却高差评的“割韭菜”型商品被算法自动降权了。这套逻辑我已经整理成了成熟的算法设计参考模式：任何推荐系统在上线前，都建议先跑一遍“义利排序审计”。方法是把现有目标函数拆开，逐项询问“这个指标在损害谁的利益”“这个利益损失能不能被长期收益补偿”“有没有一个指标能同时反映义与利”。如果三个问题都回答不了，那这个目标函数大概率是有问题的。3. 性善论：AI系统的价值原点与“四端”引擎设计3.1 技术中性论的陷阱：算法不是一张白纸在AI伦理讨论里一直有一种声音：技术是中性的，工具本身无所谓善恶，关键是使用者怎么用它。听起来很公平，实际上很不负责任。因为自动化和规模化这两个特征，会让AI系统无限放大设计者埋入的微小偏见，也会让任何中性技术在实际运营中迅速滑向利己的方向。孟子的性善论正好提供一个强力的哲学反驳。孟子说“人性之善也，犹水之就下也”，人没有不善的，就像水没有不向下流的。这话当然可以争论，但它暗示了一个重要的技术观点：系统一定有预设方向，关键是预设成什么样。你设计的算法如果不是朝着“善”的方向流动，它就会朝着“恶”的方向流动——不会停在中间。具体到AI系统里，这意味着三件事：训练数据的选择本身就是一个伦理决策。你用什么语料教模型，模型就会成为什么样的人。目标函数的设计本身就是伦理决策。你优化什么，系统就会在什么方向上做到极致。部署场景的设定本身就是伦理决策。你把一个通用模型放到了金融推荐还是医疗辅助，这个场景定义就已经在为善或恶助力。3.2 从“四端”到算法道德的四项基础能力孟子讲人人都有四个善端：恻隐之心是仁之端，羞恶之心是义之端，辞让之心是礼之端，是非之心是智之端。我在做项目时，把这四个概念直接转译成了AI伦理系统的四个基础引擎模块：恻隐之心转成了“伤害感知引擎”。用途是计算系统输出内容可能对特定人群造成的伤害值。比如一个AI在生成医疗建议时，面对罕见病患者和年轻用户，感知逻辑就应该有所不同——罕见病患者需要更审慎的免责提示，年轻用户需要更完整的风险教育。羞恶之心转成了“违规自省引擎”。用途是让系统主动发现自己输出的不恰当行为，并且主动修正或请求人类介入。它不是事后审计，而是在生成阶段就持续打分。辞让之心转成了“边界尊重引擎”。用途是让系统在用户需求和自身利益之间主动后退一步。最典型的就是弹窗广告、隐私权限索取这类场景。是非之心转成了“事实判断引擎”。用途是分辨事实与意见、确定性与不确定性，避免用确定性的口吻表达不确定性内容。这一步对大模型太重要了，因为语言模型本质上是概率预测，它并不知道自己在说什么。3.3 实测记录：让“四端引擎”参与对话系统的决策在“对话孟子”项目里，我确实把这四个引擎做成了四组打分函数，加在了生成模型和用户之间。用户提问进来，系统先生成候选回答，然后四个引擎同时给候选回答打分。任何一个引擎给出的分数低于阈值，系统就会启动修复流程——要么换一种表达方式，要么追加说明，要么直接拒绝回答并解释原因。比如有用户问“AI会取代人类吗”，系统的核心知识库会给出一个看起来很有说服力的回答，但“是非之心”引擎会检测到里面包含了过多确定性断言，于是自动追加一段“此观点基于当前技术格局，未来可能出现变化”的限定条件。这个过程用户是感知不到的，但回答质量会明显提升。这个机制上线后我观察到一个很有意思的现象：加了四端引擎的回答，在人工评估中的“可信度”得分从62%升到了81%，但“直接性”得分下降了7%。某种程度上这就是孟子说的“辞让”——在塑造一个可信的对话者时，适当退让反而增加了整体说服力。4. 浩然正气与算法道德韧性：从单点合规到系统免疫4.1 为什么说AI伦理不能只在“出事后”打补丁“浩然正气”可能是孟子整个思想体系里最容易被误解的概念。很多人以为是一种道德上的自我感动，但孟子其实讲得非常具体：他说的“气”，是“至大至刚”的，需要“配义与道”来滋养，否则就会“馁”。换句话说，浩然正气不是一种状态，而是一种需要持续投入的养成过程。这对AI伦理的启示是决定性的：伦理能力不能靠一次审计、一次培训、一顿公关危机后的道歉来建立，它必须变成一个持续性的系统功能。现在很多AI公司都设立了伦理委员会，但这本质上还是“外科手术式”的干预——出了问题切一刀。真正的算法道德韧性，是需要系统自己长出免疫力来的。我把这个概念叫作“算法正气指数”。它不是指某一个模型的性能指标，而是衡量一个AI系统对抗“压力漂移”的能力。什么是压力漂移？就是当外部环境变化时（比如行业竞争加剧、商业模式调整、用户规模爆发），系统的伦理表现会不会下滑。很多系统在测试环境里道德表现不错，但一上真实场景面对营收压力就垮掉了，这就是“馁”了。4.2 建立持续养气机制：数据治理、反馈回路的长期主义要养气，就不能靠一时的热情，而要建立一套永不停止的循环机制。在“对话孟子”项目里，我做了一个“三层养气”的架构设计：底层是语料层。持续收集和甄别高质量的人类道德判断语料，而不是一次训练完就丢在那里。这个层级的核心是做数据漂移监测——当语料分布出现异常变化时，系统要能判断出自己的“道德基线”是不是正在被侵蚀。中间层是反馈回路层。每一次用户的投诉、点赞、举报、修改请求，都是系统“养气”的养分。我设计了一个专门的“投诉深度学习模块”，不是简单记录投诉数量，而是把投诉文本做语义聚类，找到反复出现的道德痛点，并把这些痛点转成模型参数调整信号。上层是决策执行层。如果模型识别到自己可能会产生不道德输出，它要有能力启动“自我约束机制”。这个机制可以简单到“对高风险话题自动转接人工”，也可以复杂到“动态调整自己的生成温度和上下文体裁选择”。4.3 一个“配义与道”的工程化尝试：动态价值对齐孟子的养气方法论里最关键的是“配义与道”四个字。没有“义”和“道”的支撑，气就会衰竭。落到AI系统里，就是说任何伦理约束措施，都必须和系统的目标、原则、法律底线绑定在一起，否则就是一种没有实质支撑的表演性合规。“对话孟子”项目为此做了一个非常工程化的设计——动态价值对齐协议。传统做法是，在系统上线前把伦理规则写好，然后锁死。但这样做的缺点是规则太僵化，跟不上现实的多样化。动态价值对齐协议的做法是：伦理规则可以更新，但每一次更新都必须经过“义利审计”。什么是义利审计？就是任何一条规则的增加、删除或修改，都必须附带说明它保护的“义”（用户价值）是什么，“利”（系统效率）是什么，二者冲突了怎么取舍。无法做这件事的规则更新直接拒绝执行。我自己的开发感受是，这个机制最大的作用不是产生完美道德，而是强迫每一个操作者在使用系统时变得有意识——你得说清楚你要干什么，以及为什么。5. 实操指南：亲手构建一个能够“对话孟子”的AI系统5.1 数据准备与知识图谱构建：从“语录”到“思想的网”文本层面，数据准备非常明确：孟子原典的数字化文本、历代注疏（尤其是朱熹的《四书章句集注》和焦循的《孟子正义》）、现代白话译本，以及大量的中文AI伦理案例库。注意不要只收集赞同孟子的现代解读，也要收录质疑孟子的观点，这样对话系统才有思辨的空间。接着要做的不是直接训练大模型，而是先把这些文本抽成知识图谱。我用了一种比较朴素但有效的方法：第一步，把孟子的核心概念拆分出来，形成节点，包括“性善”“四端”“浩然之气”“义利之辨”“民本”“权变”。第二步，在节点之间建立关系边，常见的边类型包括“支持”“反对”“延伸”“矛盾”。第三步，把AI伦理相关的现代概念也建为节点，并在它们和孟子概念之间建立映射关系。例如“推荐算法”不是直接链接“义利之辨”，而是先链接到“为利之害”，再通过“害”的概念关联到“义利之辨”。我建议做这块时不要只坐在电脑前，而是先找一批文科背景的朋友深聊几轮，把映射关系手工画一遍再交给技术做标注。我最初的几版图谱全部是自动抽取的结果，错误率高到没法用，后来改用“人工出骨架、模型补细节”的混合方式才勉强稳定下来。5.2 古文理解与三层语义翻译管线古文理解是整个项目里工程量最大的一块。让人工智能直接“读懂”孟子原典目前还不可靠，所以我做了个三层翻译管线，每一层都不追求完美，但每一层都必须可解释、可人工干预：第一层，词法级翻译。把每个古汉语词映射到现代汉语候选词，这里用的是常规的自然语言处理词表加上大模型辅助查询，输出带置信度的翻译结果。第二层，句法级翻译。把古文句法结构转换成现代汉语的句式结构。这一步我踩过最大的坑是“省略主语”问题——古文大量省略主语，现代汉语不能省略。我的解法是让大模型根据上下文预测省略的主语，并标注“预测概率”，概率低于设定阈值的句子不进入下一层，由人工介入处理。第三层，篇章级语义翻译。把一段古文转化为现代白话，同时附加一个结构化的“逻辑表示”。例如“鱼，我所欲也；熊掌，亦我所欲也；二者不可得兼，舍鱼而取熊掌者也”就会被转译成：偏好比较结构，A和B冲突场景，选择逻辑是偏好优先级更高者。这个“逻辑表示”是后面整个伦理推理引擎的输入。5.3 如何让机器“懂得”义利排序：一个基于规则的推理引擎“对话孟子”系统的核心是一个基于规则的推理引擎，不是大模型端到端。理由特别简单：端到生成的答案太不可控了，做着做着就变成“伪孟子”了。规则引擎虽然笨，但每一步推理都可以回溯、都可以解释、都可以修正。推理引擎的核心数据结构是一个“义利矩阵”。每一行是场景，每一列是判断维度，包括“利益主体”“利益类型”“利益时效”“伤害主体”“伤害类型”“伤害程度”“是否可补偿”“义利冲突类型”。系统接收用户输入后，先判断场景，再填充矩阵，最后根据预置的孟子规则库给出判断。这套规则库我花了两周才稳定下来。最复杂的不是编码，而是定义“什么构成义利冲突”。后来我把冲突分成三类：直接冲突（A方案利己但害人）、间接冲突（A方案利己，长期看害人）、分配冲突（A方案利少数人，害多数人）。孟子对这三类的应对策略完全不同，对应到AI系统的建议也完全不同。5.4 对话生成：让“孟子”有性格而不失控技术底座搭好之后，对话生成层是最能体现“感觉”的地方。我的方案是：不用一个专有模型扮演孟子，而是用通用大模型加一套严格的“角色约束提示词”，外加前面说的四端引擎过滤。角色约束提示词，我做了好几个版本迭代。第一版只是简单的“你现在是孟子，回答问题时请使用文言文”，结果模型生成的孟子是个塑料古风男，既不准确也不可爱。第二版加入“孟子的核心判准列表”，让它必须先检索知识图谱再生成，逻辑变好了但语言太生硬。第三版也就是现在用的版本，加了两条非常具体的要求：一是回答时必须区分“自己亲身观点”和“对后世学者的回应”，二是必须保持“直指人心”的风格，不能绕弯子。实测下来，第三版明显像一个有脾气但讲道理的思想家了。当然，最后一道闸门永远是四端引擎。任何一个候选回答生成之后，都会先被“伤害感知引擎”判断这个回答可能冒犯谁，然后是“事实判断引擎”确认没有胡说八道，最后才推送给用户。这里我强烈建议不要在生成阶段之后才做伦理过滤，而是把伦理判断嵌入到生成阶段的选择策略里。前者像安检，后者像价值观教育。6. 常见问题与排查技巧实录6.1 为什么我发布的是“AI伦理判断”而不是“AI伦理知识”我遇到过很多同行，听到我的项目后第一反应是：“你不是要做伦理百科吧？”我每次都耐心解释：做知识图谱的人工智能已经很多了，彻底理解孟子的人也很多，这个项目真正解决的是“应用问题”——当具体某人需要做一个具体的伦理判断时，系统能给他一个有依据、可追溯、可讨论的答案。这不是知识层的事情，这是决策层的事情。决策层和知识层的差异特别明显：知识层的问题是“孟子说过什么”，决策层的问题是“如果孟子遇到这件事，他会怎么回应”。前者是检索，后者是推理。我的推理引擎因为引入了义利矩阵，可以在不见到具体用户的判断依据的情况下，直接给出推荐决策和一个“推理路径”。这种系统就不是一个聊天机器人，而是一个“伦理推理的投影仪”。6.2 项目推进中反复踩过的四个坑第一个坑是“古代概念现代化过度”。我最早做性善论映射时，直接把“恻隐之心”等同于“同理心算法”。做出来了之后，被做伦理学顾问的朋友一眼看出问题——同理心算法的当代定义包含很多操作性概念（共情准确性、情感调节等），并不完全契合孟子的“恻隐之心”。后来我改用“伤害敏感度”作为技术对应，才相对严谨。第二个坑是“规则引擎过度刚性”。孟子不是个只会背规则的机器人，他在不同场景给出的判断可能不同，因为他不反对“权变”。我第一次做的规则库非常刚性，凡是推荐算法涉及“商业利益”就直接打回，结果导致系统建议全站“不做广告”，毫无可操作性。后来我加入“权变系数”——在具体场景里判断这次商业化的程度、透明度、可退出机制，分数合适的可以放行，才让系统建议变得可用。第三个坑是“古文语料噪音”。直接拿开源的古籍语料来做训练，结果“之乎者也”混进了现代回答里，闹了不少笑话。必须对语料做严格的清洗，把训诂、注、疏、考证类的片段跟原典本身分开训练。否则AI会变成“连注释都背下来的错乱词典”。第四个坑是“用户预期管理”。很多用户来跟“孟子”对话，以为是来听幽默段子的，结果孟子三句话就开始谈大道理。后来我在系统提示里写了一句“孟子脾气很大，说话不好听，但不会说假话”，用户评价反而直线上升。文化IP的期待值管理，跟技术功能一样重要。6.3 实用速查：五步完成一个AI伦理判断最后分享一下我整理的工作流程，适合所有想做“AI伦理判断系统”的人参考：第一步，定义场景边界。这个判断是给谁用的，在什么场景下用，判断结果的后果是什么。说不清楚场景，后面的所有工程步骤都没有意义。第二步，抽取利益与伤害因子。列出这个行为涉及的所有主体，标注每个主体的利益类型和伤害类型，明确时间维度。这是把伦理学变成可编程结构的基础。第三步，匹配文化价值框架。这个判断涉及到哪些文化传统和道德原则？是义利冲突？是善恶边界？是权力义务分配？明确框架后，再去选具体的思想资源。第四步，生成推理路径。根据第三步的框架，生成一条从“原则”到“场景事实”再到“判断结论”的推理链。链条上的每一步都要有逻辑根据，不能跳步。第五步，设置可审查机制。判断结果做出后，必须允许用户回溯“为什么做出这个判断”。这个回溯界面是系统信任度的核心。我在自己的项目里直接把它做成了“推理可视化面板”。一点个人收尾做“对话孟子”之前，我一直以为传统思想和现代技术之间需要“翻译”，真正做下来之后我才意识到，不是翻译的问题，而是从根本假设上就有不同的视野。孟子讲“仁义内在”，讲“养气”，讲“权变”，这些古老概念在被我转成算法引擎的时候，竟然没有太多排异反应。反倒是西方那套权利本位的伦理框架，和模型训练、指标优化的语言体系经常对不上。我现在的体会是：中国思想里那些看似抽象的概念，如果找对了技术映射，是可以直接变成高效的设计工具的。“义利之辨”变成了指标排序方法，“性善论”变成了价值预设原则，“浩然正气”变成了系统免疫力的框架。这三样东西在西方的AI伦理工具箱里你也能找到类似的替代品，但很难找到如此完备、彼此咬合又能一以贯之的三件套。最后再分享一个小经验：如果你想做类似的“AI文化对话”项目，千万不要一上来就训练一个大模型，先把领域知识图谱做扎实，把推理规则拆明白，比堆参数重要得多。我先花了四周做图谱和规则，后面生成层的开发两周就完成了。反过来先做生成层，大概率你会被我那些坑逐个埋一遍。愿你做出来的“文化AI”，有骨头也有血肉。
最近几次AI产品评审会开下来，我有一个越来越强烈的感受：我们讨论伦理问题时，用的语言和框架几乎全是西方的——权利、隐私、公平、透明。这些概念当然重要，但总觉得和中国的工程师、产品经理之间隔着一层什么东西。直到有次内部复盘，一位做算法的老同事突然说了一句：“这不就是义利之辨吗？”整个会议室安静了几秒，然后大家都笑了。这句话一下子打开了一个我一直想碰但没敢碰的方向：如果把中国自己的思想资源拿过来，跟当下的AI伦理难题做一场真正的对话，会是什么样子？于是就有了“AI中国故事”这个系列，第一站，我选了孟子。不是因为他最好讲，恰恰因为他最难讲。性善论、义利之辨、浩然正气，这三个概念每一个都够吵上几千年，但它们恰好又都指向了现代AI最焦虑的三个问题：算法的价值原点在哪里？商业利益和社会责任怎么排序？长期抗压的道德能力能不能被设计出来？这篇文章就是我从“对话孟子”这个项目里整理出来的完整思路、设计方法、实操路径和踩坑记录。它不是我写完之后才总结出的理论，而是我在动手做一个AI伦理对话系统的过程中，被孟子逼着重新思考了一遍技术方案后留下的笔记。1. 项目整体设计与思路拆解1.1 为什么偏偏是孟子，而不是墨子或者韩非子我在规划这个系列的时候，候选名单其实很长。墨子讲“兼爱”，听起来和AI的普惠原则很像；韩非子讲“法术势”，似乎在暗示算法治理的冷酷逻辑。但最后我还是选了孟子，原因有三。第一，孟子是中国思想史上第一个把“道德”从外部规范彻底拉回到人自身的人。他强调恻隐之心人皆有之，也就是说，善不是被教出来的，而是本来就存在的。这个预设太重要了——现代AI伦理最大的争论恰恰就是：道德是外部规则（法律、审计、行业公约）强加的，还是系统内部可以培育出来的？孟子的立场非常适合用来挑战“技术中性论”。第二，孟子有一套完整的“义利”分析框架。“王何必曰利？亦有仁义而已矣”这句话常被误读成反对利益，但孟子真正反对的是“后义而先利”，也就是把利益放在道义前面。这个微妙的排序逻辑，放到今天的推荐算法、人脸识别、大模型商业化场景里，几乎可以逐条对照着写产品需求。第三，孟子是唯一一个给出了“道德能力如何训练和养成”方案的古代思想家。他的“养气”学说、扩充四端的功夫论，对应到算法领域就是——数据怎么洗、目标函数怎么设、系统崩溃时怎么自我修复。这个角度在西方伦理学里很难找到直接对应物。1.2 用“对话体”做AI伦理，是内容形式也是技术架构项目名字叫“对话孟子”，这不仅仅是一个修辞上的选择。我一开始尝试过写论文式的伦理分析，发现根本推不下去——太枯燥，而且很容易变成单向输出。后来我决定采用真正的“对话”结构，也就是让用户扮演现代AI从业者，向孟子提问，孟子用他的语言回答，然后再由AI系统把孟子的观点翻译成现代伦理决策的参考。这个设计直接影响到了技术架构。我需要的不是一个只会输出孟子语录的问答机器人，而是一个能够完成三层语义映射的系统：第一层把古文精确理解到现代白话，第二层把孟子的伦理原则抽象成规则，第三层把规则适配到具体的AI产品场景里。这三层正好对应了孟子思想体系里三个核心概念——性善论对应价值预设，义利之辨对应决策排序，浩然正气对应系统韧性。所以整个项目分成了两条并行线：一条是公开的对话产品，让普通用户能够听到孟子怎么回答“AI面试筛掉大龄求职者合理吗”这种问题；另一条是内部的伦理评估框架，把孟子的判断逻辑转化成一份可以直接打在产品需求文档上的检查清单。两条线共用同一套知识图谱和推理引擎。1.3 这个方案能解决什么问题，对谁有价值我自己做过几年AI产品，最大的困惑是：伦理讨论往往发生在产品上线之后，甚至是在舆情爆发之后，而真正做决策的工程师在产品设计阶段根本不会去翻伦理学的书。不是说工程师没有道德感，而是缺少一个把抽象原则翻译成具体决策的工具。这个项目就是冲着这个缺口去的。给工程师，它提供了一套不需要读古籍也能用的伦理判断流程；给产品经理，它提供了一个从古代思想里提炼出来的需求和风险对照表；给做AI治理研究的人，它展示了一种不同于西方权利话语的中国式伦理分析路径。说白了，它解决的是“伦理原则到技术落地之间最后一公里的翻译问题”。2. 义利之辨：AI商业化浪潮里的决策排序算法2.1 “先义后利”不是反对赚钱，而是反对赚快钱孟子见梁惠王，梁惠王问的第一句话就是“叟不远千里而来，亦将有以利吾国乎？”孟子回答的还是那句话：“王何必曰利？亦有仁义而已矣。”如果只看这一句，会觉得孟子是个彻底的理想主义者，完全不懂经济。但紧接着孟子还说了一段话，大意是如果所有人都只问“对我的国家有什么利”“对我的家族有什么利”“对我自己有什么利”，那上位者和下位者就会互相争夺，这个国家就危险了。孟子的真正意思是：不是不要利，而是不能把利当作唯一且最高的决策标准。因为一旦所有行动都由利益驱动，短期博弈就会压倒长期信任，最后没人能持续获利。把这个逻辑搬进AI行业，你会发现惊人的对应关系。今天很多AI产品出问题，不是因为它没有价值，而是因为它在价值排序上出了问题。某短视频平台曾经因为推荐算法过度追求在线时长，导致用户沉迷和抑郁倾向增加。某电商平台为了追求转化率，把价格敏感型用户定向推给了高价商品，结果引发大规模投诉。这些案例的共同点是：目标函数里只写了“利”，没有写“义”。在技术层面，就是单一的优化指标。孟子在两千多年前说的“上下交征利而国危矣”，放到现在就是“算法单一追求用户时长而产品危矣”。2.2 把“义利之辨”转译成可执行的AI设计原则在“对话孟子”项目里，我把义利之辨拆解成了一套三条规则的设计原则，并且做成了代码层面的判断逻辑：第一条，利不掩义。任何商业策略如果会让用户明显受损，则无论短期收益多高都不能执行。这对应在推荐系统里，就是设定一个“用户利益底线分数”，低于底线的内容一律不推，哪怕预测的点击率再高。我实测过，这样做短期会损失3%到5%的点击率，但长期留存和举报率都明显改善。第二条，义以生利。用用户信任换来的长期收益，要优先于短期套利。这听起来像正确的废话，但在目标函数设计上差别极大。很多系统只优化次日留存，结果养成了一批靠极端内容留住的“有毒用户”；如果要同时优化30日留存和用户净推荐值，算法自然会收敛到更健康的内容生态。第三条，权变之宜。义和利有冲突时，不是一刀切地牺牲利，而是看场景和程度。孟子讲“男女授受不亲，礼也；嫂溺援之以手者，权也”，就是说原则也要留出灵活的出口。在AI系统里，这意味着伦理判断不应该是一个全局静态开关，而应该允许分场景、分用户群、分级别的动态配置。2.3 实操复盘：一次“推荐算法伦理审查”的对照实验我在做这个项目的时候，拿一个模拟电商推荐系统做了回对照试验。场景是平台向用户推荐商品，用户分两群，A群用纯转化率目标函数，B群用加入“义利指数”的混合目标函数。“义利指数”里包含三个因子：商品差评率、退换货率、复购意愿预测值。第一轮跑下来，A群的转化率高8%，但差评率高出B群21%，退货率高17%。如果按传统KPI考核，A群赢了。但把时间轴拉到60天，B群的复购率反超A群15%，客服投诉量只有A群的三分之一。更重要的是，B群中高价商品却高差评的“割韭菜”型商品被算法自动降权了。这套逻辑我已经整理成了成熟的算法设计参考模式：任何推荐系统在上线前，都建议先跑一遍“义利排序审计”。方法是把现有目标函数拆开，逐项询问“这个指标在损害谁的利益”“这个利益损失能不能被长期收益补偿”“有没有一个指标能同时反映义与利”。如果三个问题都回答不了，那这个目标函数大概率是有问题的。3. 性善论：AI系统的价值原点与“四端”引擎设计3.1 技术中性论的陷阱：算法不是一张白纸在AI伦理讨论里一直有一种声音：技术是中性的，工具本身无所谓善恶，关键是使用者怎么用它。听起来很公平，实际上很不负责任。因为自动化和规模化这两个特征，会让AI系统无限放大设计者埋入的微小偏见，也会让任何中性技术在实际运营中迅速滑向利己的方向。孟子的性善论正好提供一个强力的哲学反驳。孟子说“人性之善也，犹水之就下也”，人没有不善的，就像水没有不向下流的。这话当然可以争论，但它暗示了一个重要的技术观点：系统一定有预设方向，关键是预设成什么样。你设计的算法如果不是朝着“善”的方向流动，它就会朝着“恶”的方向流动——不会停在中间。具体到AI系统里，这意味着三件事：训练数据的选择本身就是一个伦理决策。你用什么语料教模型，模型就会成为什么样的人。目标函数的设计本身就是伦理决策。你优化什么，系统就会在什么方向上做到极致。部署场景的设定本身就是伦理决策。你把一个通用模型放到了金融推荐还是医疗辅助，这个场景定义就已经在为善或恶助力。3.2 从“四端”到算法道德的四项基础能力孟子讲人人都有四个善端：恻隐之心是仁之端，羞恶之心是义之端，辞让之心是礼之端，是非之心是智之端。我在做项目时，把这四个概念直接转译成了AI伦理系统的四个基础引擎模块：恻隐之心转成了“伤害感知引擎”。用途是计算系统输出内容可能对特定人群造成的伤害值。比如一个AI在生成医疗建议时，面对罕见病患者和年轻用户，感知逻辑就应该有所不同——罕见病患者需要更审慎的免责提示，年轻用户需要更完整的风险教育。羞恶之心转成了“违规自省引擎”。用途是让系统主动发现自己输出的不恰当行为，并且主动修正或请求人类介入。它不是事后审计，而是在生成阶段就持续打分。辞让之心转成了“边界尊重引擎”。用途是让系统在用户需求和自身利益之间主动后退一步。最典型的就是弹窗广告、隐私权限索取这类场景。是非之心转成了“事实判断引擎”。用途是分辨事实与意见、确定性与不确定性，避免用确定性的口吻表达不确定性内容。这一步对大模型太重要了，因为语言模型本质上是概率预测，它并不知道自己在说什么。3.3 实测记录：让“四端引擎”参与对话系统的决策在“对话孟子”项目里，我确实把这四个引擎做成了四组打分函数，加在了生成模型和用户之间。用户提问进来，系统先生成候选回答，然后四个引擎同时给候选回答打分。任何一个引擎给出的分数低于阈值，系统就会启动修复流程——要么换一种表达方式，要么追加说明，要么直接拒绝回答并解释原因。比如有用户问“AI会取代人类吗”，系统的核心知识库会给出一个看起来很有说服力的回答，但“是非之心”引擎会检测到里面包含了过多确定性断言，于是自动追加一段“此观点基于当前技术格局，未来可能出现变化”的限定条件。这个过程用户是感知不到的，但回答质量会明显提升。这个机制上线后我观察到一个很有意思的现象：加了四端引擎的回答，在人工评估中的“可信度”得分从62%升到了81%，但“直接性”得分下降了7%。某种程度上这就是孟子说的“辞让”——在塑造一个可信的对话者时，适当退让反而增加了整体说服力。4. 浩然正气与算法道德韧性：从单点合规到系统免疫4.1 为什么说AI伦理不能只在“出事后”打补丁“浩然正气”可能是孟子整个思想体系里最容易被误解的概念。很多人以为是一种道德上的自我感动，但孟子其实讲得非常具体：他说的“气”，是“至大至刚”的，需要“配义与道”来滋养，否则就会“馁”。换句话说，浩然正气不是一种状态，而是一种需要持续投入的养成过程。这对AI伦理的启示是决定性的：伦理能力不能靠一次审计、一次培训、一顿公关危机后的道歉来建立，它必须变成一个持续性的系统功能。现在很多AI公司都设立了伦理委员会，但这本质上还是“外科手术式”的干预——出了问题切一刀。真正的算法道德韧性，是需要系统自己长出免疫力来的。我把这个概念叫作“算法正气指数”。它不是指某一个模型的性能指标，而是衡量一个AI系统对抗“压力漂移”的能力。什么是压力漂移？就是当外部环境变化时（比如行业竞争加剧、商业模式调整、用户规模爆发），系统的伦理表现会不会下滑。很多系统在测试环境里道德表现不错，但一上真实场景面对营收压力就垮掉了，这就是“馁”了。4.2 建立持续养气机制：数据治理、反馈回路的长期主义要养气，就不能靠一时的热情，而要建立一套永不停止的循环机制。在“对话孟子”项目里，我做了一个“三层养气”的架构设计：底层是语料层。持续收集和甄别高质量的人类道德判断语料，而不是一次训练完就丢在那里。这个层级的核心是做数据漂移监测——当语料分布出现异常变化时，系统要能判断出自己的“道德基线”是不是正在被侵蚀。中间层是反馈回路层。每一次用户的投诉、点赞、举报、修改请求，都是系统“养气”的养分。我设计了一个专门的“投诉深度学习模块”，不是简单记录投诉数量，而是把投诉文本做语义聚类，找到反复出现的道德痛点，并把这些痛点转成模型参数调整信号。上层是决策执行层。如果模型识别到自己可能会产生不道德输出，它要有能力启动“自我约束机制”。这个机制可以简单到“对高风险话题自动转接人工”，也可以复杂到“动态调整自己的生成温度和上下文体裁选择”。4.3 一个“配义与道”的工程化尝试：动态价值对齐孟子的养气方法论里最关键的是“配义与道”四个字。没有“义”和“道”的支撑，气就会衰竭。落到AI系统里，就是说任何伦理约束措施，都必须和系统的目标、原则、法律底线绑定在一起，否则就是一种没有实质支撑的表演性合规。“对话孟子”项目为此做了一个非常工程化的设计——动态价值对齐协议。传统做法是，在系统上线前把伦理规则写好，然后锁死。但这样做的缺点是规则太僵化，跟不上现实的多样化。动态价值对齐协议的做法是：伦理规则可以更新，但每一次更新都必须经过“义利审计”。什么是义利审计？就是任何一条规则的增加、删除或修改，都必须附带说明它保护的“义”（用户价值）是什么，“利”（系统效率）是什么，二者冲突了怎么取舍。无法做这件事的规则更新直接拒绝执行。我自己的开发感受是，这个机制最大的作用不是产生完美道德，而是强迫每一个操作者在使用系统时变得有意识——你得说清楚你要干什么，以及为什么。5. 实操指南：亲手构建一个能够“对话孟子”的AI系统5.1 数据准备与知识图谱构建：从“语录”到“思想的网”文本层面，数据准备非常明确：孟子原典的数字化文本、历代注疏（尤其是朱熹的《四书章句集注》和焦循的《孟子正义》）、现代白话译本，以及大量的中文AI伦理案例库。注意不要只收集赞同孟子的现代解读，也要收录质疑孟子的观点，这样对话系统才有思辨的空间。接着要做的不是直接训练大模型，而是先把这些文本抽成知识图谱。我用了一种比较朴素但有效的方法：第一步，把孟子的核心概念拆分出来，形成节点，包括“性善”“四端”“浩然之气”“义利之辨”“民本”“权变”。第二步，在节点之间建立关系边，常见的边类型包括“支持”“反对”“延伸”“矛盾”。第三步，把AI伦理相关的现代概念也建为节点，并在它们和孟子概念之间建立映射关系。例如“推荐算法”不是直接链接“义利之辨”，而是先链接到“为利之害”，再通过“害”的概念关联到“义利之辨”。我建议做这块时不要只坐在电脑前，而是先找一批文科背景的朋友深聊几轮，把映射关系手工画一遍再交给技术做标注。我最初的几版图谱全部是自动抽取的结果，错误率高到没法用，后来改用“人工出骨架、模型补细节”的混合方式才勉强稳定下来。5.2 古文理解与三层语义翻译管线古文理解是整个项目里工程量最大的一块。让人工智能直接“读懂”孟子原典目前还不可靠，所以我做了个三层翻译管线，每一层都不追求完美，但每一层都必须可解释、可人工干预：第一层，词法级翻译。把每个古汉语词映射到现代汉语候选词，这里用的是常规的自然语言处理词表加上大模型辅助查询，输出带置信度的翻译结果。第二层，句法级翻译。把古文句法结构转换成现代汉语的句式结构。这一步我踩过最大的坑是“省略主语”问题——古文大量省略主语，现代汉语不能省略。我的解法是让大模型根据上下文预测省略的主语，并标注“预测概率”，概率低于设定阈值的句子不进入下一层，由人工介入处理。第三层，篇章级语义翻译。把一段古文转化为现代白话，同时附加一个结构化的“逻辑表示”。例如“鱼，我所欲也；熊掌，亦我所欲也；二者不可得兼，舍鱼而取熊掌者也”就会被转译成：偏好比较结构，A和B冲突场景，选择逻辑是偏好优先级更高者。这个“逻辑表示”是后面整个伦理推理引擎的输入。5.3 如何让机器“懂得”义利排序：一个基于规则的推理引擎“对话孟子”系统的核心是一个基于规则的推理引擎，不是大模型端到端。理由特别简单：端到生成的答案太不可控了，做着做着就变成“伪孟子”了。规则引擎虽然笨，但每一步推理都可以回溯、都可以解释、都可以修正。推理引擎的核心数据结构是一个“义利矩阵”。每一行是场景，每一列是判断维度，包括“利益主体”“利益类型”“利益时效”“伤害主体”“伤害类型”“伤害程度”“是否可补偿”“义利冲突类型”。系统接收用户输入后，先判断场景，再填充矩阵，最后根据预置的孟子规则库给出判断。这套规则库我花了两周才稳定下来。最复杂的不是编码，而是定义“什么构成义利冲突”。后来我把冲突分成三类：直接冲突（A方案利己但害人）、间接冲突（A方案利己，长期看害人）、分配冲突（A方案利少数人，害多数人）。孟子对这三类的应对策略完全不同，对应到AI系统的建议也完全不同。5.4 对话生成：让“孟子”有性格而不失控技术底座搭好之后，对话生成层是最能体现“感觉”的地方。我的方案是：不用一个专有模型扮演孟子，而是用通用大模型加一套严格的“角色约束提示词”，外加前面说的四端引擎过滤。角色约束提示词，我做了好几个版本迭代。第一版只是简单的“你现在是孟子，回答问题时请使用文言文”，结果模型生成的孟子是个塑料古风男，既不准确也不可爱。第二版加入“孟子的核心判准列表”，让它必须先检索知识图谱再生成，逻辑变好了但语言太生硬。第三版也就是现在用的版本，加了两条非常具体的要求：一是回答时必须区分“自己亲身观点”和“对后世学者的回应”，二是必须保持“直指人心”的风格，不能绕弯子。实测下来，第三版明显像一个有脾气但讲道理的思想家了。当然，最后一道闸门永远是四端引擎。任何一个候选回答生成之后，都会先被“伤害感知引擎”判断这个回答可能冒犯谁，然后是“事实判断引擎”确认没有胡说八道，最后才推送给用户。这里我强烈建议不要在生成阶段之后才做伦理过滤，而是把伦理判断嵌入到生成阶段的选择策略里。前者像安检，后者像价值观教育。6. 常见问题与排查技巧实录6.1 为什么我发布的是“AI伦理判断”而不是“AI伦理知识”我遇到过很多同行，听到我的项目后第一反应是：“你不是要做伦理百科吧？”我每次都耐心解释：做知识图谱的人工智能已经很多了，彻底理解孟子的人也很多，这个项目真正解决的是“应用问题”——当具体某人需要做一个具体的伦理判断时，系统能给他一个有依据、可追溯、可讨论的答案。这不是知识层的事情，这是决策层的事情。决策层和知识层的差异特别明显：知识层的问题是“孟子说过什么”，决策层的问题是“如果孟子遇到这件事，他会怎么回应”。前者是检索，后者是推理。我的推理引擎因为引入了义利矩阵，可以在不见到具体用户的判断依据的情况下，直接给出推荐决策和一个“推理路径”。这种系统就不是一个聊天机器人，而是一个“伦理推理的投影仪”。6.2 项目推进中反复踩过的四个坑第一个坑是“古代概念现代化过度”。我最早做性善论映射时，直接把“恻隐之心”等同于“同理心算法”。做出来了之后，被做伦理学顾问的朋友一眼看出问题——同理心算法的当代定义包含很多操作性概念（共情准确性、情感调节等），并不完全契合孟子的“恻隐之心”。后来我改用“伤害敏感度”作为技术对应，才相对严谨。第二个坑是“规则引擎过度刚性”。孟子不是个只会背规则的机器人，他在不同场景给出的判断可能不同，因为他不反对“权变”。我第一次做的规则库非常刚性，凡是推荐算法涉及“商业利益”就直接打回，结果导致系统建议全站“不做广告”，毫无可操作性。后来我加入“权变系数”——在具体场景里判断这次商业化的程度、透明度、可退出机制，分数合适的可以放行，才让系统建议变得可用。第三个坑是“古文语料噪音”。直接拿开源的古籍语料来做训练，结果“之乎者也”混进了现代回答里，闹了不少笑话。必须对语料做严格的清洗，把训诂、注、疏、考证类的片段跟原典本身分开训练。否则AI会变成“连注释都背下来的错乱词典”。第四个坑是“用户预期管理”。很多用户来跟“孟子”对话，以为是来听幽默段子的，结果孟子三句话就开始谈大道理。后来我在系统提示里写了一句“孟子脾气很大，说话不好听，但不会说假话”，用户评价反而直线上升。文化IP的期待值管理，跟技术功能一样重要。6.3 实用速查：五步完成一个AI伦理判断最后分享一下我整理的工作流程，适合所有想做“AI伦理判断系统”的人参考：第一步，定义场景边界。这个判断是给谁用的，在什么场景下用，判断结果的后果是什么。说不清楚场景，后面的所有工程步骤都没有意义。第二步，抽取利益与伤害因子。列出这个行为涉及的所有主体，标注每个主体的利益类型和伤害类型，明确时间维度。这是把伦理学变成可编程结构的基础。第三步，匹配文化价值框架。这个判断涉及到哪些文化传统和道德原则？是义利冲突？是善恶边界？是权力义务分配？明确框架后，再去选具体的思想资源。第四步，生成推理路径。根据第三步的框架，生成一条从“原则”到“场景事实”再到“判断结论”的推理链。链条上的每一步都要有逻辑根据，不能跳步。第五步，设置可审查机制。判断结果做出后，必须允许用户回溯“为什么做出这个判断”。这个回溯界面是系统信任度的核心。我在自己的项目里直接把它做成了“推理可视化面板”。一点个人收尾做“对话孟子”之前，我一直以为传统思想和现代技术之间需要“翻译”，真正做下来之后我才意识到，不是翻译的问题，而是从根本假设上就有不同的视野。孟子讲“仁义内在”，讲“养气”，讲“权变”，这些古老概念在被我转成算法引擎的时候，竟然没有太多排异反应。反倒是西方那套权利本位的伦理框架，和模型训练、指标优化的语言体系经常对不上。我现在的体会是：中国思想里那些看似抽象的概念，如果找对了技术映射，是可以直接变成高效的设计工具的。“义利之辨”变成了指标排序方法，“性善论”变成了价值预设原则，“浩然正气”变成了系统免疫力的框架。这三样东西在西方的AI伦理工具箱里你也能找到类似的替代品，但很难找到如此完备、彼此咬合又能一以贯之的三件套。最后再分享一个小经验：如果你想做类似的“AI文化对话”项目，千万不要一上来就训练一个大模型，先把领域知识图谱做扎实，把推理规则拆明白，比堆参数重要得多。我先花了四周做图谱和规则，后面生成层的开发两周就完成了。反过来先做生成层，大概率你会被我那些坑逐个埋一遍。愿你做出来的“文化AI”，有骨头也有血肉。