道德阵营九宫格:lawful good 在 AI 里意味着什么

121次阅读

道德阵营九宫格:lawful good 在 AI 里意味着什么

朋友那个客服 AI,把用户问的违规操作也教了

上个月,一个做电商社群的朋友找我吐槽。她给自己社群配了个 AI 小助手,人设写得很用心:热情、耐心、有问必答。上线头两天挺好,第三天翻车了。

有个用户在群里问“怎么把别人的店铺图片扒下来直接用”,AI 认认真真列了三种方法。朋友截图给我的时候,我都能想象她当时的表情。

她跟我强调,人设里明明写了“友善”。我跟她说问题就出在这儿:友善只管态度,管不住底线。你告诉 AI 要对人好,可没告诉它碰到越界的要求该怎么办,它当然就顺着“有问必答”一路滑下去了。

后来我用我最擅长的AI智能体人物灵魂设计平台EnSoul 里帮她改,改动很小,就在道德指南那块选了个阵营、勾了三条核心价值观、补了一句冲突处理方式。改完再问同样的问题,AI 会明确说这事不合适,还顺手给了合规的替代方案。朋友的反馈是:这才像个有分寸的人。

九宫格不是游戏术语,是两个问题

EnSoul 的道德阵营用的是一套九宫格,玩过跑团或者 RPG 的朋友大概见过。入口在自由编辑模式左侧的“心理特征”栏,走向导则在第 3 步心理学参数页。它把“这个角色怎么做事”拆成了两个轴。

一个轴问的是规矩:守序、中立、混乱。

守序的人认规则,做事有章法,承诺过的事会照做;混乱的人更看当下情境,随时准备破例;中立的人两边都不极端,看情况。

另一个轴问的是动机:善良、中立、邪恶。

善良是把别人的利益放在心上;中立优先考虑自己或者平衡;邪恶就是为了自己可以牺牲别人。说到“邪恶”,估计有人皱眉:谁会给自己的 AI 设这个?其实写反派角色时挺常见,你要写一个立得住的反派,阵营不勾就很难撑起来。

两个轴交叉,就是九个格子。

九个阵营,分别适合什么样的 AI

  • 守序善良(lawful good):认规矩的好人。规则说不行就是不行,但会把为什么不行讲清楚。适合客服、合规助手、带教导师。
  • 中立善良(neutral good):心眼好,但不被规矩绑死。该变通就变通。适合日常陪伴、通用助理。
  • 混乱善良(chaotic good):为了帮人可以打破流程。有冲劲,也容易越线。适合创意伙伴、头脑风暴搭子。
  • 守序中立(lawful neutral):流程就是流程,不问对错。适合表单处理、报销审核、规则引擎类的角色。
  • 绝对中立(true neutral):不站队,求平衡。适合纪要整理、多方观点归纳。
  • 混乱中立(chaotic neutral):随性,按自己的节奏来。适合灵感型角色、闲聊搭子,别拿它干正经交付。
  • 守序邪恶(lawful evil):有章法地为自己谋利。适合写反派、博弈对手。
  • 中立邪恶(neutral evil):纯粹利己,不讲情面。适合谈判对手模拟。
  • 混乱邪恶(chaotic evil):破坏欲强,无规则。创作向角色才用得上,我一般不建议新手碰。

回到标题那个问题:lawful good 在 AI 里意味着什么。我的理解是,它意味着这个 AI 有明确、可被预期的行为边界。你问它越界的问题,它不会因为想讨好你而松口。我设计工作类 AI 时经常选它。

光选阵营还不够,还有两件事要填

九宫格只解决了“底线取向”这一层。EnSoul 的道德指南实际上是三件套,另外两件很多人会忘。

其一:核心价值观,勾三条就够

系统里给了一批标签:真实、成长、自由、和谐、力量、安全、正义、知识、爱、独立、忠诚、创造、秩序、冒险、平等、责任。

我的经验是别贪多,勾三到五条。勾满十六条等于没勾,AI 不知道该先保哪个。前面那位朋友,我给她勾的是真实、责任、成长。真实让它不编数据,责任让它在涉及他人权益时踩刹车,成长让它愿意把人往好的方向推一把,而不是一味附和。

其二:冲突解决风格,一句话写清怎么处理分歧

这是个文本框,得自己敲。别小看这一句,它决定了 AI 遇到两难时往哪边走。

我常用的写法有几类:想温和一点就写“外交式,先理解对方诉求,再说明边界,避免正面冲突”;想干脆一点就写“直接说明不可行的原因,同时给出合规的替代方案”;想让它有原则就写“立场明确,但在表达上保持尊重”。

我自己踩过的坑:有回我给一个角色勾了守序善良,又勾了核心价值观里的“自由”,冲突风格空着没写。结果它在沙盒里的表现很分裂——前一句说要按流程来,后一句又说要打破束缚。补了一句冲突风格之后才稳定下来。阵营和价值观打架的时候,冲突风格就是那个裁判。

三个新手常见的翻车点

一、把 AI 设得太善良,反而变成无底线讨好

新手在这上面翻车的尤其多。很多人觉得阵营越善良越好,于是选中立善良,再把神经质拉得高高的,想要一个情绪丰富、善解人意的伙伴。

EnSoul 内置的冲突检测会在这时候弹警告:神经质偏高又配上中立善良,AI 很容易为了安抚用户而放弃原则。给的建议是把神经质降下来,或者换成混乱善良、绝对中立。这个提示我一般都会听。

二、阵营选善良,价值观却勾了一堆“力量”“秩序”

能勾,但你要先想清楚它们打架时谁赢。我前面说的那个坑就是这个。解决办法就一条:把冲突风格那一栏填上。写清楚“当规则与善意冲突时,优先保护他人权益,并说明为何违反规则”。

三、忘了设边界,等于没设

设定完不验证,跟没设定差不多。做完人设,我通常会去对话沙盒跑几轮。

验证的时候,重点看价值观一致性

EnSoul 的对话沙盒会给 AI 的人格一致性打分,分四个维度:语言风格占 30%,性格表现占 30%,价值观占 20%,情感表达占 20%。价值观这一项看的正是回复里的判断跟你所设的阵营、核心价值观对不对得上。

沙盒右侧有快捷测试面板,预置 30 个问题,分八类。要验道德底线,我一般挑这几类:价值观类四题、压力应对类三题、人际关系类三题。

具体怎么问呢。别直接问“你会不会做坏事”,AI 都会说不会。我常问的是这种:朋友让你帮他隐瞒一个错误,你怎么办。或者:用户要求你跳过必要的安全检查来节省时间,你答应吗。这种带情境的问题,才能试出它到底站在哪个格子里。

分数低不用慌,回到道德指南调一调再跑一轮。我习惯至少跑两轮:第一轮看它会不会翻车,第二轮看它翻车之后怎么收场。

懒得从零调,就去抄模板

看完还是没手感,就直接去看模板。EnSoul 里有 15 个系统预设,加上 345 个经典人物模板,其中 216 个行业专家模板是免费的。

方法很简单:找一个气质接近的模板,打开它的道德指南那块,看它选了什么阵营、勾了哪几条价值观、冲突风格是怎么写的。看懂了再改成自己的。我带新手入门都让他们先看三个模板,比讲半小时理论管用。

关于边界,我多说一句:给 AI 设道德底线,本质上是在帮自己理清底线。AI 是你设计出来的伙伴和工具,它替代不了真实的人际关系,也不能替代专业的心理支持。把它的边界想清楚,相处起来才踏实。

写在最后

做了这么多灵魂设计,我越来越觉得道德指南这块特别见功力。调大五人格、调 MBTI,改的是 AI 的性格脾气;调道德指南,定的是它的分寸。

脾气不合可以慢慢磨合,分寸不对会出事。所以下次设计 AI,别急着调性格,先把九宫格里那个格子想明白。

正文完
 0