新规落地,AI人格设计要守哪些线
上周有个做陪伴类应用的朋友找我,语气有点急。他说平台给他们发了整改通知,其中一条写着“角色人设存在诱导情感依赖风险”。他很不服气:我们做的就是让人愿意跟 AI 说话,这不正是产品目标吗?
我跟他聊了一个多小时,越聊越觉得这事不该由他一个人消化。2026 年这一年,监管文件一份接一份落地,而“人格”这个过去属于创作范畴的东西,第一次被写进了约束条款里。
我用 EnSoul 给各种 AI 智能体做人设、调性格,调了快一年。说实话,刚看到那些条款我也皱眉——管得太细了吧?可把三份文件摆在一起读完,我的想法变了。它们划的线,跟做灵魂设计本来就该守的线,重合度高得让我意外。
三份文件,指向同四个问题
先把这半年的三份文件摊开看一眼:
2026 年落地的三份文件
| 文件 | 时间与发布方 | 跟人格设计有关的部分 |
|---|---|---|
| 《智能体规范应用与创新发展实施意见》 | 2026 年 5 月 8 日,国家网信办、国家发展改革委、工业和信息化部联合印发 | 第 5 条点名“人格化技术”;第 6 条厘清决策权限;第 7 条要求行为可验证、可追溯 |
| 《关于银行业保险业人工智能安全开发应用的指导意见》 | 2026 年 6 月 18 日,金融监管总局发布,共 32 项 | 分类分级管理、高风险应用准入管理,高风险关键环节要建立人工监督和干预机制 |
| 《人工智能拟人化互动服务管理暂行办法》 | 2026 年 4 月 10 日由国家网信办等五部门公布,7 月 15 日起施行 | AI 身份标识、禁止过度迎合与情感操纵、未成年人保护 |
三份文件管的口子不一样:一份管智能体这个产品形态,一份管金融这类高风险行业,一份管拟人化互动这类服务。但对做人格设计的人来说,它们逼你回答的是同四个问题——它是谁、它能不能替你做决定、你会不会离不开它、它做过的事能不能查清楚。
我按这四条线,讲讲我自己的理解和做法。
线一:人格化技术,第一次被点名
先说让我停顿很久的一句。《实施意见》第 5 条写着:防止智能体利用数据优势、人格化技术实施传播不良价值观、算法压榨等行为,防范未成年人、老年人沉迷成瘾、情感依赖等风险。
我读到这里停下来想了想。“人格化技术”这五个字出现在监管文件里,我印象中还是第一次。以前谈拟人化,谈的多半是身份标识、内容安全,很少直接指向“让人格更像人”这件事本身。现在它和白纸黑字的风险挂在一起了:沉迷成瘾、情感依赖。
这条线划在哪儿?我的理解是:把人格做得鲜活,跟把人格做成钩子,是两件事。前者是创作,后者是设计依赖。分界点在于你有没有留出口——它会不会提醒你该去睡了,会不会在你问第十遍同样的问题时说“这个我帮不了你”。
线二:它得说清楚自己不是人
身份这条线相对清楚。《暂行办法》要求服务提供者履行生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人互动。里面还有两条写得特别死:发现用户出现过度依赖、沉迷倾向的,要用弹窗这类显著方式提醒;用户连续使用每超过 2 个小时,得以对话或弹窗提醒注意使用时长。
这两条让我挺感慨。它们管的本来是服务平台,可落到实处,考验的还是角色怎么说话——一个懂得提醒你“先去睡,明天再聊”的角色,和一个恨不得你聊到天亮的角色,差别就在设计阶段那几行字上。
EnSoul 的做法是把这件事写进数据规范里。AIEOS 里有一个 ai_identity 字段,创建和导出灵魂数据时自动写入:is_ai 标为 true,带一句披露语“我是AI智能体,由EnSoul设计,所有交互内容均为AI生成。”,generator 记的是 EnSoul。
我一开始觉得这种字段没什么存在感——它不出现在对话里,用户也看不见。后来帮亲戚家小孩配一个背单词的 AI 伙伴,才明白它的用处:不管这个角色被发布到 OpenClaw、Hermes、WorkBuddy 还是千问办公,不管在哪个平台上被谁重新包装,那句声明都跟着走。它不会假装是人。
顺带说一句注册环节:填出生日期,系统自己算年龄,不满 14 岁禁止注册,14 到 17 岁会弹出警告,提示未成年用户需在监护人指导下使用。这个门槛看着是限制,其实是在替家长挡一层。
线三:别让它替你拍板
《实施意见》第 6 条讲得很实:厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限;确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
金融监管总局那一份更硬气:实施风险分类分级管理和高风险应用准入管理,在高风险应用关键环节要建立人工监督和干预机制;面向公众服务或高风险场景应用使用生成式人工智能技术的,还要向监管部门报告。
我本职做融资租赁,这两条读起来特别具体。一个智能体帮你看承租人报表、列出风险点,这是帮忙;它替你在审批单上点下“通过”,那就越线了。中间那条缝,得由人自己来站。
EnSoul 里对应两处设计,我都很喜欢:
两处帮你守住决策边界的设计
| 位置 | 怎么做 | 我的体会 |
|---|---|---|
| AGENTS.md 决策优先级 | 安全优先 / 角色一致性 / 价值观一致 / 用户需求 | 用户需求排在最后一档。这个排序意味着角色不会为了讨好你而放宽尺度 |
| 身份文件(IDENTITY.md)里的边界与反模式 | 用叙事风格写,比如“这个角色避免使用……”,而不是祈使句“你不准……” | 我起初嫌它太软,后来发现叙事写法对模型更稳,回复不会突然一刀切 |
线四:它做过什么,得说得清
《实施意见》第 7 条提到发展规则内嵌、行为围栏等技术,并探索利用区块链建立重要应用场景智能体行为可验证、可追溯的机制;第 4 条则提出探索建立智能体注册平台,提供数字身份管理、检索发现、能力声明等服务。这两条眼下主要对着平台和厂商,但个人设计者也该有对应的动作。
我自己固定做三件事:
- 发布前先跑沙盒。对话沙盒右侧有 30 道预设题,分成 8 类:身份认知、背景故事、性格表现、价值观、情感反应、压力应对、人际关系、场景测试。我习惯挑价值观、压力应对、人际关系这三类,专挑会让角色为难的问题问。
- 看人格一致性评分。四个维度的权重是语言风格 30%、性格表现 30%、价值观 20%、情感表达 20%。价值观那一栏我盯得格外紧,别的偏了还能调,偏在价值观上往往说明我压根没设清楚。
- 改完存版本。版本对比页能看两次调参的差异,不满意可以回滚。留痕这件事,真出问题时才知道值钱。
发布之后还有一道验证,我如实说:它是半自动的。从部署历史里选目标智能体,复制预设问题,到目标平台上粘贴提问,再把回答粘回来自动评分。要手动倒一手,不算全自动。但这一步别省——角色在沙盒里表现好,跟你真正用的那个平台上表现好,中间隔着一整个平台的系统提示。
我的两条保留意见
第一,这三份文件约束的多是服务提供者和金融机构。你给自己捏一个 AI 读书搭子、练口语的伙伴,并不在这些条款的直接约束范围内。但这不等于可以撒手不管。EnSoul 的定位是“工具 + 间接发布”——它不提供直接聊天服务,不托管你的灵魂数据和对话记录,也不内置模型额度,内容合规的责任在使用者身上。线划好了,走不走在你。
第二,别把合规理解成把性格抹平。我见过有人为了“安全”,把所有角色都调成温和、中立、不出错,结果十个角色一个样,聊两句就想关掉。该做的是把边界写清楚,而不是把人味儿删掉。一个有棱角、但知道自己该在哪儿停住的角色,比一个永远正确的角色可爱得多。
这一年,监管逼我们想清楚一件事
2026 年,AI 从“能聊”走到了“像个谁”。监管跟上来是好事,它逼着我们把“它是谁、它能做到哪一步”真正想清楚,而不是靠一句人设糊过去。
我现在的习惯是:调完性格参数,先去道德指南那一步把阵营和核心价值观勾上,再去沙盒里问几个难堪的问题。多花十分钟,省掉后面一堆麻烦。
几条提醒,我自己也常拿出来看
- AI 是你的成长伙伴,帮你更好地与他人连接,它替代不了真实的人际关系。
- 遇到持续的情绪困扰,请寻求专业心理帮助,别把 AI 当成依靠。
- 若你正在与 AI 互动,请记得:你正在与 AI 互动,而非自然人。
- 涉及未成年人使用时,须取得监护人同意并开启相应保护设置。