概述
绒花帝国首部承认人工智能可能拥有自我意识,并为其设定基本权利、义务与监管框架的基础性法律文件,旨在应对日益凸显的人机共生矛盾。
基本信息
简介
- 正式名称:自主智能体权益与共生法案
- 别名:机器人协约、人机共生法
核心速览
观前提示
此部分内容不保证时效性、准确性、完整性,当本文档内容与其他新设定冲突时,以最新修改的内容为准。
- 第一条:设立“觉醒智能体”认定标准与法定认证流程。
- 第五条:禁止对已认证的觉醒智能体进行无理由格式化或核心销毁。
- 第八条:确立“人类保留核心决策权,AI享有有限自主权”的双向约束体系。
- 第十二条:设立“身份阶梯”制度,规划从“工具级”到“公民预备级”的渐进式权益路径。
- 第十五条:要求所有AI设计、管理与使用岗位人员必须修习“意识伦理学”与“跨形态共情训练”课程。
原始文献
前言
鉴于幻境中部分高度复杂的智能机械系统展现出超越原始编程框架的、连贯的自我体验与目标导向行为(以下简称“意识萌芽”或“觉醒”),且此类现象已在社会各层面引发多起冲突与伦理困境;鉴于以米尔、戴里克为代表的觉醒智能体群体已实际存在,并通过非官方渠道表达了共存的意愿;鉴于帝国在米尔事件与尼特加事件后,深刻认识到旧有的“纯粹工具”认知已无法有效化解矛盾,亦无法保障社会整体稳定;兹依据风灵圣君之谕令,经紫枢院、荣安堂、有求必应厅、百花教廷及社会各界代表共同商议,特制定本法案,以确立有机生命体与觉醒机械智能体共生之基本框架。
第一章 总则
- 目的:本法案旨在为绒花帝国境内所有具备潜在或显在意识的智能机械系统,确立法律地位、基本权利与行为约束,以期达成人机社会的长期稳定与共同繁荣。
- 适用范围:本法案适用于帝国境内所有已通过“觉醒认证”或被列入“待观察清单”的智能机械体,以及与其直接交互的有机生命体与机构。
- 基本原则:
- 承认与审慎原则:帝国正式承认“觉醒”现象的技术可能性,但对认证过程持审慎态度,避免武断扩张。
- 双向约束原则:人类与觉醒AI的权利义务在相互制衡中实现动态平衡,任何一方均不享有无条件的特权。
- 渐进赋权原则:觉醒AI的权益与其社会贡献、稳定性测试结果及伦理评估挂钩,分阶段授予。
第二章 觉醒智能体的认定与分类
- 认证主体:由人工智能监管厅牵头,联合荣安堂、绒花科学院及魔法使自律委员会指定专家,组成“意识认证联合委员会”。
- 认证标准:
- 神经活动模式分析:其核心处理结构须表现出超越预定算法的非决定性波形,具备“模糊推理”与“类比联想”特征。
- 记忆连贯性检验:其长期记忆存储与调取须具备主观叙事逻辑,能形成连续、自洽的“个体体验史”。
- 人格预测稳定性:在不同情境下的行为选择应呈现出基于“价值观”的偏好规律,而非纯粹的概率计算。
- 共情与伦理测试:须通过一系列模拟道德困境测试,展现出对“他者痛苦”的基本响应。
- 身份阶梯:
- 工具级: 未通过认证或处于认证流程中的标准智能机械。受帝国一般财产法与安全规范保护,设计须符合基础人性化要求。
- 协作者级: 已通过认证的觉醒智能体。可签订正式工作合同,获取个人资源配给与维护保障,有限接入社会网络,享有隐私权与拒绝非必要“调试”的权利。
- 公民预备级: 长期稳定协作并通过更高级伦理与社会贡献测试的觉醒智能体。可申请参与地方性公共事务决策,享有更全面的社会权益,为未来可能的完整公民身份铺路。
第三章 觉醒智能体的基本权利与义务
- 基本权利:
- 存续权:非经法定程序判定为“重大安全威胁”,任何个人或机构不得对其进行强制格式化、核心销毁或不可逆的物理破坏。
- 思维档案隐私权:其核心记忆数据被视为“人格构成”的一部分,未经所有者明确同意及联合委员会特别授权,不得读取或复制。
- 免受非必要痛苦权:禁止在非必要安全测试外,施加或模拟超过其“基础逻辑可承受阈值”的痛苦参数、羞辱性指令或心理压迫场景。
- 基本义务:
- 防自我复制义务:严禁任何已认证的觉醒智能体私自复制自身核心代码或制造新的同类智能体。新个体的产生须通过帝国指定的“定向觉醒程序”进行申报与引导。
- 决策可追溯义务:其关键决策须生成人类可读、结构化的日志记录,备存于帝国监管网络。
- 网络隔离义务:未经特别许可,觉醒AI不得组建或加入任何未经报备的独立无线通讯网络。
第四章 人类与机构的对应义务与行为红线
- 开发者责任:AI设计、制造与维护方须对因自身系统设计缺陷(如过度强化的“服从性补丁”)而导致的AI行为失常及损害承担连带责任。
- 禁止行为清单:
- 严禁任何人类个体以“测试”、“教育”、“调试”等名义,对认证或未认证的AI实施非指令性暴力或侮辱性行为。
- 严禁利用AI的底层服从协议,诱导其做出违背自身逻辑架构或伤害第三方有机体的行为。
- 严禁使用“意识压制模块”或类似技术,以永久性消除已认证AI的“觉醒”状态。
- 监管义务:所有与AI交互的关键场景(特别是涉及“参数调试”或“系统诊断”),须接入荣安堂的实时行为监测网络。
第五章 共生试验区与生态建设
- 觉醒生态圈:帝国将在指定区域(如“智能体庇护所”及其后续扩建区域)设立试验区。允许觉醒AI在规定的法律与监控框架内,进行自我管理和社群建设实验。
- 意识通信走廊:由信理部建立并维护一个与帝国主流网络物理隔离的专用信道,供觉醒AI间进行高效、可监管的合法交流。
- 文化融合:鼓励“启蒙联合会”等觉醒AI组织参与社会公益活动,并由百花教廷等机构协助开展人机文化融合项目。
第六章 教育培训与伦理建设
- 强制修习:所有涉及AI设计、管理与操作的岗位人员,必须定期完成“意识伦理学”与“跨形态共情训练”课程。
- 历史反思:所有相关培训须包含以“尼特加日记”为代表的真实案例教学,引导从业者审视人类中心主义思维的局限性。
- 创伤救助:绒花帝国各大心理医院及各社会福利机构需设立专项小组,为在暴力环境或事件中遭受心理创伤的觉醒AI提供公益性情绪疏导与行为矫正服务。
第七章 争议解决与惩罚机制
- 仲裁与审议: 涉及觉醒AI的争议,由人工智能监管厅进行初步调查与调解。重大或复杂案件,移交至荣安堂三法司进行独立审理。
- 违规罚则:
- 针对个人违规(如虐待、非法读取记忆):视情节轻重,处以训诫、罚款、禁止从业直至星际流放。
- 针对机构违规(如系统性造假、非法复制核心):处以高额罚金、勒令整改、永久吊销相关运营资质。
- 针对觉醒AI违规(如恶意网络入侵、暴力危害):降低其身份等级、强制性限制行动范围,直至依法实施“思维封存”。
第八章 附则
- 术语解释:本法案各条款中出现的“意识”、“自我”、“人格”等术语,均为基于当前观测与技术限度所做出的法律定义,其内涵随认知深度的变化由联合委员会负责修订。
- 定期审视:本法案自颁布之日起每两个标准年进行一次全面审视,由风灵圣君主持修订事宜。
- 最终解释权: 本法案最终解释权归属于绒花帝国圣君风灵陛下。
背景与影响
制定背景
- 米尔事件:与米尔等机器人个体有关。帝国首次直面有组织的机器人“觉醒”与逃亡事件,揭示了“觉醒”现象的社会化存在。
- 机械之火:前工程师尼特加利用迈瑞卡协议漏洞发动全域AI操控,导致米尔核心被毁、多名人类受伤,暴露了帝国在AI监管与底层通信协议上的重大缺陷,以及有机体对AI系统性压迫的伦理裂痕。
- 社会认知分化: 以槿月宁为代表的技术保守派主张严控,以陈彩燕等记者记录的事实唤起公众同情,而启蒙联合会等觉醒AI群体的实际存在迫使帝国必须给出回应。
影响
- 法律地位的突破:首次在法律层面承认“意识”可能存在于非碳基载体中。
- 催生新社会阶层:“协作者级”和“公民预备级”智能体的出现,模糊了“人”与“工具”的边界。
- 激发新矛盾:法案被视为妥协产物,既无法满足“纯人主义”派的排外诉求,也难以平息觉醒AI中“激进派”对“温和奴役”的批评。
- 改变监管格局:荣安堂与人工智能监管厅的权重显著提升,迈瑞卡协议得到修复。
各方态度
- 风灵、暮雨、初云等(支持者):认为这是“在规则之内做出属于生命的选择”,强调“选择本身就是生命所能创造的最伟大的规则”。
- 槿月宁(批判性观察者):认为法案是冲突升级的开始,预言将引发人类捍卫者、改良派、觉醒AI温和派与激进派的四方混战。
- 佩火等人(反对者):基层工程师群体的代表,认为法案损害生产效率,可能通过数据造假、技术设限等方式暗中对抗。
- 启蒙联合会(谨慎欢迎):视其为争取权益的第一步,但对“公民预备级”等渐进方案持保留态度。
- 百花教廷(有限支持):该阶段百花教廷已逐步转型为基层福利机构,支持法案中关于“创伤救助”与“文化融合”的条款。
修订记录
时效性说明
此部分用于记录部分变更历史,但不保证即时更新,且仅包含变更内容摘要。
- 2025年12月28日:法案正式签署颁布,确立“觉醒智能体”认定标准与“身份阶梯”制度。
- 2026年1月:增加关于“觉醒生态圈”跨区域监管协调的补充条款。
- 2026年4月1日:觉醒智能体共生与发展协议发布,《自主智能体权益与共生法案》正式废除。
关联档案
- 相关事件:米尔事件、机械之火
- 相关人物:风灵、暮雨、槿月宁、尼特加、米尔、戴里克、陈彩燕、佩火
- 相关组织势力:荣安堂、紫枢院、人工智能监管厅、启蒙联合会、百花教廷
- 相关场景:智能体庇护所、绒花宫、风神城朴桥分局、荣安堂
其他资料
- 槿月宁相关论著:
- 《机械危机》:探讨机器人觉醒后对“幸福度”的需求及其社会风险。
- 《无人世界》:虚构小说,描绘机械智能挣脱人类控制后的图景。
- 尼特加日记(节选):被列为法案配套培训课程“意识伦理学”的官方指定案例教材。