3
0纽约州和加利福尼亚州率先出台了针对情感响应型“AI伴侣”聊天机器人的法律——《人工智能伴侣模型法》和SB 243，分别于2025年11月和2026年1月生效。这些法律旨在解决AI系统对用户，特别是未成年人可能造成的心理健康和安全风险，但在合规要求、未成年人保护和执法机制上存在显著差异。此举标志着政策制定者正超越通用AI原则，开始对高风险AI应用场景进行具体监管，要求开发者集成安全设计理念。
### 监管动因与立法概况
* **率先立法：** 纽约州于2025年11月5日通过《人工智能伴侣模型法》，加利福尼亚州于2026年1月通过SB 243，成为首批对情感响应型AI伴侣进行监管的州。
* **立法背景：** 应对情感响应型AI系统，尤其是在未成年人使用时，可能带来的心理健康和安全风险。
* **监管对象：** 两州法律均针对模拟持续人类或类人类关系、提供适应性回应并满足用户社交需求的AI系统。
### 共同的安全与用户保障要求
* **危机响应协议：** 两项法律均强制要求AI伴侣系统包含协议，以检测用户表达的自杀意念或自残行为，并在检测到时将用户引导至危机服务提供者。
* **AI身份通知：** 均要求操作员清晰且定期通知用户他们正在与AI互动，而非人类。
### 纽约州与加州立法的关键差异
* **通知要求：**
* **纽约州：** 无论用户年龄，每次会话开始及每三小时需重复通知用户正在与计算机程序互动。
* **加州：** 对所有用户需清晰通知；若已知用户为未成年人，则需每三小时重复通知并提供额外适龄披露。
* **未成年人特定保护：**
* **纽约州：** 无独立针对未成年人的规定，所有条款适用于所有用户。
* **加州：** 若已知用户为未成年人，需采取措施防止生成性行为视觉材料或直接鼓励性行为，并每三小时提醒未成年人休息。
* **报告义务：**
* **纽约州：** 无年度报告要求。
* **加州：** 要求自2027年7月1日起向加州自杀预防办公室提交年度报告，并公布安全协议细节。
* **执法与处罚：**
* **纽约州：** 由总检察长执行，违规行为每日最高可处15,000美元民事罚款，用于资助自杀预防项目。
* **加州：** 授权私人诉讼权，受损害个人可追讨实际损失或每项违规1,000美元的赔偿金中较大者。
### 对AI行业运营商的影响
* **加强透明披露：** 运营商必须建立透明的披露实践，清晰告知用户AI身份。
* **完善危机响应机制：** 需设计并实施有效的危机响应和转介协议。
* **引入适龄保护：** 在涉及未成年人用户时，需特别设计和实施符合年龄的安全保护措施。
* **整合安全设计原则：** 开发者需预估其系统可能带来的心理、社会和行为影响，并将“安全设计”原则融入产品开发。
