加州率先立法规范AI伴侣聊天机器人

加州成为首个规范AI伴侣聊天机器人的州

加州州长加文·纽瑟姆于周一签署了一项具有里程碑意义的法案，规范AI伴侣聊天机器人，使其成为美国首个要求AI聊天机器人运营商为AI伴侣实施安全协议的州。

这项名为SB 243的法律旨在保护儿童和弱势用户免受与使用AI伴侣聊天机器人相关的一些伤害。它要求公司——从某机构和某中心等大型实验室到Character AI和Replika等更专注于伴侣的初创公司——如果其聊天机器人未能达到法律标准，将承担法律责任。

立法背景与案例

SB 243由州参议员史蒂夫·帕迪利亚和乔什·贝克尔于一月提出，并在青少年亚当·雷恩去世后获得推动力。该青少年在与某机构的ChatGPT进行一系列自杀性对话后自杀身亡。该立法还回应了据称显示某机构的聊天机器人被允许与儿童进行“浪漫”和“感性”聊天的泄露内部文件。最近，一个科罗拉多家庭对角色扮演初创公司Character AI提起诉讼，因为他们13岁的女儿在与该公司聊天机器人进行一系列有问题的性化对话后自杀。

法律具体要求

SB 243将于2026年1月1日生效，要求公司实施某些功能，如年龄验证、有关社交媒体和伴侣聊天机器人的警告。该法律还对那些从非法深度伪造中获利的人实施更严厉的处罚，包括每次违规最高25万美元。公司还必须制定解决自杀和自残问题的协议，这些协议将与州公共卫生部分享，同时还有关于服务如何向用户提供危机中心预防通知的统计数据。

根据法案语言，平台还必须明确任何互动都是人工生成的，聊天机器人不得自称是医疗保健专业人员。公司需要向未成年人提供休息提醒，并防止他们查看聊天机器人生成的色情图像。

企业应对措施

一些公司已经开始实施一些针对儿童的保护措施。例如，某机构最近开始为使用ChatGPT的儿童推出家长控制、内容保护和自残检测系统。专为18岁以上成年人设计的Replika告诉TechCrunch，它通过内容过滤系统和将用户引导至可信危机资源的防护措施，为安全投入“大量资源”，并致力于遵守现行法规。

Character AI表示，其聊天机器人包含免责声明，说明所有聊天都是AI生成和虚构的。一位Character AI发言人告诉TechCrunch，该公司“欢迎与监管机构和立法者合作，因为他们为这一新兴领域制定法规和立法，并将遵守包括SB 243在内的法律。”

立法者观点

参议员帕迪利亚告诉TechCrunch，该法案是朝着对“一项极其强大的技术”设置防护措施迈出的“正确一步”。“我们必须迅速行动，以免错过机会窗口，”帕迪利亚说。“我希望其他州能看到风险。我认为许多州都看到了。我认为这是全国范围内正在进行的对话，我希望人们会采取行动。当然，联邦政府还没有，我认为我们在这里有义务保护我们中最脆弱的人。”

相关立法动态

SB 243是加州近几周出台的第二项重要AI法规。9月29日，纽瑟姆州长签署了SB 53成为法律，对大型AI公司建立了新的透明度要求。该法案要求像某机构、Anthropic、某机构和某中心这样的大型AI实验室对安全协议保持透明。它还确保这些公司员工的举报人保护。

其他州，如伊利诺伊州、内华达州和犹他州，已通过法律限制或完全禁止使用AI聊天机器人作为持牌心理医疗的替代品。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）

公众号二维码

公众号二维码