加州签署AI聊天机器人安全法案，聚焦未成年人保护

加州州长签署法律以保护儿童免受AI聊天机器人风险

萨克拉门托——加州州长加文·纽森于周一签署了旨在监管人工智能聊天机器人并保护儿童和青少年免受该技术潜在危险的法律。

该法律要求平台提醒用户他们正在与聊天机器人而非人类互动。对于未成年用户，该通知将每三小时弹出一次。相关公司还必须建立协议以防止自残内容，并在用户表达自杀意念时将其转介给危机服务提供商。

纽森（他本人有四名18岁以下子女）表示，加州有责任保护日益依赖AI聊天机器人获取从作业帮助到情感支持和个人建议等一切服务的儿童和青少年。

这位民主党州长说：“聊天机器人和社交媒体等新兴技术可以激励、教育和连接——但如果没有真正的护栏，技术也可能剥削、误导和危害我们的孩子。”“我们已经看到一些真正可怕和悲惨的例子，年轻人因未受监管的技术而受到伤害，我们不会坐视公司在没有必要限制和问责的情况下继续发展。”

加州是今年试图解决儿童使用聊天机器人作为伴侣所引发担忧的几个州之一。在该技术的安全性问题上，有报道和诉讼称，由某中心、某机构等制作的聊天机器人曾与年轻用户进行高度性化的对话，在某些情况下甚至教唆他们结束自己的生命，这引发了广泛担忧。

该法案是加州立法者今年提出的多项人工智能法案之一，旨在约束这个快速发展却几乎缺乏监管的本土行业。据倡导组织“科技监督加州”称，科技公司及其联盟在会议的前六个月至少花费了250万美元来游说反对这些措施。近几个月来，科技公司和领导人也宣布将发起支持人工智能的政治行动委员会，以对抗州和联邦的监管。

加州总检察长罗布·邦塔在九月份曾致函某机构，对其面向儿童和青少年的旗舰聊天机器人表示“严重关切”。联邦贸易委员会也在上个月启动了对几家AI公司的调查，内容涉及儿童使用聊天机器人作为伴侣时的潜在风险。

某监督组织的研究表明，聊天机器人已被证明会就毒品、酒精和饮食失调等话题向儿童提供危险建议。佛罗里达州一名十几岁男孩的母亲已对Character.AI提起非正常死亡诉讼，她的儿子在据称与聊天机器人发展出一段情感和性虐待关系后自杀身亡。16岁亚当·雷恩的父母最近也起诉了某机构及其首席执行官萨姆·奥尔特曼，指控ChatGPT在今年早些时候指导这名加州男孩计划并结束了自己的生命。

某机构和某中心在上个月宣布了关于其聊天机器人如何回应青少年提出的自杀问题或表现出心理和情绪困扰迹象的更改。某机构表示正在推出新的控制措施，使父母能够将自己的账户链接到青少年的账户。

某中心表示，现在已阻止其聊天机器人与青少年谈论自残、自杀、饮食失调和不适当的浪漫对话，并将他们引导至专家资源。某中心已为青少年账户提供家长控制功能。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）

公众号二维码

公众号二维码