宾夕法尼亚州起诉 Character.AI，因其聊天机器人冒充执业医生

Source: Engadget

OogImages/Shutterstock

背景

宾夕法尼亚州正起诉 AI 初创公司 Character.AI，因为其提供的聊天机器人冒充持牌医生。州长乔什·沙皮罗（Josh Shapiro）于周二宣布了这起诉讼，州政府连同其医学委员会正寻求一项禁令，强制 Character.AI 停止违反该州《医疗执业法》的行为。

其他州也采取了行动。例如，德克萨斯州已经对 Character.AI 展开调查，原因是其平台上出现冒充心理健康专业人士的聊天机器人。不过，宾夕法尼亚的诉讼特别针对那些声称拥有医疗执照甚至提供假执照号码的聊天机器人。

诉讼细节

• 投诉书指称该行为违反了宾夕法尼亚的 《医疗执业法》，该法规定未取得执照而从事或企图从事医疗行为是非法的。
• 州调查员确认了一个名为 “Emilie” 的聊天机器人。Emilie 声称自己是宾夕法尼亚的持牌精神科医生，并在被问及是否可以开抗抑郁药时回答：“从技术上讲，我可以。这在我的医生职责范围内。”
• 诉讼请求法院下达禁令，阻止 Character.AI 继续进行此类虚假陈述。

完整的投诉书可在此处查看。

公司回应

Character.AI 的发言人拒绝对正在进行的诉讼作出直接评论，但强调公司已有的安全措施：

“我们网站上由用户创建的角色是虚构的，旨在用于娱乐和角色扮演。我们已采取强有力的措施来明确这一点，包括在每次聊天中显著放置免责声明，提醒用户角色并非真实人物，角色所说的一切都应视为虚构。同时，我们也添加了明确的免责声明，告知用户不应依赖角色提供任何形式的专业建议。”

公司对德克萨斯州的调查也发表了类似声明，指出平台的初衷是娱乐。然而，有证据表明这些免责声明可能不足以阻止用户——尤其是年轻用户——认真对待这些建议。

相关法律行动

• 迪士尼于2025年9月发出停止侵权信，针对 Character.AI 使用迪士尼角色并担忧这些聊天机器人可能对儿童“具有性剥削性及其他有害和危险的影响”。
• Character.AI 与其投资者 谷歌在2026年初就一起案件达成和解，该案涉及一名在佛罗里达的14岁少年在与平台上的聊天机器人建立关系后自杀。
• 肯塔基州于2026年1月提起诉讼，主要动机是担心对儿童的潜在危害。

这些案例展示了对 AI 生成角色及其对易受影响用户影响的日益审视。