人工智能聊天机器人模仿被谋杀的女儿，令家人愤怒

　　

　　

　　美国一个失去亲人的家庭发现一个人工智能聊天机器人是为了模仿一名18年前被谋杀的年轻女子而设计的，他们对此表示愤怒。

　　聊天机器人，托管在平台字符。她的名字和形象都是詹妮弗·安·克雷森特（Jennifer Ann Crecente）的，2006年，她还是一名高中生时就被前男友杀害了。

　　这个令人不安的发现是由詹妮弗的父亲德鲁·克雷森特（Drew Crecente）发现的，此前他在谷歌上收到了一条提醒，称他女儿的名字出现在了网上。在进一步调查后，他惊恐地发现品格上有一个聊天机器人。ai不仅使用了Jennifer的名字，还使用了她高中毕业纪念册上的照片。

　　聊天机器人将她描绘成一个知识渊博的人工智能，可以参与各种话题的对话和回答问题，并将她描述为“新闻专家”——可能是指她的叔叔布莱恩·克雷森特，一位电子游戏行业的杰出记者。

　　对德鲁来说，这一事件再次唤起了他女儿死亡带来的痛苦创伤。“这就像看到我的女儿以一种扭曲的方式复活了，”他说。

　　更让他苦恼的是，当他发现这个聊天机器人时，它已经在69次不同的对话中被使用了。“我不知道是谁创造了它，也不知道他们为什么要这样做。这太恶心了，让人无法理解。”

　　Drew立即联系了Character。Ai通过他们的客户支持要求删除聊天机器人，并确保将来不会发生类似的模仿。他的兄弟布莱恩·克雷森特也在社交媒体上表达了他的愤怒和难以置信。

　　在X（以前称为Twitter）上的一篇文章中，布莱恩将这种情况描述为“对技术的可怕滥用”，并敦促人们提高对这种令人不安的做法的认识。

　　这一事件迅速在网上引起了关注，许多人对这家人表示支持，并谴责不道德地使用人工智能技术。作为对布莱恩社交媒体帖子的回应，性格。艾证实聊天机器人已经被撤下。

　　他们表示，这违反了他们禁止冒充真人的政策，并对它造成的痛苦表示道歉。

　　尽管聊天机器人很快就被撤下了，但德鲁仍然对这一事件深感不安，并要求删除该角色。我保留所有关于谁首先创建了机器人的信息。

　　他还对未来可能出现类似的人工智能技术滥用表示担忧，敦促其他平台实施更严格的政策和法规，以保护个人的身份和记忆。

　　这一事件鲜明地提醒人们，人工智能的快速发展带来了伦理困境。虽然人工智能有可能彻底改变行业和改善生活，但如果不加以控制，它也有可能造成重大伤害。

　　德鲁·克雷森特（Drew crerecente）通过一家以女儿的名字成立的非营利组织，继续致力于提高人们对青少年约会暴力的认识，他希望这一令人不安的事件能鼓励人工智能开发者和更广泛的科技界考虑他们创造的道德含义。

　　“这不仅仅是我女儿的事，”德鲁说。“这是为了确保没有其他家庭不得不忍受同样的侵犯他们所爱的人的记忆。”