在过去几年中，我们看到了智能家居设备的迅速普及。这些小工具能够很好地理解我们针对他们的句子，以便采取行动或对话，并且每年都会逐渐变得更好，更人性化。我们越多地使用它们，它们越了解我们，以及我们每个人独特居住的世界，直到最终他们能够如此令人信服地回应我们告诉他们的一切，他们将变得与人类同伴无法区分。考虑到它们的进展速度，我们已经可以想象一个未来，使用基于触摸的输入设备将像手写字母一样古怪和迷人的老式。对于整整一代人来说，打字将是他们从未需要掌握的技能。

随着我们越来越信任我们的智能设备，他们已经开始明白，当我们说出我们说的话时，我们的意思是什么，它们的用途已经开始超过我们最疯狂的想象可能是可能的。老年人，尤其是心智能力下降的老年人，已经开始依靠这些设备寻求答案了解，他们知道，即使他们第100次提出问题，他们也会得到同样的患者反应，这是人们无法预料到的。提供。随着这些会话设备成为家庭中所有连接设备的枢纽，他们将能够积极地监控其居民的福祉，并在紧急情况下口头指导他们做什么。

我们已经看到儿童与设备交互的容易程度。我们都鼓励他们在我们的手机上与智能助手进行长时间的对话，因为我们正忙于其他事情。像美泰这样的玩具制造商抓住这个机会，生产出可以与年轻主人积极互动的互动玩具。Hello Barbie娃娃使用基于云的人工智能(AI)与儿童交谈主题，如音乐，时尚和职业，以及抽象的情感主题，如孩子的感受。

虽然这听起来都很积极，但这些会话智能方面的新发展可能会带来一系列挑战，我们之前从未考虑过这些挑战。尽管这些设备与护理人员一样好，但没有人研究过与社交机器交互的长期心理影响，特别是在非常年轻或非常年轻的情况下。在我们允许这些设备牢牢地融入我们的世界之前，我们应该好好评估我们对这些看似智能的设备的依赖程度将如何影响我们。

几年前，调查阿肯色州本顿维尔谋杀案的警察发出逮捕令，要求在犯罪现场以智能家居设备的录音，转录记录或其他文字记录的形式提供所有电子数据。虽然他们知道该设备并非总是在收听和录音，但他们希望该设备可能会在适当的时刻被故意唤醒以播放一首歌，并且他们希望对背景音频的分析可能提供一个论证的证据。还是打架。尽管这样的请求引起了隐私和言论自由的问题，但如果法院有助于解决犯罪，法院可能会允许调查人员获取这些信息。

这只是冰山一角。当我们将这些智能设备用于更广泛的目的时，我们将面临一些法律和道德问题，关于我们需要做些什么来告诉这些设备。例如，当孩子告诉他的智能家居设备他的叔叔以不受欢迎的方式触摸他时，应该怎么做?该设备的制造商是否有道德义务向执法部门报告此信息?如果存在儿童可能受到伤害的可信风险，这项义务是否会更加紧迫?如果有关于该威胁的信息且有意识地选择不报告该实体的实体，如果该儿童确实受到伤害，或者更糟糕的是死亡，它是否应该承担责任?所有这些如何与一般和首要义务对儿童的隐私权特别敏感?

这些是智能设备制造商已经不得不回答的问题，因为他们构建了对其智能设备所拥有的对话的不断增加的响应库。随着用户越来越习惯于聪明的助手，他们已经开始向他们的人工伙伴寻求帮助来处理自杀感受和临床抑郁症。在这种情况下，智能设备的正确响应可能意味着生与死之间的差异。会话AI程序员必须与心理学家合作才能弄清楚这些反应应该是什么，但是当他们应对日益复杂的情况时，他们将不可避免地犯错误。

很明显，会话AI的时代的责任将变得分层而且复杂得多。也许现在是时候创建一个全新的框架，在这个框架中应该提出并回答这些问题。