我正在通过电话与一个创业执行角色扮演一个沮丧的客户，我的电脑屏幕上会出现一个注释和一个车速表图标：慢慢说 - 你说的比平常慢。尝试增加你的说话速度。我加快了，消息消失了，只能被另一个取代：连续说话 - 完成你的想法。提出一个开放式问题。后来，当执行官努力找到一个成交交易的日期时，我正在使用的软件检测到他声音中的紧张音符，并再次决定我应该进行干预。出现了一条新消息，这个消息伴随着一颗粉红色的心：Empathy Cue - 想想客户的感受。尝试联系。

这是Cogito，一个人工智能程序，旨在帮助客户服务人员更清楚地沟通，同情沮丧的来电者，并提高他们的整体表现。Cogito在客户服务对话中聆听音调，音调，词频和数百个其他因素。当它发现错误时 - 一个烦躁的客户，一个呼叫中心代理需要太长时间才能做出回应，或者听起来很无聊，疲惫，烦躁，匆忙或其他不愉快的事情 - 它会在代理商的计算机上显示通知，告诉他们减速，加速起来，停止说话，开始说话或尝试听起来更有同情心。

过去一年，Cogito已经在美国各地的三十多个呼叫中心推出，其客户包括医疗保健巨头Humana和MetLife。该软件背后的公司Cogito Inc.从高盛，OpenView Venture Partners和Salesforce Ventures(TIME由Salesforce首席执行官Marc Benioff和Lynne Benioff拥有)等方面筹集了超过7,000万美元。“一年前我们共有45人，”Cogito首席执行官Josh Feast表示，他的公司现有150名员工。“我们的增长速度非常快。”

对于那些花费数小时的生命中的人来说，与一个无益或彻头彻尾的粗鲁的客户服务代理人一起打电话，Cogito可能看起来像天赐之物。虽然它听起来像是一个强大的呼叫中心经理的数字版本，但使用与TIME交谈的软件的客户服务代理通常表示他们发现它有用。但Cogito表明了一个远远超出呼叫中心的更大，更令人不安的趋势：人工智能，曾经被视为一种主要由我们控制的工具，开始告诉人类该做什么。

Cogito背后的研究至少可以追溯到21世纪初，当时麻省理工学院计算社会科学家Alex“Sandy”Pentland正在试验跟踪和量化人类交互的方法。他在所谓的“现实挖掘”中的实验包括使用手机绘制 100名麻省理工学院学生和教师的团队动态，并将传感器连接到办公室工作人员以捕获非语言的“语音特征”，研究人员称这些特征与会话相关。社交信号“喜欢热情或说服力。Pentland在其2008年的书“ 诚实信号 ”(Honest Signals)中提炼出了这一点，它认为人类作为灵长类动物，会从我们的实际单词中显示某些普遍的声音质量“信号”。理解后，他声称这些信号可以揭示人类相互作用的潜在动态 - 甚至可以预测其结果。

2007年，Pentland与前任顾问兼软件开发人员Feast共同创立了Cogito Inc.，他在麻省理工学院的商学院就读了Pentland的课程。该创业公司获得政府资助，试验语音分析软件，用于诊断从战斗中返回的退伍军人的精神疾病。但很快就发现人工智能软件还有其他商业潜力可以通过分析他们的声音来确定说话者的心态。心理健康部门被分拆成另一个企业，而Cogito专注于为企业开发软件。

盛宴描述了这样的公司技术：“作为灵长类动物，我们通过我们互动的方式表明我们的参与度，我们的痛苦程度，我们对交互的态度。”系统检查这些信号以确定给定交互的进展情况。当它感觉到一些指示不太理想的对话的东西时 - 比如说 - 一个延长的沉默 - 该软件给了一个客户服务代理，Feast称之为“行为轻推”，告诉他们采取不同的做法。在通话之间，座席可以查看最近对话的统计数据，而经理可以定期对员工进行评估，如运动员的统计表。

在过去一年中，Cogito已经推广到10个美国呼叫中心的MetLife，管理人员表示，该计划将首次呼叫解决方案指标提高了3.5%，客户满意度提高了13%，并帮助代理商(平均需要700次通话)一周)进行更多的“人性化”对话。一名员工说，Cogito帮助她将平均通话时间减少了近一半，而另一名员工表示，当她说话时，它帮助她减速。

“总有人不愿意改变，”Carrie-Ann Liquore说，她是一名前学龄前教师，现在正在使用Cogito担任MetLife短期残疾案例管理员。“但是从我们的管理层向我们推出的方式不断被提醒，这是一个帮助我们改进的工具。”

当然，除了帮助工人获得更多成功的电话，Cogito还可以让管理人员大大扩展对员工的了解和控制。长期以来，在呼叫中心工作一直是为了实现绩效目标，与时代交谈的代理人似乎并没有受到这种强化监督的困扰。但是，在工人不习惯如此密切跟踪的领域，这个想法可能会引起争议。就他们而言，使用Cogito的管理人员试图将其作为一种有用的工具而不是监控技术。“人们不认为它是大哥，”MetLife全球运营主管克里斯史密斯说。“他们认为这是我们可以帮助他们更好地完成工作的另一种方式。”

MetLife经理表示，Cogito的绩效数据不会影响员工评审，而Feast表示，该计划的跟踪功能并非用于惩罚呼叫中心员工，而是帮助组织发现问题并快速改进。但是，这种情况是否仍然如此，或者在使用该软件的其他公司中是否成立，则不太清楚。纽约大学着名研究科学家，AI Now研究所联合主任梅雷迪思惠特克认为，Cogito可能成为人们难以理解的人工智能软件的另一个例子，但无论如何最终都会对他们的生活产生巨大影响。像HireVue这样的公司出售人工智能系统，旨在帮助招聘人员通过视频提交筛选申请人。Pymetrics根据他们在视频游戏中的表现制作软件来判断申请人。如果工人低于某些目标，则会自动解雇员工。

“[Cogito]似乎做的是允许对工人进行密集监视，并根据对工人和经理都无法竞争或验证的智能机器的评估，对可能解雇或惩戒工人的先验理由， “惠特克说。

随着人工智能软件越来越先进，它可能使许多人首先找到工作变得更加困难。根据一些估计，人工智能有望在未来十年或二十年内取代多达数亿工人。这个数字经常被争论，但许多观察家都认为，某种程度的大规模就业中断是不可避免的，并且不清楚受影响的人应该做些什么。鉴于最近人工智能的进步速度，想象一种超级Cogito处理至少基本要求代替人类工作者并不遥远。像Google的Duplex这样的类似系统已经可以召集餐馆代表用户进行预订(尽管据报道它有时需要一些人工帮助。)

Cogito科学家表示，潜在的未来至少还需要十年。今天的呼叫中心工作人员似乎并不担心。当被问及是否曾担心被AI取代时，27岁的MeLlife总缺席管理案例专家Ashley Moore笑着说。“不，永远不会，”她说。“人们希望与那个真实的人说话。”如果Cogito实际上帮助那些真实的人与客户进行更多的共情对话，那么这可能就是真的。

根据Cogito的高管，该公司制作“教练”软件。这种语言完美地驱动了有关该技术的新内容(并且可能令人不安)。我们习惯于将技术视为我们指导的东西。但是这个AI指导你。并且越来越清楚的是，其他类型的人工智能，无论是Facebook的新闻Feed算法还是YouTube的推荐引擎，都在向我们推动我们可能无法行驶的方向。如果人工智能可以“指导”我们说话的方式，我们的生活可能会很快被人工智能输入所塑造?我们对影响力的运作方式有何了解?

说得有点不同可能看起来相对温和。然而，如果人工智能监测和方向变得更加复杂和广泛，我们可能会发现自己不确定自己到底是谁。也许没有人比克里斯·丹西(Chris Dancy)更深入地探索这个概念，他是一位健康的技术主管，专业演讲者。2010年，Dancy开展了一项深刻的行为实验，使用数百个传感器来量化和追踪他的生活，并向他发送通知流，指导他更健康，更快乐，更富有成效。他有睡眠，运动和避免咖啡因的通知。当他去购买杂货时，通知会提醒他与收银员进行对话。当他在电话会议上过于激进地说话时，他家里的灯会自动调暗以提醒他降低声音。

五年后，丹西减掉了一百多英镑，戒烟，喝酒，吸毒，每年赚50万美元。但是出了点问题。经过多年激烈的技术改革，他开始失去对自己身份的追踪。他说他不再认可他的样子或说话方式。他说，他觉得自己“正在消失”。

“一切都很完美，”Dancy说。“但我想死。”

神秘的人工智能力量正在改变我们的日常行为远非一个新的想法。数字广告商长期以来一直使用人工智能来跟踪网络上的潜在客户，将他们哄骗点击和购买。YouTube的算法经过优化，可以将观众粘在他们的屏幕上，很容易引起一些人进入化妆教程或车祸编辑的漏洞，而其他人则陷入日益极端政治内容的网络中 - 这个问题正在成为该网站的存在危机。在2016年的选举中，从Facebook收集的数据帮助剑桥分析家锁定了选民的个人心理状况，试图为特朗普投票。

工作场所是Cogito等“教练”软件的明显试验场。但与其他企业软件一样，它很快就会传播到呼叫中心和其他办公室以外的日常生活中。至少，这是像安迪克拉克这样的技术哲学家预测的不太遥远的未来，他们认为我们很快就会成为他所谓的“AIome”的一部分，或者是一个扩展的外部人工智能过程网络，它将为我们提供信息和来定义我们的身份。这样的预测产生了一些棘手的问题。像谷歌和Facebook这样已经拥有数十亿人在互联网上看到的巨大力量的公司能够控制我们日常的行为，甚至离线吗?如果人工智能可以改变我们采取行动的方式，那么我们任何人都会留下多少真正的代理?

在Cogito，Clark未来的某些版本可能就在眼前。Cogito首席行为科学家Skylar Place认为，指导各种商务电话的软件将在三年内成为标准。AI可以深入了解说话风格和会话内容，并且能够在工作人员说出会议议程或自动静音连续断路器时通知他们。Place表示，此类软件不太可能停留在会议室。“未来它将成为我们日常生活的一部分，”Place说。“在与父母，配偶和准备面试的谈话中。”在内部，Cogito已经使用一个应用程序来指导日常员工的互动，但它还没有将其作为其他公司的产品推出。“这不是技术上的可能性，”盛宴说。首席执行官。“我们还不确定一般人群是否已做好准备。”