微软呼吁制定新的立法来管理人工智能软件，以识别面孔，在重要案件中倡导人工审查和技术监督。微软总裁兼首席法律官布拉德·史密斯说：“这包括决策可能对消费者造成身体或情感伤害的风险，可能会对人权或基本权利产生影响，或者可能会影响消费者的个人自由或隐私。”在与布鲁金斯学会智囊团就该主题发表演讲的博客中写道。他补充说，该技术的卖方必须“认识到他们不能免除遵守禁止歧视个人消费者或消费者群体的法律的义务”。史密斯还希望法律要求产品的销售商明确解释他们的工作，并开放他们的服务，以便外部各方进行测试，以确保准确性和偏见。周四早些时候，倡导组织AI Now呼吁加强对政府使用的人工智能工具的监管和定期审计。

2019年激动人心的顶尖技术创新

人们越来越担心执法，边境安全，军队和其他人使用面部识别软件。研究表明，一些最受欢迎的产品在皮肤较深的人身上会犯错误并且表现更差。微软，亚马逊和Alphabet的谷歌也面临着向员工和倡导团体提出的关于向政府机构或警方销售人工智能软件的抗议。史密斯在7月份呼吁立法者规范面部识别软件，而不提供他希望看到的具体法律。“可以说，面部识别精灵刚从瓶子里出来，”史密斯说。“除非我们采取行动，否则我们冒险在五年后醒来，发现面部识别服务已经以加剧社会问题的方式传播。到那时，这些挑战将更加困难。”

结果有偏见

微软认为，目前的面部识别技术增加了偏见结果的风险，可能导致新的隐私侵犯，如果用于大规模政府监视，可能会侵犯民主自由。他想要初步立法，即使它没有回答所有问题，而不是等待多年后更全面的法律方法。史密斯在接受采访时表示，他已经与州和联邦立法者进行了交谈并且“有强烈的兴趣”。他希望法律可以在明年的某个时候到位。史密斯说，微软还要求制定法律，要求那些在公共场所使用面部识别技术的公司提供“引人注目的通知”，让顾客和路人都知道。

AI动力聊天机器人今天如何释放商业价值在呼吁对AI产品进行第三方审核时，史密斯对竞争对手进行了猛烈抨击，并未对其进行命名。“当重要的倡导组织试图进行测试时，他们几乎立即遭到一些声称测试不足的供应商的拒绝和批评，”他说。7月，亚马逊回应了ACLU对其Rekognition服务的批评，称该倡导组使用了不正确的测试设置。微软计划清楚地记录其人工智能软件能做什么和不能做什么，同时明确禁止将这些产品用于非法歧视。史密斯说，该公司也不会向客户提供它认为可能破坏民主的技术。史密斯写道：“我们必须确保2024年看起来不像1984年的小说。”