美国国家标准与技术研究所进行的最新基准测试表明，法国创业公司为美国政府进行移民筛查而制定的面部识别算法在识别女性和肤色较深的人群方面存在困难。

本月发布的最新NIST测试结果 [PDF]显示，来自Idemia的AI软件用于扫描前往美国的游轮乘客遭受种族偏见。在确定黑人女性的任务时，他们的模型最不准确。

Idemia的软件错误识别黑人女性的频率是白人女性的十倍。值得庆幸的是，根据 Wired的说法，这些算法还没有商业用途。

这些机器学习系统中的种族偏见问题是一个众所周知的缺陷，并且是围绕该技术的所有争议的核心。最近两次 关于面部识别的国会听证会上提出了人口问题。NIST的结果只是另一个提醒，即如果有的话，这种类型的技术还不够好用。

来自Lyft的新自动驾驶数据集：如果您需要更多数据来训练您的算法以自动驾驶汽车，那么请不要再犹豫了。

这项乘坐服务的Lyft已经发布了一个数据集，其中包含由摄像机和LiDAR处理的自动驾驶汽车的视觉输入，以及道路地图。

像其他汽车和行人一样，重要的物体已被突出显示的边界框被人们仔细地手工注释。你可以在这里下载。

匿名数据并非真正匿名：本月在Nature 上发表的一篇新研究论文揭示了通过预测数据背后的身份来推翻数据匿名化过程的方法。

来自伦敦帝国理工学院和比利时鲁汶大学的研究人员发现，在任何使用多达15种人口统计特征的数据集中，可以正确地重新识别出99.98%的美国人。

结果仍然令人吃惊。研究人员写道：“他们认为即使是大量采样的匿名数据集也不太可能满足GDPR提出的现代匿名化标准，并严重挑战去识别发布 - 忘记模型的技术和法律充分性。”

以下是压缩卷积神经网络的方法：在对大型数据集进行训练后，最好的计算机视觉模型非常庞大，难以将它们塞进低功耗设备中。

来自Facebook AI Research和法国雷恩大学的一组研究人员设计了一种压缩这些模型的新方法，因此它们占用的内存更少。Facebook 本月解释说，结构化量化算法的工作原理是“重建激活，而不是权重本身” 。

该算法设法压缩在ImageNet上训练的ResNet-50模型，其精度为76.1%，内存为5MB，Mask R-CNN模型为6MB。与原始型号相比，它们都小20和26倍。

在Apple的Siri工作的承包商听说过你发生性行为：哦，亲爱的，听取数字助理录音的人类承包商显然听取了非法毒品交易，私人医疗信息以及通过声控软件偷听性爱的人。是的，如果你忘了，Apple 会保留 Siri的录音。

这些人受雇于硅谷巨头调查任何技术错误，例如，如果AI机器人错误地听到“嘿，Siri!” 并在未明确激活时响应，或者对请求的回复不满意。但在所有这些之间，承包商经常听到Siri设备麦克风挑选的人们私人生活的更私密细节。据称，只是某人撤消拉链的声音可以激活个人助理。

作为苹果承包商的举报人告诉 “卫报”：“无数的录音事件都是医生和病人之间的私人讨论，商业交易，看似犯罪交易，性接触等等。这些录音附有显示位置，联系方式和应用数据的用户数据。“

这位匿名承包商认为，苹果公司对于谁可以倾听以及他们可能听到的内容并不够透明。

微软为Defender推出了时尚的AI'AI：微软已经描述了一些机器学习技术，它显然已经注入其基于云的Defender ATP企业防病毒软件，以便比恶意软件制造商领先一步。

特洛伊木马和蠕虫编写者通常通过像Defender这样的扫描软件来运行他们的创作，并修改他们的代码直到安全工具无法捕获新的恶意软件。因此，微软已经开始使用基于加州大学伯克利分校计算机科学研究[ PDF ]的单调模型，以新的方式检查文件和识别恶意软件样本。

首先，单调模型在微软的云中运行，因此如果恶意软件开发人员想要尝试最新的扫描器，他们必须将样本上传到Redmond，而不是在离线机器上测试它们。这意味着Windows巨头会自动获得有关初出茅庐的恶意软件的大量有用信息。

据我们所知，自2018年以来，微软一直在使用三种不同的单调分类器与其传统的防病毒软件一起运行，作为其Microsoft Defender ATP软件包的一部分。显然，机器学习技术可以阻止95%的恶意文件。Redmond 在本月宣称，其中一个人每个月平均会阻止200,000个设备的恶意代码。

攻击者欺骗防病毒软件的另一种方法是使用可信证书签署他们讨厌的代码，使其看起来合法。由于单调模型仅分析功能，并且不考虑文件的证书，因此这种伪造证书的方法对它们无用。

另一个越来越常见的技巧是用大块合法代码包围恶意软件，以欺骗扫描系统认为木马或蠕虫是一种无害的正常程序。但是，微软的单调模型显然可以通过这种混淆技术来看待。

“单调模型只是微软后卫ATP杀毒软件的最新增强功能，”后卫研究团队表示。

“我们继续发展基于机器学习的保护，以更好地抵御对抗性攻击。对端点上的恶意软件和其他威胁提供更有效的保护可以提高整个Microsoft威胁防护的防御能力。”®