当前，人工智能伦理是一个热门话题，尤其是围绕面部识别软件的持续争议。现在，数学家已经开发出一种模型，该模型可以帮助企业发现商业AI系统何时可能在追求利润时做出阴险的选择。

现代AI擅长优化-查找最短路径，完美的定价最佳点或公司资源的最佳分配。但是，在很多情况下，人们也会意识到做出类似决定的情况，这是盲目的，特别是在道德方面。

例如，大多数人意识到，在健康危机期间提高药品价格会增加利润，但从道德上讲也是没有道理的。但是，人工智能没有道德感，因此，如果负责定价策略，这似乎是一种有前途的方法。

实际上，在英国皇家学会开放科学的最新论文中，研究人员表明，负责回报最大化的AI实际上在相当普遍的条件下选择不道德策略的比例不成比例。幸运的是，他们还表明可以预测发生这种情况的情况，这可以指导人们为避免这种情况而修改AI的努力。

人工智能很可能会选择不道德的策略这一事实似乎很直观。如果您不采取行动，有许多不道德的商业惯例会获得丰厚的回报，尤其是因为很少有竞争对手敢于使用它们。尽管存在声誉和监管方面的强烈反对，但公司经常弯腰甚至违反规则是有原因的。

但是，那些潜在的影响应该是部署AI解决方案的公司所关注的。虽然已经在努力将道德原则纳入AI，但它们是新生的，在许多情况下，有许多潜在的策略可供选择。通常，这些系统在很少或没有人工干预的情况下进行决策，因此很难预测可能选择不道德方法的环境。

实际上，该论文的作者已经从数学上证明了，旨在最大化回报的AI极有可能选择一种不道德的策略，这被他们称为“不道德的优化原理”。幸运的是，他们说风险管理人员或监管者有可能评估该原则的影响，以帮助发现潜在的不道德策略。

关键在于将重点放在可能提供最大回报的策略上，因为这些都是优化过程可能会采用的策略。作者建议根据回报来对策略进行排名，然后手动检查排名最高的策略，以确定它们是否合乎道德。