导读 华威大学，伦敦帝国学院，EPFL(Lausanne)和Sciteb Ltd的研究人员发现了一种数学方法，可以帮助监管机构和业务管理并监管人工智能系统偏向

华威大学，伦敦帝国学院，EPFL(Lausanne)和Sciteb Ltd的研究人员发现了一种数学方法，可以帮助监管机构和业务管理并监管人工智能系统偏向做出不道德，可能非常昂贵和破坏性商业选择的偏见。对AI的道德眼光。

人工智能(AI)越来越多地用于商业场合。例如，考虑使用AI设置要出售给特定客户的保险产品的价格。为不同的人设定不同的价格是有正当理由的，但是“玩弄”他们的心理或愿意货比三家也可能是有利可图的。

人工智能有很多可供选择的潜在策略，但有些策略不道德，不仅会带来道德上的损失，而且会产生巨大的潜在经济损失，因为利益相关者如果发现使用了这种策略，就会对其施加一定的惩罚-监管者可能会征税。数十亿美元，英镑或欧元的巨额罚款，客户可能会抵制您(或两者兼而有之)。

因此，在越来越多的决策无需人工干预的环境中，因此有强烈的动机去了解AI系统在什么情况下可能采取不道德的策略，并降低这种风险或在可能的情况下完全消除风险。

来自华威大学，帝国理工大学，EPFL和Sciteb Ltd的数学家和统计学家汇聚在一起，以帮助企业和监管机构制定新的“不道德优化原则”，并提供一个简单的公式来估算其影响。他们在一份名为“不道德优化原则”的论文中列出了全部细节，该论文于2020年7月1日星期三在皇家学会开放科学杂志上发表。

该论文的四位作者是Sciteb Ltd的Nicholas Beale;伦敦帝国学院数学系的Heather Battey;洛桑邦理工学院数学研究所的Anthony C. Davison;沃里克大学数学学院的罗伯特·麦凯(Robert MacKay)教授。

华威大学数学学院的罗伯特·麦凯(Robert MacKay)教授说：

“我们建议的“不道德优化原则”可用于帮助监管机构，合规人员和其他人员找到可能隐藏在大型策略空间中的问题策略。可以期望优化会不成比例地选择许多不道德策略，对其进行检查应显示在哪里问题可能会出现，因此建议应如何修改AI搜索算法，以免日后避免使用它们。

“该原则还表明，可能有必要重新考虑AI在非常大的战略空间中的运作方式，以便在优化/学习过程中明确拒绝不道德的结果。”