如何让人工智能变得可解释？

RegTech 公司Hawk: AI的首席技术官沃尔夫冈·伯纳(Wolfgang Berner)的表示，如果你真的可解释性对于许多应用尤为关键。

伯纳表示:“在反洗钱等严格监管的领域，考虑人工智能的使用透明度和可解释性是完全合适的。当AI的决策与原始数据过于脱节，以及算法的工作方式缺乏透明度时，人们就会对这种典型的“黑匣子AI”产生担忧。”

Hawk AI认为，合规行业、信任和接受的关键在于高度的透明度。因此，对于该公司来说，对人工智能可解释性的需求远远超出了纯粹的监管要求。

借助可理解的人工智能，金融机构甚至可以对神经网络等复杂模型进行概览和控制。对于 Hawk AI，可解释性由两个方面组成——人工智能驱动的个人决策的理由是什么？有助于人工智能的算法是如何开发的？

Hawk AI 表示：“对于 Hawk AI 来说，这很清楚——只有技术上可以解释的，最终才会被接受。决策的确切标准或某些风险的统计概率以及算法的组成与 AI 决策过程的完整文档一样重要。同样重要的是，所有这些都以清晰易懂的语言而不是纯粹的技术术语来表达。”

该公司认为，每个细节和每个数据源都必须是可验证的——例如，与特定同行组相比，某些值是显着高还是低。为什么人工智能假设某些预期值以及这些值如何相互关联，必须是透明的。数据情况必须非常清楚，以至于合规官会使用相同的数据做出相同的决定。

此外，一致的反馈和验证流程有助于不断改进决策——因此，人工智能直接从合规团队的决策中学习，并可以在未来更好地支持他们。

Hawk 提到，AI 不仅在其应用之初必须是透明的——因为它通过接触新数据来独立改进，还需要能够理解这样的优化。为此，该公司声称 AI 的每一个变更过程也都记录在软件中，并且需要明确的批准。因此，如果没有合规团队能够理解和控制它，人工智能就永远不会进化。

Hawk AI 总结道：“AI 反洗钱已经准备就绪——有了 Hawk AI，它是透明且安全的。由于这些原因，Hawk AI 谈到了与人工智能相关的“白盒 AI”，与“黑盒 AI”相比，其技术对于合规团队来说是完全可以理解的。因此，我们的软件提供了完全的控制和安全性。人工智能在金融领域的应用正在彻底改变打击金融犯罪的斗争。

“技术驱动的反洗钱不仅在效率和有效性方面明显超越了传统系统，而且由于它能够从犯罪行为模式中学习，因此特别具有前瞻性。因此，从长远来看，使用人工智能打击金融犯罪将成为行业标准。多年来，该技术已在实践中得到验证。即使在非常大的金融机构中，它今天已经在使用，或者至少在第一批试点中已经建立。”

Hawk AI已与推动金融和零售互联商务的领导者 Diebold Nixdorf 合作，以扩大前者的 AML 解决方案的覆盖范围。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。