起草道德数据实践蓝图的四个步骤

乔尔·夏皮罗(Joel Shapiro)博士是凯洛格管理学院(Kellogg School Of Management)数据分析临床副教授，负责凯洛格分析咨询实验室(Kellogg‘s Analytical Consulting Lab)。Joel也是领先的销售业绩管理软件提供商Varicent的首席分析官。

Virtue创始人兼首席执行官里德·布莱克曼(Reid Blackman)博士与公司合作，将道德风险缓解纳入新兴技术产品的开发、部署和采购。他也是安永(Ernst&；Young)人工智能顾问委员会的创始成员。

今天的数据和分析领导者肩负着用数据创造价值的重任。考虑到他们的技能和权限，他们在组织上也处于独特的地位，可以负责带头开展道德数据实践。缺乏可操作、可扩展和可持续的数据伦理框架会增加不良商业行为、违反利益相关者信任、损害品牌声誉、监管调查和诉讼的风险。

以下是首席数据官/科学家和首席分析官(CDAO)在创建自己的道德数据和业务实践框架时应该采用的四个关键实践。

CDAO必须识别并执行分析的经济机会，而机会也伴随着风险。无论数据的使用是内部的(例如，提高客户保留率或供应链效率)，还是内置到面向客户的产品和服务中，这些领导者都需要明确识别并降低与使用数据相关的损害风险。

开始建立符合道德的数据实践的一个很好的方法是指望现有的组织(如数据治理委员会)建立一个数据道德框架，这些组织已经解决了隐私、合规和网络风险问题。道德框架与现有的基础设施相衔接，增加了成功和有效采用的可能性。或者，如果不存在这样的机构，则应成立一个新的机构，由组织内部的相关专家组成。数据伦理管理机构应负责将数据伦理原则正式化，并将这些原则用于开发中或已部署的产品或流程。

所有分析和人工智能项目都需要数据收集和分析策略。合乎道德的数据收集至少必须包括：在收集人们的数据时确保知情同意，确保合法遵守，如遵守GDPR，匿名个人身份信息，使其不能被合理地反向工程以揭示身份和保护隐私。

其中一些标准，如隐私保护，并不一定有必须达到的硬性标准。CDAO需要在道德上明智的做法和他们的选择如何影响业务结果之间进行适当的平衡。然后，必须将这些标准转化为产品经理的职责，而产品经理又必须确保一线数据收集者按照这些标准行事。

CDAO还必须在算法伦理和透明度方面表明立场。例如，人工智能驱动的搜索功能或推荐系统是否应该努力实现最大的预测准确性，为用户真正想要的提供最佳猜测？微细分，将结果或推荐限制在其他“相似的人”过去点击过的内容，这符合道德吗？向某些第三方提供实际上不是可预测的、但能实现利润最大化的结果或建议，这合乎道德吗？多大程度的算法透明度是合适的，用户关心多少？一份强有力的道德蓝图需要系统和谨慎地解决这些问题，而不是将这些决定推给缺乏做出这些决定所需培训和经验的个别数据科学家和技术开发人员。

部门和产品经理需要指导如何预测不公平和有偏见的结果。仅仅由于数据收集不平衡就可能出现不平等和偏见-例如，对100,000名男性面孔和5,000名女性面孔进行培训的面部识别工具可能会因性别而有所不同。CDAO必须帮助确保平衡和代表性的数据集。

其他偏见不那么明显，但同样重要。2019年，苹果卡(Apple Card)和高盛(Goldman Sachs)被指在向男性提供比女性更高的信贷额度时存在性别偏见。尽管高盛(Goldman Sachs)坚持认为，信用-而不是性别-是信贷决策的驱动因素，但从历史上看，女性获得信贷的机会较少，这一事实可能意味着该算法有利于男性。

为了缓解不平等，CDAO必须帮助技术开发人员和产品经理同样驾驭公平的含义。虽然计算机科学文献提供了无数公平的度量和定义，但在缺乏与业务经理和外部专家的协作的情况下，开发人员无法合理地选择其中一种，因为业务经理和外部专家可以提供对数据最终如何使用的深入上下文理解。一旦选择了公平标准，还必须将它们有效地传达给数据收集者，以确保遵守。

CDAO通常通过以下两种方式之一构建分析能力：通过卓越中心，为整个组织提供服务，或者更分布式的模式，让数据科学家和分析投资致力于特定的功能领域，如营销、财务或运营。无论组织结构如何，识别道德风险的过程和准则都必须清楚地传达和适当地激励。

通过建立数据伦理机构与部门和团队之间的联系，明确建立责任。这可以通过让每个部门或团队指定自己的“道德卫士”来监督道德问题来实现。拥护者需要能够将担忧提升到数据伦理机构，该机构可以就缓解策略提供建议，例如增加现有数据、提高透明度或创建新的目标函数。

通过围绕数据和人工智能道德的教育和培训，确保团队之间的定义和流程一致。

通过促进内部团队之间的协作和分享来自其他领域的实例和研究，拓宽团队在如何识别和补救道德问题方面的视角。

创造激励措施--财务或其他认可--以建立重视道德风险识别和缓解的文化。

CDAO负责数据的战略使用和部署，以通过新产品推动收入，并创造更大的内部一致性。今天，太多的业务和数据领导者试图通过简单地权衡决策出现时的利弊来“保持道德”。这种短视的观点造成了不必要的声誉、财务和组织风险。正如数据的战略方法需要数据治理计划一样，良好的数据治理也需要道德计划。简而言之，良好的数据治理就是合乎道德的数据治理。