没有监管的AI会产生伦理偏见

标签:AI
分享到:

透明度通常在道德商业困境中发挥关键作用——我们拥有的信息越多,就越容易确定什么是可接受的和不可接受的结果。如果财务错位,谁犯了会计错误?如果数据被泄露,谁负责保护数据,他们的行为是否正确?

但是,当我们寻找错误或问题的明确来源并且找不到人时会发生什么?这就是人工智能提出独特的道德考虑的地方。

人工智能在组织中显示出巨大的潜力,但它在很大程度上仍然是一种正在寻找问题的解决方案。这是一个被误解的概念,实际应用尚未在企业内完全实现。再加上许多公司缺乏以真正转型的方式应用人工智能的预算、人才和远见,人工智能仍远未达到临界规模,而且容易被滥用。

但仅仅因为人工智能在日常业务中可能不是超可见的,并不意味着它在您的组织内的某个地方没有发挥作用。就像商业中的许多其他道德困境一样,人工智能中的道德失误经常发生在阴暗处。无论有意与否,人工智能项目或应用打破道德界限的后果可能是噩梦。避免人工智能中的道德失误的关键是从一开始就对项目进行公司治理。

以透明和信任构建人工智能

到目前为止,我们都熟悉 AI 出错的流行示例。对于深色皮肤的顾客不能正常工作的皂液器,对白种人来说更准确的脉搏血氧仪,甚至预测罪犯是否会重新入狱的算法,都是人工智能(可以说是无意中)存在偏见的故事。

这些情况不仅会引起糟糕的头条新闻和社交媒体的强烈反对,而且还会破坏更合法的人工智能用例,如果继续以不信任的态度看待这项技术,这些用例将无法实现。例如,仅在医疗保健领域,人工智能就有可能改善癌症诊断并标记高风险再次入院的患者以获得额外支持。除非我们学会建立人们对人工智能的信任,否则我们不会看到这些强大解决方案的全部好处。

当我与同行和商业领袖谈论人工智能时,我从一开始就支持人工智能工作中的透明度和治理理念。更具体地说,这是我的建议:

1、道德人工智能不可能在真空中发生

如果实施不当,人工智能应用可能会产生重大的连锁反应。当单个部门或 IT 团队开始在没有监督的情况下尝试 AI 驱动的流程时,通常会发生这种情况。如果他们的实验出错,团队是否意识到可能发生的伦理影响?部署是否符合公司现有的数据保留和访问策略?没有监督,很难回答这些问题。

而且,如果没有治理,如果确实发生了道德失误,那么召集纠正道德失误所需的利益相关者可能会更加困难。监督不应被视为对创新的壁垒,而是一项必要的检查,以确保人工智能在一定的道德范围内运行。监督最终应该落在拥有他们的组织中的首席数据官,或者如果 CDO 角色不存在,则由首席信息官负责。

2、始终有计划

我们看到的关于 AI 项目出现问题的最糟糕的头条新闻通常有一个共同点,即处于其中的公司在出现问题时不准备回答问题或解释决策。监督可以解决这个问题。当组织的最高层存在对 AI 的理解和健康哲学时,就不太可能因问题而措手不及。

3、尽职调查和测试是强制性的

通过更多的耐心和更多的测试,许多人工智能偏见的经典例子都可以得到缓解。就像洗手液分配器的例子一样,一家公司展示其新技术的兴奋最终适得其反。在产品公开发布之前,进一步的测试可能会发现这种偏见。此外,任何人工智能应用程序都需要从一开始就进行严格审查。由于人工智能的复杂性和不确定的潜力,必须战略性地谨慎使用它。

4、考虑人工智能监督功能

为了保护客户隐私,金融机构投入大量资源来管理对敏感文件的访问。他们的记录团队仔细分类资产并构建基础设施,以确保只有正确的工作角色和部门才能看到每一个。这种结构可以作为构建组织人工智能治理功能的模板。一个专门的团队可以估计人工智能应用程序的潜在积极或消极影响,并确定需要多久审查一次其结果以及由谁来审查。

对于寻求数字化颠覆的企业来说,试验人工智能是重要的下一步。它将人类工作者从平凡的任务中解放出来,并使某些活动(如图像分析)能够以以前在财务上并不谨慎的方式进行扩展。但这不能掉以轻心。人工智能应用必须在适当的监督下仔细开发,以避免偏见、道德上有问题的决定和糟糕的业务结果。确保对组织内的 AI 工作进行了正确的训练。最严重的道德失误往往发生在黑暗处。

继续阅读
迎接边缘 AI 挑战

AI 技术愈来愈受欢迎,在汽车、视觉处理和电信等领域的应用也越来越多。目前,AI 正在通过实现众多新功能来取代许多传统算法,例如为智能手机摄像头提供去噪和图像稳定功能。

医疗AI的未来发展:值得关注的3大趋势

当新冠疫情肆虐、人们心理健康出现危机、医疗成本上升、人口老龄化各种趋势交织出现的时候,行业领导者们加快了开发医疗专用AI应用的步伐,其中一个来自风投市场的信号显示:超过40家初创公司筹集了大量资金(超过2000万美金)用于打造医疗AI解决方案,但是到底AI是如何用于医疗行业中的呢?

行业应用加速落地,5G+AI催化物联网蝶变

新冠肺炎疫情防控期间,数字技术与线上经济以前所未有的广度和深度向全社会渗透。物联网作为将物理世界映射到数字世界的桥梁,正在从万物互联向万物智联迈进,在社会经济的数字化、智能化转型中扮演着越来越重要的角色

理性对待“AI+大数据”填报志愿

自6月23日开始,全国各地陆续进入高考“放榜”季。想当初,填志愿可是一项浩大、繁琐的工程。学生们要捧着一整本厚厚的志愿填报书籍,不停翻看、反复比对,才能确定学校每年的录取分数,录取位次,还要综合判断近几年的录取趋势,推测自己可能的录取概率。

如何更好地优化多核 AI 芯片

在人工智能和机器学习应用数据处理的强劲需求下,大规模并行计算迅速兴起,导致芯片复杂性呈现爆炸式增长。这种复杂性体现在 Cerebras 晶圆级引擎(如下图)等设计中,该设计是一种平铺多核、多晶片设计,将晶体管数量增加至数万亿个,拥有近百万个计算内核。

精彩活动