澎湃Logo
下载客户端

登录

  • +1

AI技术有好坏?旷视COO徐云程:善恶应放在具体场景讨论

澎湃新闻记者 王心馨
2020-07-11 18:14
来源:澎湃新闻
科学湃 >
字号

算法偏见、算法歧视、隐私安全,人工智能技术,尤其是计算机视觉领域,带来的社会争议会更容易被公众所关注。海外,受黑人弗洛伊德事件影响,微软、IBM等公司都纷纷宣布暂停人脸识别相关的业务。一些民间组织,专业团体甚至呼吁政府禁止使用人脸识别。

人工智能技术带来高效和便利,也带来了一系列治理问题。在7月10日召开的第三届世界人工智能大会(WAIC)“人工智能治理论坛”上 ,众多科学家、企业家就围绕AI治理问题展开了讨论。

在本次论坛上,旷视联合创始人兼CEO印奇在演讲时提到,从企业发展的角度来看,负责任的AI就是可持续发展的AI。AI治理问题其实是一个非常长期的问题,只有更多的企业从实践角度提出更好的问题,才能让我们的行业专家、学者教授和宏观政策的制定者们能够有一个更具针对性的研究方向和更切实际的措施落地指引。

针对近期人脸识别技术在国内外引发的争议,以及如何保护用户隐私安全等问题,旷视首席运营官、AI治理研究院院长徐云程接受了澎湃新闻(www.thepaper.cn)等媒体的采访。

旷视COO徐云程

技术的善恶应放在具体场景讨论

作为国内视觉计算领域里的明星企业,旷视是国内较早注意到AI治理问题的公司之一。2019年7月,旷视对外发布了《人工智能应用准则》,为企业的AI治理指明了行动方向。随后旷视成立了“人工智能道德委员会”,开启了企业AI治理的机制建设。2020年1月,旷视成立了“AI治理研究院”,向社会发布2019年《全球十大AI治理事件》,与社会各界探讨AI治理的方向与界限,并开始与各界机构探讨联合研究课题。

针对微软、IBM、亚马逊等海外公司纷纷暂停人脸识别相关业务,以及人脸识别技术引发的争议,徐云程认为任何一项技术或的使用都要放到相应的场景下去讨论,脱离场景去讨论技术的对错或善恶都是不恰当的。就拿人脸识别技术来说,将其用在寻找走失儿童和老人的场景里,技术的优越性就能很好地体现。 “大家有时候觉得技术让人不太舒服,是因为它解决的不是痛点,同时也要兼顾到公正性、公平心、隐私和数据保护等更多方面来综合考虑。”徐云程说。

其次,徐云程认为,不管人工智能技术还是其它先进技术,都要有界限,这就是人工智能治理的作用。“这些考量点会使得技术无论在研发阶段,还是将来产品化的时候,必须有一些考量因素要前置。同时,在人工智能领域一直有一个观点,必需要边发展边治理。”徐云程称。

企业如何参与AI治理

“春江水暖鸭先知。在这样一个领域中,面对各种各样产业发展中的问题、挑战和思考,旷视是属于在前沿探索的先行者。”徐云程称。

回顾旷视过去一年多的AI治理历程,徐云程表示,我们还处在“学生”状态。她将旷视参与AI治理的过程分为三个阶段。

第一阶段是学习和了解。在这个阶段里,AI治理是以高管团队驱动的、自上而下的过程。

第二阶段是广泛和外部专家、机构学习沟通的阶段。这时候,旷视学习到很多外部的思想和做法,并与各界开展了深入的交流和讨论,收获良多。

第三阶段是AI治理在企业内部逐渐成为共识,既有自上而下的推动,又有自下而上的交流。从旷视内部实施结果来看,已初见成效。徐云程举了一个小例子,现在旷视的产品经理在产品预研阶段,就会主动找到AI治理团队来讨论产品是否符合公司AI伦理的应用准则, 从而在流程上形成了规范。

从旷视角度来看,企业重视AI治理的投入势必会增加运营成本,对于大部分尚处创业早期的企业来说,做到这一点并不容易。另外,AI治理是个长期过程,治理带来的回报并不会立竿见影。

徐云程认为,企业现阶段急迫需要解决的是让自律变得更加主动一些,AI治理是一项长期的事业,要上升到公司战略的高度;同时,企业AI治理的成本是不可避免的,要么事先投入进行预防,要么事后吸取教训进行补救,对此企业需做好充分的心理准备。

    责任编辑:李跃群
    校对:张亮亮
    澎湃新闻报料:021-962866
    澎湃新闻,未经授权不得转载
    +1
    收藏
    我要举报

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈