算法也有价值观( 五 )


近年来,价格歧视、性别歧视、种族歧视,出现在众多科技公司的算法中,谷歌的搜索算法将黑人标记为“大猩猩”;微软公司的人工智能聊天机器人Tay出乎意料的被“教”成了一个集反犹太人、性别歧视、种族歧视等于一身的“不良少女”……这些事件都引起了轩然大波,并且最终也导致了算法被叫停 。
算法有价值观吗?
人们众说纷纭,麻省理工学院教授大卫·卡尔格认为,只要我们主观上希望拥有不带歧视的算法,我们就能够设计出不带歧视的算法 。
不容置疑的是,科技公司以及组织不应该将“带有明显歧视性质的算法”,在不经测试之下应用到现实情景中,算法需要确立一些“基本准则”,比如“机器人永不能伤害人类”,“外卖平台的效益不能建立在牺牲骑手和用户权益基础上” 。
算法,或许正在成为我们社会规则的一部分,没有良好逻辑,只会让每一个人都困在其中 。
算法给人与信息的关系带来了革命,它既在解放人类,也在创造数字难民 。不解决算法的问题,所有人都会困在混沌的规则中,彼此消磨 。
(应采访者要求,文中张小菲、秦明、高媛璐,均为化名)
【算法也有价值观】【本文作者缴翼飞,由投资界合作伙伴Tech星球授权发布,文章版权归原作者及原出处所有 。文章系作者个人观点,不代表投资界立场 。如内容、图片有任何版权问题,请联系(editor@zero2ipo.com.cn)投资界处理 。】