请选择 进入手机版 | 继续访问电脑版
设为首页收藏本站

汉山

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
热搜: 活动 交友 discuz
查看: 683|回复: 0

英国《金融时报》: 不能让科技集团逃避监督

[复制链接]

8395

主题

1万

帖子

7万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
76788
发表于 2020-1-20 17:46:05 | 显示全部楼层 |阅读模式
  沙克:可口可乐的配方保密,但监管机构仍可衡量其安全性。同样的原则必须适用于算法,尤其是那些用于政府服务的算法。




     2020年1月21日 04:44 斯坦福大学网络政策中心国际政策主任 玛丽珍•沙克 为英国《金融时报》撰稿


  科技公司目前支配着政府。无论是要最大限度提高交通效率、让孩子们按照自己的喜好挑选学校,还是试图根据卫星和土壤数据来预测干旱,大多数政府都严重依赖私营企业开发的关键基础设施及人工智能技术。这种日益增长的依赖对民主制度有着深远的潜在影响。


  企业与政府之间前所未有的信息不对称正在加剧。我们可以从对干涉2016年美国总统选举的旷日持久的调查中看到这一点。企业创建了选民登记册、投票机和点票工具,而社交媒体通过链接关于用户的人际关系、兴趣、位置、购物及搜索的数据,获得可用来销售精准定向广告的信息。这对隐私和竞争具有重大潜在影响,但却几乎不受监督。政府、研究人员和公民有可能被支撑我们的日常生活以及民主制度重要方面的机房蒙蔽了。


  政府与企业在透明度和问责制上有着根本不同的动机。对民主政府来说,开放是常态,保密是例外,而企业不愿在自身的算法和商业模式上提供透明度。许多企业以保护商业机密为由,想尽办法逃避追责。


  当这些保护机制让企业得以逃避监督时,我们必须重新审视它们。保护专有信息不被商业竞争对手窃取是一个应该顾及的正当理由,但当其影响了民主和法治时,就需要澄清并平衡其适用范围和语境。监管机构必须采取行动,确保那些设计和运行算法过程的企业不滥用商业机密保护机制。


  科技集团还利用欧盟(EU)的《通用数据保护条例》(GDPR)拒绝外界访问企业信息。虽然该条例的制定是为了保护公民的个人数据不会被不当处理,但如今却被不老实地用来剥夺科学家们出于研究目的访问数据集的权利。欧洲数据保护监管局(EDPS)已经介入,但问题可能还会发生。


  为了缓解人们对人工智能威力的担忧,供应商经常承诺,其应用将是可理解、可解释、可问责、可靠、可提出异议、公平而且——别忘了——符合伦理的。然而,如果无法访问基础层面的数据和信息,就无法检验这些主观观念。若无配套的明确基准和信息,就不可能对关键数据的处理及使用进行适当的监督。


  一般来说,法律在实体世界怎么适用,在网络世界也应怎么适用。但数字化创建了独特的语境。算法不仅是让科技公司开展竞争的秘方,还为所有在线信息提供了架构,影响着经济过程和根本权利。要评估公平竞争、无歧视或言论自由权利等原则是否得到维护,当局需要能够查看算法的具体运行。政府作为大型技术客户,也应该成为负责任的买家,并将公共问责写入招标要求。


  这些都不是革命性的。可口可乐(Coca-Cola)对竞争对手保密其配方,但监管机构仍可衡量其安全性、对健康的影响及遵守食品标准的情况。同样的原则必须适用于无形的算法,尤其是那些用于政府服务的算法。我们必须重新平衡科技公司与民主政府之间的信息不对称,使监督与科技公司已经拥有的力量相称。


  本文作者系斯坦福大学网络政策中心(Cyber Policy Center )国际政策主任


  译者/偲言


您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|汉山网    

GMT-5, 2024-3-29 04:30 , Processed in 0.092580 second(s), 24 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表