2018年是否迎来了匍匐技术的反乌托邦？ ：科学：为什么

我们可能还记得2018年是技术的反乌托邦潜力变得明朗的一年，从Facebook的角色来看，我们将个人数据用于选举干预，以及看似无休止的一系列关于硅谷连通性的黑暗面的揭露。

名单很长：用于移民打击的高科技工具。对智能手机成瘾的恐惧。 YouTube算法将年轻人引入极端主义。 基因编辑婴儿的实验。

门铃和音乐会场地，可以精确定位个人面孔并提醒警察。 重新利用家谱网站根据亲属的DNA寻找犯罪嫌疑人。自动化系统，密切关注工人的动作和习惯。上海的电动汽车将他们的每一个动作传递给政府。

即使是最富有想象力的科幻幻想家也已经足够了。

小说家威廉吉布森本月在Twitter上写道：“我们现在的生活并不像现在这样，因为我们生活在一个复古的未来。” “一个黑暗，愚蠢的90年代复古未来。”

随着监视和数据收集工作的开展，以及人工智能系统开始听起来更加人性化 ， 阅读面部表情并生成虚假的视频图像以至于难以发现真相的恶意扭曲，更多人等待着我们。

但是，国会和州政府也采取了相应的对策 – 甚至在技术公司员工中也更加积极地确保他们的工作达到了积极目标。

“今年令人振奋的事情是随着这一系列丑闻的出现，公众越来越意识到技术存在问责危机，”纽约大学AI Now研究所联合创始人Meredith Whittaker表示，研究人工的社会影响情报。

该小组编制了一份很长的清单，列出了2018年如此不祥的原因，尽管很多公众只是简单地了解多年来积累的问题。最令人不安的案例之一是3月份政治数据挖掘公司Cambridge Analytica为了操纵全国大选而扫除了数百万Facebook用户的个人信息 。

“这真的有助于唤醒人们这些系统实际上正在触及我们生活的核心并塑造我们的社会机构，”惠特克说。

这是其他Facebook灾难的首要问题，包括其在煽动缅甸暴力事件中的作用，重大数据泄露事件以及对俄罗斯宣传托管假账户的担忧。

它不仅仅是Facebook。在美联社（Associated Press） 报道无论是否愿意跟踪人们的行动之后，谷歌对其用户的持续监控表示担忧。

它还面临着与美国军方合作制造无人驾驶飞机的“计算机视觉”以帮助寻找战场目标以及在中国推出一个审查搜索引擎的秘密提案的内部异议。它推出了一个非常像人类的语音助手听起来如此真实，电话另一端的人不知道他们正在与电脑交谈。

由于立法者在国会听证会上对谷歌首席执行官桑达皮采（Sundar Pichai）进行了抨击 ，这些和其他问题在12月份浮出水面 – 这是今年 Facebook首席执行官马克扎克伯格和其他技术高管的类似公共计划的续集。

共和党众议院少数党领袖凯文麦卡锡说：“由于技术公司和美国人民之间的不信任差距越来越大，因此有必要召开这次听证会。”

互联网先驱Vint Cerf表示，他和其他工程师从未想象过，他们对全球联网计算机网络的愿景将在45年后转变为收集个人信息的监控系统或可能影响选举的宣传机器。

“我们只是想让它发挥作用，”塞尔夫回忆说，他现在是谷歌首席互联网传播者。 “但现在它掌握在普通大众手中，有些人……希望它以一种明显有害，自我利益或破坏政治制度的方式运作。所以我们将不得不处理这个问题。“

与“超级智能”机器人控制的未来主义恐惧相反，我们科技时代的真正危险已经更加普遍 – 通常以技术创新的形式，我们欢迎使生活更方便 。

专家们对将每个家庭设备连接到互联网以及让计算机完成我们的工作的关注的一部分担心，该技术仍然存在问题，并受到人为错误和偏见的影响。优步和特斯拉在3月份接受了致命的自驾车撞车事故的调查，IBM因与纽约市警方合作建立一个可以检测种族的面部识别系统而受到审查，亚马逊因为提供自身有缺陷的面部识别服务而受到热议。执法机构。

在某些情况下，反对科技行业急于将其最新的创新应用于可疑的商业用途来自其自己的员工。 谷歌员工帮助破坏了该公司的五角大楼无人机合同，亚马逊，微软和Salesforce的员工试图取消他们公司的合同，向移民局提供技术服务。

“很多人都明白，做好事并使社会受益的言论以及'不要做坏事'并不是这些公司实际所做的事情，”惠特克说，他也是谷歌的研究科学家。成立了开放研究小组。

与此同时，甚至一些技术巨头也在发出警报。着名的工程师和设计师越来越多地宣称保护儿童免受他们帮助创造的习惯形成技术产品的影响。

然后是微软总裁布拉德史密斯，他在12月呼吁规范面部识别技术，以使乔治奥威尔的“1984”中的“2024年看起来不像一页”。

在一篇博客文章和华盛顿演讲中，史密斯描绘了一个黯淡的愿景，即所有人看到的政府监控系统迫使持不同政见者躲藏在黑暗的房间里“用手中的信号在对方的手臂上敲击代码”。

为了避免这种奥威尔情景，史密斯提倡调节技术，以便任何即将受到监视的人都能得到适当的通知。但隐私倡导者认为这还不够。

这种争论已经发生在像伊利诺伊州这样严格的面部识别法面临技术行业挑战的州，加利福尼亚州在2018年通过了该国最具深远意义的法律 ，让消费者能够更好地控制他们的个人数据。它于2020年生效。

随着越来越多的共和党人热衷于基本的在线隐私法规以及即将到来的民主党多数人对许多自由主义政客曾被视为盟友的科技公司采取更加怀疑的态度 – 以及多产的竞选捐助者，这个问题可能会在明年国会引起新的关注。

罗德岛民主党众议员大卫西茜（David Cicilline）准备担任众议院反托拉斯小组委员会主席，他说，早期互联网时代的“让他们独处”的做法将不再适用。

“我们现在看到，如果这些平台在没有有意义的监督或执法的情况下仍然不受管制，可能会发生滥用的一些后果，”西西林说。

Cerf警告说，过多的监管可能会带来不良的副作用。

“这在某种程度上很有趣，因为这种在线环境应该可以消除我们交易能力的摩擦，”他说。 “如果不是我们的愿望，如果不是热心，为了保护人们的隐私，我们就会把沙子放在一切的齿轮上，我们最终可能会得到一个非常安全的系统，但效果并不好。”

–

AP技术作家Michael Liedtke在加利福尼亚州圣何塞为本报告做出了贡献。