程序员"道德准则"将出炉 但用户数据采集无法停止

编者按：本文来自网易智能，编译：Rosie，36氪经授权发布。

科技行业正进行自我反思。就连扎克伯格和库克都在公开谈论软件和算法在我们生活中所带来的负面影响。虽然已经有越来越多的人向一些业内人士游说，想要阻止他们或试图制定任何行业规则，但这些业内人士正制定自我管理的准则。有一个想法值得人们探讨：掌控程序的程序员和数据科学家是否应该立下一个数字的希波克拉底誓言，作为行业道德的要求和行为准则？

图：希波克拉底誓言

上个月，微软发布了一份关于人工智能对社会的影响的报告。该报告认为，约束编程人员，像医生们一样也立下“不伤害他人”的承诺，“这是有意义的”。周二在旧金山，数十名来自科技公司、政府和非营利组织的数据科学家开始为他们的职业起草一份道德规范。

这次会议的普遍感觉是，是时候让那些在统计分析方面有才能的人意识到他们自身的力量，并将其用于实现更大的利益。曾在奥巴马时期任美国首席数据科学家的DJ·帕蒂尔告诉记者：“我们必须让从事技术工作的人们说‘等一下，这是不对的。'”

帕蒂尔启动了这个活动，称之为“数据交换”（Data For Good Exchange）。与会人士包括微软、拼趣（Pinterest）和谷歌的员工。

帕蒂尔设想的是让被道德准则约束的数据科学家们来反对企业和机构的安排，以防止有违行业道德准则的情况出现。这一愿景吸引了一些专门从事数据分析的人。来自企业软件初创公司“数据科学”的戴夫·古德史密斯周二写到：“作为一门学科，我们正处于起步阶段，我们比任何人都更能通过人工智能领域的机遇和挑战来引导社会。”

其他人则有些犹疑。市场营销公司Valassis的高级数据科学家Schaun Wheeler通过Slack和一个实时视频流也观看了周二的会议。这一会议开始之前他就有所怀疑，完会后疑虑更甚。他说，这份草案看起来像是一份没有人会反对的一般性原则的列表，而且正应用于一个缺乏相关权力机构或法规来规定实施这些原则的行业。尽管为数据科学家提供的正式培训项目越来越多，但包括Wheeler在内的许多人都是自学成才。

周二的讨论结果便是一份原则清单，且未来几周内将对这些原则进行评估和发布，以获得更广泛的反馈。其中包括“肯定会有偏见。衡量它。为它做出计划”，“尊重人类尊严”和“运用道德想象力。”该项目的组织者希望能看到10万人签署最终版本的誓言。

Wheeler说：“科技行业最近受到了批评，我认为这是理所当然的，因为它天真地认为它可以修复这个世界。你若是认为可以通过某种道德准则来解决整个复杂的问题，比如数据泄露，这就是狂妄自大。”

周二会议的一个辩论主题是，一个不具约束力的自愿准则是否真的能保护那些敢于在工作中提出道德问题的数据科学家。另一个主题则是，这是否会产生很大的影响。

美国电话电报公司的数据科学家里希拉·贾拉罕说，他对于起草一份道德承诺的所作出的种种努力持支持的态度。他描述了在他和一个同事拒绝加入一个有他们认为没有行业道德的公司参与的项目之后，他们的愿望得到了尊重。但是调换了一些工作人员之后，项目还是继续进行。

现有证据表明，科技公司通常只有在意识到道德问题会对其资产负债表构成直接威胁的时候，才会将其放在心上。扎克伯格可能对其公司控制信息传播的方面表现出了悔意，但这也是因为Facebook遭受了政治压力，因其在俄罗斯干涉2016年美国大选中所扮演的角色。

通过为他人提供平台而赚钱的科技公司可以有更多的理由不去规范道德。任何在搭建自己的平台过程中能吓跑客户的东西都是有风险的。

微软关于人工智能和社会的宣言讨论了程序员应当作出的“希波克拉底誓言”，以及对人工智能新用途的伦理审查过程。但微软总裁布拉德·史密斯表示，微软不会指望用微软的云服务构建人工智能系统的用户也一定要达到同样的道德标准。他说：“这是一个非常重要的问题，我们自己都还没有回答出来。我们创造了微软文字处理软件，并且知道人们可以用它来写好的东西或者是可怕的内容。”

隐私权激进分子阿拉尔·巴尔干认为，本周起草的这一份道德规范实际上可能会加剧技术所造成的社会危害。他担心，公司会把它作为一种美德的标志，但他们还是会像从前一样继续经营。他说：“我们应该探索的是，我们如何才能阻止这种因利益而进行的大规模的人类数据采集工作。”他指出，欧盟的《全面数据保护条例》(General Data Protection Regulation)将于今年生效，这是防止算法的坏处的更好模式。

帕蒂尔曾经是LinkedIn的首席科学家，但他有点像巴尔干，对科技公司是否有能力仔细思考自己的个人数据驱动产品的影响持怀疑态度。他说：“我不认为我们现在的社会可以依赖于这一法规，因为我们在社交平台看到的和科技公司的行为都是由利润驱动的。”

从长远来看，帕蒂尔说，他对道德规范草案的希望之一是，它有助于激励政策制定者制定更坚定、但也是经过充分考虑的限制标准。他说：“我希望看到，周二的会议能够开始定义真正的行业内政策。”