科幻小说如何拯救我们免受劣质科技的侵害

短片《屠杀机器人》描绘了在不久的将来，成群的微型无人机会因为政治信仰而暗杀数千人。该片由学者和活动人士于 2017 年 11 月发布，警告先进人工智能 (AI) 的危险，并迅速走红，迄今已吸引超过 300 万次观看。它引发了关于自主武器未来的公开辩论，并给参加联合国常规武器公约的外交官们施加了压力。

但这种推测性的科幻故事不仅仅是为了吸引注意力。设计和制造先进技术的人可以利用故事来考虑他们的工作所带来的后果，并确保它能得到良好的利用。我们认为这种“科幻原型”或“设计小说”可以帮助防止人类偏见渗透到新技术中，从而进一步加深社会的偏见和不公正。

偏见会导致对某些类别（结果、人员或想法）的任意偏好。例如，有些人可能对聘用女性担任高管职位存在偏见，无论他们是否意识到这一点。

以记录此类偏见的数据为基础的技术最终可能会复制这一问题。例如，旨在为特定工作挑选最佳简历的招聘软件可能会被编程为寻找反映出对男性无意识偏见的特征。在这种情况下，算法最终会偏向男性简历。这不是理论上的——它确实发生在亚马逊身上。

设计算法而不考虑可能的负面影响，就好比医生“只写某种治疗方法的好处，而完全忽略其副作用，不管其有多严重”。

一些科技公司和研究人员正在努力解决这一问题。例如，谷歌制定了一套道德原则来指导其人工智能的发展。英国学术界发起了一项名为“不平等”的倡议，旨在鼓励在技术和使用方面更加公平公正。

问题在于，在公开场合，公司往往只对近期技术的潜在后果抱有积极的看法。例如，无人驾驶汽车通常被描述为解决我们从成本到安全等所有交通问题，而忽视了网络攻击风险的增加，或者它们可能会鼓励人们减少步行或骑自行车的事实。

数字技术（尤其是那些严重依赖晦涩算法的技术）的工作原理难以理解，这也使人们更难对问题有一个复杂而全面的看法。这种情况在令人安心的积极叙述与模糊的怀疑（即偏见在某种程度上根植于我们周围的技术）之间产生了一种张力。我们认为，通过设计小说讲故事可以发挥作用。

故事是思考可能性和复杂情况的自然方法，我们一生都在听故事。科幻小说可以帮助我们推测近未来技术对社会的影响，就像《屠宰机器人》一样。这甚至可以包括社会正义问题，比如某些群体（如难民和移民）可能被排除在数字创新之外。

揭示（可能的）未来

设计小说为设计师、工程师和未来学家（以及其他人士）提供了一种新颖的方式，让他们从人类的角度思考技术的影响，并将其与未来的需求联系起来。通过逻辑和想象力的结合，设计小说可以揭示技术可能被采用和使用的各个方面，并引发对其未来影响的讨论。

例如，短篇小说《犯罪溯源》探讨了如果人工智能使用众包信息和犯罪数据库来预测谁可能犯下谋杀罪，会发生什么。研究人员发现，由于数据库中充满了少数族裔的人，这些人由于社会原因在统计上更有可能再次犯罪，因此“犯罪溯源”模型更有可能错误地怀疑少数族裔而不是白人。

你不必是一位才华横溢的作家，也不必拍出一部精彩的电影，就能创作设计小说。涉及卡片和故事板的头脑风暴活动已被用来开发设计小说，并帮助发展讲故事的过程。让使用这类工具的研讨会更加普遍，将使更多的工程师、企业家和政策制定者能够使用这种评估方法。而将最终成果公之于众将有助于在技术影响社会之前揭露潜在的偏见。

鼓励设计师以这种方式创造和分享更多故事，可以确保新技术背后的叙事不会只呈现出积极的画面，也不会呈现出极端消极或反乌托邦的画面。相反，人们将能够欣赏我们周围正在发生的事情的两个方面。

Alessio Malizia 是赫特福德大学的用户体验设计教授。

西尔维奥·卡塔 (Silvio Carta) 是赫特福德大学艺术与设计系主任兼设计研究小组主席。

本文最初发表于《对话》（The Conversation）。