访谈｜凯特·克劳福德：人工智能在全球范围具有显著加剧权力失衡的风险

凯特·克劳福德

凯特·克劳福德（Kate Crawford）是当代人工智能与社会研究领域的知名学者。

她是洛杉矶南加州大学的研究教授、纽约微软研究院的高级首席研究员，还是巴黎高等师范学院首任人工智能与司法客座教授。

她的研究集中在人工智能的社会和政治影响，涉及领域包括数据伦理、算法公平、隐私保护、以及技术在社会中的权力动态。

除学术研究外，凯特·克劳福德还制作艺术装置和视觉调查作品，这些作品已在全球一百多家博物馆和双年展上展出。

《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》书封

凯特·克劳福德2021年发表著作《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》，详细探讨了人工智能技术从开发到部署的整个生命周期，并分析了其广泛的社会、经济和环境影响。

她在书中指出，人工智能不仅是一个技术问题，还是一个政治问题，它涉及资源的分配、权力的集中以及环境的代价。

澎湃新闻在该书中文版《技术之外：社会联结中的人工智能》今年出版之际采访了凯特·克劳福德。

中文版《技术之外：社会联结中的人工智能》书封

澎湃新闻：你在书中提到人工智能是权力的登记表（AI is a registry of power），registry通常指的是一个登记、注册或者记录的系统或列表，它代表一个包含了某些类别信息的官方或正式记录。

你能详细解释一下这个概念吗？在你看来，人工智能如何在根本上是政治的？

凯特·克劳福德：如果你有一份registry of power，这可能意味着一个记录或数据库，其中列出了与权力相关的某些信息，如掌握权力的个人或机构、权力的来源和分配、权力的演变等。

人工智能系统并不是中立的技术。

它们嵌入了现有的权力结构，并且往往会强化或放大社会不平等。

人工智能的发展反映了那些创造和控制这些技术的人的优先事项和偏见。

例如，选择用哪些数据来训练人工智能系统是非常主观的——而这些数据集塑造了人工智能模型。

关于收集哪些数据、如何对其进行分类以及排除哪些数据的选择都涉及一些决定，这些决定塑造了人工智能将增强的权力类型。

我们只需问一句：谁是英雄？科学家是什么样子？就能看出哪些政治观点占主导地位。

人工智能在管理和分配资源的方式上也是一种权力的掌握者。

人工智能需要大量的能源、水和关键原材料。

掌控人工智能的公司和政府会为自己谋取利益而榨取（extract）这些资源，而为其提供资源的社区往往会遭受苦难。

同样的情况也出现在人工智能发展中通常被隐身的劳动中，包括数据标记和内容管理，这往往会剥削低收入国家的工人。

了解和解决权力是如何被人工智能所集中的，对发展更加公平和正义的技术未来至关重要。

澎湃新闻：你提到人工智能是由西方少数主导公司驱动的一种非民主政治（non-democratic politics）的形式，这会对资本主义社会的经济差距和民主进程产生什么影响？

凯特·克劳福德：人工智能作为一种技术，在当前的发展轨迹下，存在着显著加剧社会中已经存在的不平等和权力失衡的风险。

它继续将权力集中在少数大型科技公司手中——这些公司被称为人工智能领域的豪门（Great Houses of AI），因为它们拥有获取生态、计算、数据和劳动力资源的能力，这些资源是构建和维护全球人工智能系统所需的。

随着经济和政府的其他部门变得依赖人工智能，要推动制定更加平衡的法律和法规变得更加困难。

澎湃新闻：本书分析了在西方社会中监视是如何扩张、私人承包商、执法部门和科技行业之间界限如何日益模糊。

这是否意味着缺乏监督的国家更易于部署用于监视的人工智能技术？

凯特·克劳福德：使用人工智能的监视扩张在许多国家中都很普遍，包括西方民主国家。

人工智能对威权控制系统很有吸引力，无论是技术上还是政治上。

一些人认为人工智能是一种强大的工具，可以压制异议，管理公众看法，并预防性地消除对他们权威的威胁。

当科技行业、政府和执法部门之间的界限变得模糊，会导致一个普遍存在的监视基础设施。

国家经常与拥有开发复杂人工智能系统技术专业知识的私营科技公司合作。

这些系统随后被整合到执法和情报行动中，形成了一套完整的监视装置。

这种合作使国家能够获得先进的监视能力，并让公司通过有利可图的政府合同以及试验和完善他们技术的机会而受益。

这就是为什么我们迫切需要在人工智能建设过程中增加透明度和问责制，同时需要签订强有力的国际协议来规范人工智能的合理使用。

声明：本文内容仅代表作者个人观点，与本站立场无关。如有内容侵犯您的合法权益，请及时与我们联系，我们将第一时间安排处理