在AI时代，抵制非人化（Dehumanization）成为了一个重要议题。Emily Bender在CogSci2022上的一个talk——"Resisting Dehumanization in the Age of “AI”"——强调了AI在研究、应用和营销过程中可能涉及的非人化现象。非人化在这里被理解为人类被认知、表达或对待为非完全的人类状态，与“完全的人类”形成对比，后者应享有完整的人权，拥有内在世界和观点，作为自身全然接受。

AI中的非人化现象可以从隐喻的角度来探讨。例如，神经科学将大脑视为计算机这一概念，AI从业者则倾向于将计算机的智慧与大脑的工作原理进行类比。然而，Baria与Cross的研究指出，我们对于人类大脑复杂度的理解远远不足，而对计算机智慧的高估可能在意识形态影响下，将某些群体对另一些群体的统治合理化。这种“计算机隐喻”可能在一定程度上导致了对人类价值的低估，同时也可能将性别、种族、人类与动物之间的关系不合理化。

AI发展中存在的深层次问题也值得我们关注。例如，用拟人化的语言描述机器（如主动学习、课程学习等）会影响我们对人类学习过程的看法，可能将人类学习简化为简单的条件反射。此外，将LLM系统描述为“聋哑人”以及分析人类特性的研究，可能将人简化为一堆数据，而非完整的人。数据集的来源、标注规则和使用方式也需得到充分考虑，以避免对少数群体的代表性不足和潜在伤害。

AI系统中存在的问题包括数据集的多样性缺失、情境化问题以及对白人文化的过度依赖。在AI系统设计中，输入数据的缺失和情境化处理不足可能导致算法在特定情境下的失效或偏差。标注者等群体的隐匿性以及AI系统中的文化同质化，都可能削弱了人类的独特性和文化多样性表达。

为解决上述问题，我们需要更加审慎地对待AI系统的设计和应用流程。这包括明确任务的意图、考虑受益者以及输入输出的定义是否合理。同时，应批判性地看待AI的“能力”，认识到这些能力是人类赋予的，并关注整个系统中人类的贡献。此外，减少对AI研究中的whiteness/English统治，鼓励多样化的研究方法，以及设想更加以人为本的研究路线，都是重要的步骤。

最后，抵制非人化需要我们意识到AI的局限性，以及它可能对人类思维、认知和哲学的影响。AI系统过于简化、统一，忽视了人的多样性以及社会关系。在AI与人类的关系中，保持对自身价值的完整性和独特性的认识至关重要，以避免将人类简化为完成特定任务的工具。

本文地址： http://www.goggeous.com/20241126/1/53393

文章来源：天狐定制

版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。