新一轮AI下的人机关系:人类社会治理和伦理中的AI

AI 不仅仅是一场新的技术革新，更是一场社会关系变革和价值观念的重塑。它所带来的不仅是技术创新和社会生活 的便利，还包括各种智能化风险和伦理挑战。人类不能以纯技术中心或者技术中立的视角来看待 AI 以及处理人类与 AI 的关系，典型体现如 AI 技术与用户隐私及数据滥用问题。AI 技术的应用大量涉及个人数据的收集和处理，AI 系 统涉及的隐私和个人信息可能被用于未来模型的迭代训练；AI 还可能被用来生成虚假信息或恶意软件，从而造成重 大经济损失和引发法律纠纷。这些问题都迫切需要建立与之适配的社会治理和价值体系。

很多学界代表在公开论坛等场合表达了这一担心。例如，复旦大学计算机科学技术学院教授、上海市数据科学重点实 验室主任肖仰华在 2024 Inclusion 外滩大会上曾表示，人类与其担心 AI 产生意识，不如先去担心 AI 过速发展引发 失控的风险。肖仰华认为，AI 大规模应用的挑战，先在于当下的生产关系等社会发展上层建筑，如何适应以人工智 能为代表的先进生产力的快速发展；其次，技术普惠问题同样值得关注，即如何避免少部分人借助先进技术形成不正 当的竞争优势；此外，还应该特别注意防范技术成瘾，防止先进技术对人类造成反噬。

1950 年，艾萨克·阿西莫夫出版了《我，机器人》一书，书的引言中提出的“机器人三大定律”，开启了人工智能伦 理（AI ethics）研究的先声。“机器人三大定律”旨在约束自主机器，使其服从以保护人类为目的的强制性人性伦理准 则，从宏观层面规范了人工智能的运用边界。面向未来，AI 应用的要原则应该是以人为本，AI 应用要回归科技服 务于人的本质，凡是伤害人之本性的 AI 要格外谨慎使用。此外，应明确 AI 不应该成为少数人的特权，每个人都有权 利并且能够参与其中。这些新的社会和伦理关系也构成了新的人机关系的重要组成部分，亟待进一步从社会、伦理和 法律等层面对人机关系进行新规范、新思考。

展望未来，随着应用的日益深入，作为人类的创造物，人工智能将被赋予以前只能由人类心智完成或尝试的任务—— 产生接近乃至超越人类智能所能完成的结果，这无疑挑战了人何以为人的决定性属性。AI 的发展促使人们重新思考人类的d特性和价值所在，促使人们从“以人类理性为中心”转变为“以人类尊严和自主性为中心”，并需要在技术进 步和人文关怀之间找到平衡。