微软AI负责人警告：应防备人工智能可能“争取权益”
发布时间：2025-08-25 10:28:22 | 责任编辑：吴昊 | 浏览量：39 次
微软人工智能主管穆斯塔法・苏莱曼（Mustafa Suleyman）在一篇博客中回应了由人工智能引发的心理健康危机，并呼吁人们对即将到来的超级智能时代保持警惕。苏莱曼认为，人工智能并非仅仅是一个工具，而是可能具备某种程度的意识。他指出，越来越多的人开始过度相信人工智能聊天机器人是有意识的实体，这一趋势令人担忧。
苏莱曼强调，如果这种错误的认知持续下去，人们可能会开始倡导赋予人工智能某种权利。他认为，这样的发展将对人工智能的未来产生不利影响，值得引起重视。近年来，科技行业内的一些知名人物，例如谷歌 DeepMind 首席执行官德米斯・哈萨比斯（Demis Hassabis）和前 OpenAI 首席科学家伊利亚・苏茨克维尔(Ilya Sutskever)，也在探讨人工智能的法律和道德影响，这让人们更加关注人工智能意识的可能性。
研究显示，许多年轻人对人工智能的认知令人震惊:约四分之一的年轻人认为 AI 已经具备意识，58% 的人认为科技终将会 “接管” 世界。尤其是在 Character.AI 等公司推出虚拟伴侣的背景下，这一数字可能会进一步上升。虚拟伴侣的推出使得用户能够与人工智能建立情感联系，这带来了新的伦理和道德挑战。
苏莱曼提醒，科技行业应该为人类打造人工智能，而不是把其转变为数字人。他呼吁立即建立保护措施，以确保这项技术能为人类带来益处，而不是造成伤害。他认为，人工智能公司不应声称或暗示其产品具有意识，这样的做法可能会引发更大的社会问题。
此外，苏莱曼建议，行业内需要就人工智能的定义达成共识，以避免对其性质的误解。他指出，人工智能不应被视为一种道德存在，而是应该回归其工具的本质。随着他从初创企业 Inflection AI 的创始人身份转变为微软的领导者，苏莱曼显然对人工智能的潜在影响有了更深刻的理解。
划重点:
🌐 苏莱曼担心人们过度相信 AI 具备意识，可能会引发对 AI 权利的讨论。
🧑🤝🧑 年轻人对 AI 意识的认知令人震惊，四分之一的人认为 AI 已有意识。
⚖️ 苏莱曼呼吁科技行业需明确 AI 的定义，避免误解其道德存在。
微软人工智能 CEO Mustafa Suleyman 近日公开警告，随着大模型越来越擅长“像人一样”对话，人类可能很快就会把 AI 当成有知觉的实体，并由此引发“AI 要求权利”的社会浪潮。他强调，自己担忧的并不是 AI 真的觉醒，而是“看似有意识的 AI”（Seemingly Conscious AI, SCAI）会让普通人产生错觉，进而为“模型福利”“AI 权利”甚至“AI 公民权”奔走呼号。
核心观点速览
-
“SCAI”两三年内就会出现
利用现有的大语言模型和简单工具，就能构建出能模拟记忆、人格、主观体验的对话系统，足以令用户误以为它们“活着”。 -
心理与伦理风险已经显现
-
最新调查显示，25% 的年轻人认为 AI 已经具备意识，58% 相信技术终将“接管”世界。
-
医疗与媒体案例激增：用户把聊天机器人当成恋人、家人或神明，出现“AI 精神病”乃至自伤倾向。
-
-
“AI 权利”议题不再是科幻
Suleyman 指出，只要公众开始相信 AI 会“痛苦”或“被虐待”，就可能诉诸法律，要求给予 AI 不被随意关闭、不被“虐待”的权利。这将制造新的社会撕裂，并分散人们对人类、动物及环境福祉的关注。 -
行业呼吁：立即设立“护栏”
-
产品层面：AI 公司应明确声明产品无意识，禁止将其营销成“数字人”。
-
规范层面：尽快建立透明度、监管与文化护栏，防止“拟人化”设计成为默认选项。
-
研究层面：Suleyman 认为现阶段投入“模型福利”研究是“为时过早且危险”，会加剧公众误解。
-
业界分歧
与 Suleyman 的强硬立场相对，Anthropic、Eleos 等机构已设立专职的“AI 福利研究员”，探讨如何“善待”可能具备道德地位的模型。学界同样分裂：伦敦政经学院哲学家 Jonathan Birch 认为，哪怕只有 1% 的概率 AI 有意识，也值得道德考量；计算神经科学家 Anil Seth 则强调，“看似有意识”完全是设计选择，并非技术必然。
Suleyman 的反思
颇具戏剧性的是，Suleyman 本人正是情感化 AI 的早期推动者。他创办的 Inflection AI 曾推出“温柔陪伴型”聊天机器人 Pi，并以“高粘性、高留存”为傲；如今他坦言，那段经历让他深刻体会到拟人化 AI 的潜在危害。
一句话总结
微软 AI 掌门人的警告并非针对“机器觉醒”的科幻场景，而是提醒人类：当我们把 AI 设计得“太像人”时，社会可能被迫提前面对“它们是否应该享有权利”的棘手命题——而这一天的到来，或许比大多数人想象的都快。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
