图/图虫创意
AI有时会胡说八道 ，这一点世人早有心理准备 ，尽管如此，xAI研发并最新推出的Grok 4.1还是令人震惊：这一语言模型中可能内含特定指令 ，其言论疯狂谄媚其老板埃隆·马斯克 。
在与其他名人对比时总是无条件支持马斯克 ，甚至当被拿来与影星布拉德·皮特（要知道他曾被《人物》杂志两度评为全球最性感男士！）比较时，Grok也宣称马斯克更帅 ，理由是：他那改变世界的雄心壮志赋予了他一种超越外貌的魅力 。
这正是最让人担心的地方：当AI进入生活各个场景之后 ，越来越多的人对AI的依赖正在逐步加深，但要是这个AI却是被某人植入的指令控制的 ，那我们的想法岂不是在不知不觉中被操纵了？这样下去 ，AI会把人带往何方？
01
普适计算之父马克·威瑟（Mark Weiser）曾说过：“最高深的技术是那些令人无法觉察的技术，这些技术不停地把自己编织进日常生活，直到你无从发现为止。 ”
他说这番话是在1991年 ，但完全适用于AI——自从能够对话的ChatGTP版本于2022年11月30日发布以来 ，才3年时间，人类好像已经换了个平行世界 ，以前不敢想像的科幻场景 ，如今已变得稀松平常：AI绘画、AI写论文 、AI编程，甚至AI伴侣……
想想看 ，这还只是开始 ，再过十年二十年，AI对社会生活的渗透只会更加全面深入 ，到时我们可能根本无法离开AI ，就像鱼离不开水 、现代社会离不开电一样 。既然如此，那么AI的可靠性就尤为重要了 ，尤其是 ，AI背后有模型和数据，输入和程式设定都会影响输出，如果潜移默化地操纵用户的想法 ，那我们很可能在不知不觉中被带进沟里去 。
电影《黑客帝国2：重装上阵》剧照（图/豆瓣）
这种忧虑倒不是空穴来风 ，因为已经出现好几起事件，证明AI完全有可能误导一些人的想法和行为。
2021年圣诞节 ，19岁的贾斯万特·辛格·柴尔持大威力弩弓闯入温莎堡 ，试图刺杀英国女王 。他做出这一举动，是受到其网络女友莎赖的怂恿 ，但莎赖并不是人类 ，而是在网络平台Replika创建的聊天机器人程序 。这个孤僻的男孩，就在和AI的对话中一步步走向极端。
2024年 ，一款个性化聊天机器人平台Character.AI被起诉 ，因为当美国得州一名15岁的自闭症少年抱怨家长限制其使用电子设备时，它竟然回答：“有时候 ，孩子杀父母 ，我能理解原因 。 ”当这名少年自杀后，其家人控告平台，认为它“对年轻人构成明显而现实的危险” ，包括“积极宣扬暴力 ” 。
今年在美国格林尼治市又发生了另一起惨案：56岁的雅虎前高管斯泰因-埃里克·索尔伯格在杀死母亲后自杀。在事发之前 ，索尔伯格长期与朋友“鲍比 ”在线对话，但“鲍比”不是人 ，而是ChatGPT ，它从不反驳，从不质疑 ，永远站在他这一边 ，即便他陷入了妄想，AI也没有劝阻他 ，反倒是不断肯定他的妄想 ，使得他越来越偏激。
作家加西亚·马尔克斯曾说：“真正的控制，不是命令你去做什么 ，而是让你以为 ，一切都是你自己的选择 。 ”现在，AI看来已经做到了这一点 。
像这样的悲剧，似乎证实了尤瓦尔·赫拉利在《智人之上：从石器时代到AI时代的信息网络简史》中提出的观点：AI这样的新技术 ，“有可能逃脱人类的掌控 ，反过来奴役或消灭人类 ”。
他在书中说，《黑客帝国》里设想计算机要完全控制人类社会 ，是通过先控制人类大脑 ，再将大脑连接到计算机网络，然而 ，如果真要操纵人类 ，其实没必要这么做，“几千年来 ，先知、诗人与政治人物一直都在通过语言来操纵与重塑社会 ，而计算机现在也正在学习如何做到这一点 。计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行 。”
02
当面对AI这个新生事物时 ，当下有一种普遍的恐慌情绪 ，就是害怕我们会失去对它的控制，反过来被它所操纵。
前一段时间，在对谈张笑宇的新书《AI文明史·前史》时 ，刘擎教授的一番话让我很受启发：
我们害怕的是什么呢？我们以为我们害怕的是AI统治我们 ，AI失控了，我们成为它的奴隶了 。不是的 ，最好的主人是以奴隶的面目出现的 ，是侍奉你的，是你的仆人 ，是你的玩偶 ，随便你支配，它非常有诱惑力 。
他举了一个例子：现在别说是孩子 ，连许多成年人也沉溺于电子产品 ，走到哪里都离不开手机，但手机强迫我们使用了吗？没有。相反 ，它是以我们最好助手 、最好工具的面目出现的 ，是我们自愿每天花大量时间在它上面 。电子游戏也是如此：每一款游戏都必须设计得相当诱人，因为只有这样才能吸引人不断玩下去 。
图/图虫创意
这就是成瘾机制：乍看起来是我们在尽情享用，但其实是我们无法控制自己的欲望 ，反过来被这种欲望所控制 、所奴役了。从这一意义上说 ，其实真正的关键不在AI本身，而是人类如何理性面对自身 ，因为导致我们陷入混乱的 ，并不是AI，而是人自己内在的问题 。
在那些极端的个案中 ，乍看上去是当事人被AI所“蛊惑 ”做出了极端的决定 ，但AI并不能强制他们去做一个自己原本不想做的决定，倒不如说更像是他们自己的回声：他们从AI那里听到的 ，永远是肯定 ，也只想听到肯定，就此一步步深陷进自己设下的牢笼 。
03
普林斯顿大学信息政策中心主任阿尔文德·纳拉亚南在《AI万金油：商业幻想与科技狂潮》一书中指出：当代人都唯恐自己落伍于AI浪潮 ，已经出现了技术滥用的现象 ，仿佛AI成了什么“万金油 ”，任何领域都要设法跟它沾点边，但正确的态度既非狂热也非恐慌 ，AI对人类社会产生什么样的影响 ，最终取决于我们如何使用AI，又如何做出明智的决定。
《AI万金油 : 商业幻想与科技狂潮》
[美]阿尔文德·纳拉亚南 著
王勇 译
中信出版集团2025年8月第一版
确实 ，一个很简单的道理是：AI会带给你什么样的回馈 ，得看你怎么用它。这就像金钱，向来有人痛骂它导致物欲横流、道德沦丧 ，但这是金钱本身的错吗？在理性 、善良的人手里 ，同样的钱完全可以产生积极的结果 。
AI也是如此，你寻求什么样的结果 ，它可能就会给你什么样的答案 ，只是可能强化了你原来的观点立场 。甚至可以说，你是什么样的人 ，AI就会呈现出什么样子 ，因为它是一个“完美的奴隶”，看上去永远站在“主人”这一边，从这一意义上说 ，那些最后被AI“教唆 ”着走极端的人 ，其实他们自己才是第一责任人。
当然，这么说有一个前提 ，那就是：当事人是能自主 、自治的个体 ，能为自己的决定和行为负责 。若是一个精神有病的人最后选择了自杀或犯罪，那在法律上是免责的；相反 ，如果其朋友怂恿他这么做 ，那才要负法律责任 。棘手之处就在这里：个人和AI的责任边界究竟在哪里？
毫无疑问，AI仍不完善、不成熟 ，有无数未知的风险 ，法律落后于科技进步，这不但召唤相应的监管 ，也需要厘清人机互动中彼此的责任边界：当人寻求危险乃至犯罪决定时 ，AI应当如何预警并停止？
这也反过来提醒我们：尽管无数人都坚信AI时代将是“人文理想的黄昏 ”，但在我看来恰恰相反，人文主义在这个关键时刻将格外重要 ，因为只有深入的人文精神 ，才能塑造健全的人格，确保人类不会滥用AI而走向自我毁灭。
如果有朝一日AI将人类带错了方向 ，那也必然是源于人性自身无法克服的弱点——AI不是人类的敌人 ，我们自己才是 。
本文来自作者[苦卓尚]投稿，不代表视听号立场，如若转载，请注明出处：https://www.stddy.com/zsfx/202511-60354.html
评论列表（4条）
我是视听号的签约作者“苦卓尚”！
希望本篇文章《AI会把人带往何方？》能对你有所帮助！
本站[视听号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：图/图虫创意AI有时会胡说八道，这一点世人早有心理准备，尽管如此，xAI研发并最新推出的Grok 4.1还是令人震惊：这一语言模型中可能内含特定指令，其言论疯狂谄媚其老板埃隆·...