◇◇新语丝(www.xys.org)(xinyusi.org)(groups.google.com/group/xinyusi)◇◇ 　　迷信人工智能会害死人 　　 ·方舟子· 　　华盛顿大学医院有一天来了一个病人看急诊，说他的邻居在给他下毒；医生 让他喝水，他也怀疑水里有毒，所以明显就是一个精神病，得了受迫害妄想。 　　医生对他做了抽血检查，怀疑他得了溴中毒，特地去查他体内的溴的含量， 发现极高，是一般人的几百、上千倍。溴摄入多了会导致精神病，特别是导致受 迫害妄想症。100年前，溴经常用来做药物，当时的人经常因为吃了含溴的药物 得了精神病，后来溴被禁止入药。 　　为什么这个人会摄入那么多的溴呢？等到对他进行了治疗，病情稳定了，他 说是有一次看了一篇文章，文章说摄入食盐太多对身体不好。这个人比崔永元强， 知道食盐是氯化钠，所以他认为，为什么吃氯化钠吃多了对身体不好呢，是因为 含有氯，氯是一种有毒的元素，要减少氯化钠对身体的危害就应该把里面的氯去 掉。用什么东西来取代氯化钠能去掉氯呢？他去问ChatGPT，ChatGPT给他提供了 一个建议，说改用溴化钠取代氯化钠就可以了。他就从网上购买了溴化钠，拿它 当盐用，导致了溴中毒。 　　有人可能觉得奇怪，这个人怎么会那么傻呢，人工智能让他干什么，他就干 什么啊？其实很多人都是这样的，都觉得人工智能牛啊，即使不像神一样的，也 是一个超级学术权威。我就看到有人写文章引用人工智能的回答作为依据。写这 种文章的有的还是中国名牌大学的教授。他们认为人工智能很有智能，比人类都 更有智能，不是已经有人在担心哪一天人工智能出现了超级智能，把人类消灭了 吗？ 　　其实人工智能虽然叫这个名字，并不是真正的智能。现在的生成式人工智能 的原理，是靠寻找模式，简单地说就是联想，类似于我们汉字输入的联想功能， 只不过它是更为复杂的联想。即使是那些标榜具有推理功能和思考功能的人工智 能，也只是一个噱头，还是靠寻找模式，只不过会模仿推理的表述，让人以为它 真的是在做推理。 　　人工智能并不会真正在做推理，并不会真正有智能，不是在思考。我举一个 例子。不久前才举行了奥数比赛，让现在的人工智能去做奥数题，准确率很高， 可以得金牌。但是人工智能往往连最简单的算术题都会出差错，甚至连让它数数 它都数不了。上传一张三条腿的鸭子的图片，问人工智能几条腿，它会说两条腿。 问它一个英语单词里某一个字母有几个，它经常也算错。我让人工智能来评论一 首七言诗，它会说这是一首五言诗。不会数数啊。 　　如果是真的有智能，都能够做奥数题目了，怎么会连基本的数数都不会呢， 说明它其实是一个数学白痴，做奥数题并不是通过思考、推理做出来的，而是通 过寻找模式做出来的，不是真正在想。 　　现在的人工智能是通过寻找模式来给出答案，这项工作它做得非常好，在很 多领域有很好的应用，因为很多领域光是靠寻找模式就可以做得非常出色。 　　其中一个领域是翻译。现在人工智能做翻译准确率非常高，所以翻译这个职 业以后慢慢地就要消失了。在另一个依赖寻找模式的领域，人工智能也干得非常 好：图像识别、语音识别、伪造图像、伪造语音。我现在的视频都加了字幕（只 不过你要打开），我就是通过人工智能进行语音识别，获得的字幕准确率相当高， 只不过还是会有一些错误，需要改一改再上传。经常有人跑来骂我，说你普通话 都讲不好，不知道你在说什么，你也敢做视频？说明这些人的语音识别能力连人 工智能都还不如。 　　还有一个领域，人工智能也做得非常好，已经超过了人类了，那就是下棋， 因为下棋，比如说下象棋、围棋，靠的实际上也是对模式进行识别，进行搜索。 　　人工智能也可以成为科研的一个重要的工具。做科学研究的一个重要的途径 是去找模式，刚好人工智能在这一方面能够用上，可以提供数据，或提供一条思 路，在这个基础上人们可以做进一步的研究。其中做得最出色的是对蛋白质结构 的预测，获得了诺贝尔奖，也把施一公、颜宁的研究领域搞掉了。 　　因为现在的人工智能依赖于寻找模式，靠的是统计，那么就难免会犯错误， 不可能完全准确。在很多领域，这不是一个大问题，只要准确率足够高就可以接 受了，犯了错误也无所谓。比如说翻译，准确率达到了一定的程度就可以了。 　　但是有一些领域一旦出错了，就会出大问题，甚至会出人命。比如说疾病的 诊断，有研究表明用人工智能做疾病的诊断准确率相当高，跟医生的准确率差不 多。这也不奇怪，因为疾病的诊断往往首先也要靠寻找模式。但是医生诊断出了 错误，有别的医生来纠正，也有仪器的检测来把关，但是人工智能诊断的结果就 没有这道关了，没有人来给它纠错。所以如果你相信了人工智能的诊断结果，那 么它如果出错了，就要出人命了。 　　也因为人工智能依赖于模式，所以它不可能有重大的创造，因为重大的创造 靠的恰恰是要突破模式。比如说科研，寻找模式这条途径也可以做科研，只不过 是比较常规的科研，要有重大的发现的话是必须要突破模式的。所以有一些人幻 想人工智能能够发现新的科学，那就只是妄想而已。 　　还有文学创作也是如此，人工智能可以模拟写小说、诗歌，但是因为靠的是 套路，所以人工智能写出来的文学作品是很平庸的，因为好的文学作品必须要突 破模式，突破套路。 　　但是很多人不知道这里的奥秘，觉得人工智能了不得呀，有了人工智能想干 嘛就可以干嘛了，也可以靠人工智能让自己成为专家了。问人工智能某一个问题， 然后改一改就变成了一篇科普文章，觉得自己也可以当科普作家了，不需要科普 作家，问人工智能就可以了。其实人工智能提供的答案，你如果不是搞那一行的， 如果没有一定的科学素养，是看不出来它里面的错误的，所以就是在误导别人。 　　还有一些人，以前对古代诗词不熟悉，也不会写旧体诗词，突然之间，一首 一首地晒他写的旧体诗词，实际上就是让人工智能帮着写旧体诗词，作为自己的 作品发出来。但是他晒出来的那些诗词都是很平庸的，味同嚼蜡，看了就知道是 人工智能写出来的。 　　还经常有人跑到我的蓝天、推特下面要对我发的帖子用人工智能做事实核查， 对我发的帖子进行评论。我看到这种人，都是毫不犹豫地拉黑的。 　　我以前说过中国的教育是很容易培养出妄人的，现在有了人工智能，要当妄 人就更容易了。 　　2025.8.18.录制 　　2025.9.6.整理 (XYS20251010) ◇◇新语丝(www.xys.org)(xinyusi.org)(groups.google.com/group/xinyusi)◇◇