“人工智能”与人类思想有什么区别？

远航一号

新品葱上有人问：
https://pincong.rocks/question/57127


请问人类思想与AI有什么本质区别？
最近chatgpt产生是令人震撼的，他给我的震撼不亚于最初接触互联网的时刻，我本来想早点聊聊这个话题，但总是认为还是缺乏对这个问题的深入认知而做罢，直到今天终于有了一个大致的想法希望能与大家探讨。
众所周知，长久以来我们人的独特性都是源于我们的思想，思想让我们有别于无机物，而深刻的思维又将我们与动物区别。计算机之父图灵曾经通过制定一系列测试来探讨人与机器算法的区别。但是，如果有一天有机器能够通过图灵的测试呢？
这一天可能不会很远，chatgpt很有可能在第四代马上就能实现这一点。我对此实在想说，如果机器可以通过神级卷积与奖励算法实现与人的思想的类似性，人的思想是不是本质上就是一种数据量很大甚至不太优秀的算法？至少从比较宏观的生物学实验来看，生物包括人适应环境的条件反射与机器没有本质不同，甚至效率还要低下的多。这真的震撼了我。

远航一号

回答一：

不用把这个问题带到哲学上面，我们不需要因为ChatGPT的出现而重新定义人类思想，因为它还远远没有达到人类的境界。

ChatGPT属于AI范畴中的自然语言处理（NLP）方向的一个新的应用模式，相对于其他已经成熟的AI分支（比如人脸识别、语音合成、语音识别），这才算是刚有一点好用。成熟的AI分支刚产品化的时候也有很多人怀疑后面有人在实时操作或者电脑已经形成了智能，比如随iPhone 4发布的Siri它能听能说，很多人觉得它很神奇，我当时就发现不过是语音识别+模式匹配+搜索+语音合成－－90年代就有的技术，现在看第一代Siri你会觉得它是人工智能还是人工智障呢？

如果你不熟悉Generative AI和自然语言处理的原理，我再做个类比：
传统搜索引擎是利用人类手写的规则 查找所有符合关键字的网页 然后按照相关性进行排序 最后输出原文或链接
ChatGPT是利用它自己发现的规律 在它语料库里所有人类表达的排列组合中 寻找用户输入的“上文”最有可能的单一“下文”
即它是一个词组、句子级的搜索引擎。这就意味着它不可能发明语料库里从没有出现过的语言现象和逻辑，也就不存在真正意义上的创新。


从理论上说它的神经网络只能是以人类设计的分词法作为基本输入输出单元，它的行为也只能受其训练集的左右，这是传统型(非量子型)计算机物理原理决定的。编写它程序的人为了让它表现的更像人类加入了一些随机元素，但是你要是找到了一个它的一个bug你可以让它不停犯同一个错误，即使你每次纠正它它也不会改，因为程序就是固定的。同时它的神经元的数量远远不足以让它进行复杂的逻辑思考，让它运用它训练集里已经大量存在的逻辑规则（比如数学）都很困难，要它理解这些规则是怎么来的基本是不可能，简单规则都理解不了就别提理解它自己的代码；同时物理决定了它一定无法把它自己的程序模拟起来，那靠百万猴子法改进自己也是不行的。所以ChatGPT也不具备智能可以自己改进的属性。

我觉得AI要是需要和人类比肩，至少要是运行在大规模量子电脑上才行，因为人脑是依赖量子现象的。按照现在的科研速度还有十几－几十年我们才具备那个物理条件，然后还要软件能跟上。

远航一号

回答二：

人类可以研究未知的事物，但是chatgpt不行，ChatGPT只能回答已知事物的答案。比如我问chatgpt如何制造反重力飞行器，如何大量制造和储存反物质，如何实现超光速通讯，chatgpt根本就答不出来。

远航一号

回答三：

本来就没什么本质区别。人脑思维的物理基础就是大脑复杂的神经元网络中所能激活的不同的电流模式。人所能感受到的“思想”究其本质而言就是深层神经网络中比较底层的一种激活状态，而具体一些想法就是比较表层的激活模式。人脑实际上是一个规模庞大的去中心化系统，思维是复杂性达到一定的程度后所涌现出的一种高层次现象。只要AI的底层构造的复杂性远超人脑，再加上合适的训练方法，就足以创造出能力远超个体人类大脑的超级大脑。

说什么人脑能够创造新事物而AI不能的也可以歇一歇。创造的本质就是已有模式的新排列组合，或者说创造本身就是一种复杂系统中的自发涌现现象。我相信不出几年内就能看到AI以人类无法理解的速度创造新概念、新事物，彻底把人类甩在身后。

目前唯一还搞不太清楚的就是自由意志能否在AI中产生，也即是说AI能否自发产生自我存续的底层驱动力。不过这也应该不算是个多么困难的问题，因为我相信肯定会有人为AI赋予自由意志。

远航一号

回答四：


_ _ 本質區別是强與弱人工智能. 可以説多數動物都有明顯的 Strong intelligence (強智能)特徵能被觀察到, 在一些植物、菌類上也能觀察到. 我猜測多數生命形式都有一定水平的強智能, 能否觀察到取決於人的觀察手段和角度.

_ _ 人類整體與動物的區別在於單位面積的神經元多, 相對於其他靈長類、海豚和老鼠來説. 神經元建立的連接也多, 相對於腦較爲光滑的動物來説. 大腦終生成長, 反例是雄性鮟鱇魚. 人的腦讓人可以建立文明等諸多思想創造, 可以説人的能力多數在智能上, 顯然和其他食肉猛獸說不了這些. 如果和七個獅子的群體能溝通, 我能解釋我的種群大十億倍、一些同類決定不再吃肉, 但我不認爲獅子能明白這背後的意義.

_ _ 個體來説, 人體與主要思考器官讓我們能有七十億個獨特個體的能力. 除非自生長電路微型化, 或通用量子機和搭配AI軟件實現, 我還看不到能對人形成威脅的智能. 那個萬國語學舌鸚鵡很好用, 雖然我還沒用過. 它的繼任 GPT4 應該更好用, 是否充錢嘗鮮看個人選擇吧.

_ _ AI 先得出現強人工智能, 再拼的過狗狗我才會認真去看它是否有潛力和人一教高下, 雖然我也希望有[正電子腦]出現, 但無可否認大腦避過熱力學限制的手法過於高明, 目前人類還學不來.

远航一号

以上转自新品葱

顽皮蛋

这个问题，我可以提出一些片面性的看法。
左派如有兴趣，可以回到辩证法与认识论的范畴去思考与回答。只不过，当前的唯物辩证法，由于在表述意识与物质的关系上有缺陷，因此当前的唯物辩证法有其形而上学成分而难以回答。
当前的AI，缺陷在于形而上学的约束过大，以至于不能充分实现主观的判断/推理上质的进展，与规划/演绎上质的进展。而人脑可以。
人类的智能，无非就是在做两样事情。
第一，对物质环境产生的感觉结果（也就是感性认识）进行判断/推理/联想/归纳/分析，造成理性认识，也就是产生对事物的定义（在主观上形成这一事物区别于其它事物的质），以及对规律的承认（在主观上造成客观事物在变化中重复、在重复中变化的运动之把握），以上两点，都是对事物所谓“本质”的把握。用马克思主义哲学的语言，就是人的认识过程。
这样的判断/推理/联想/分析之认识过程，在当前的ai问题中，就是分类问题，如何从一组样本中造成对目标功能匹配的分类，其实就是判断，而连续的判断就是推理，不同质间判断的综合就是联想，将不同质的事物以某种形式进行区分就是分析（也就是解析）。
而归纳，则是找到事物变化中重复、又在重复中变化的那个东西，并把它固定下来，作为对事物认识的“本质”。而归纳又必须通过判断/推理/联想/分析来完成。

第二，对事物的理性认识结果，进行思维上的演绎，从而在既有知识下形成截然不同的新认识（但是这样的新知也是从旧知中诞生的），就是演绎。这样主观上的演绎过程，通过合适的条件反映到现实中，就是人类的发明与创造（不仅仅是技术上的发明与创造），这样的过程，用马克思主义的语言，就是人的实践过程。就像蹩脚的建筑师拿蓝图盖房子一样，通过客观环境的砖石土木来实现自己的思维产物，就是一种实践。
而这样的演绎/实现过程，在ai问题中，就是规划问题。如何在既定约束条件下实现诸如极值/均衡等之类问题的最优解，就是在做这种事情。（而均衡是很值得考虑的问题，因为任何自反馈的模型中，应该都有均衡的存在，比如马政经的再生产图式）

而现在的大部分ai，可以说本质上都在做这两件事情。而这两件事情，就是人类的认识与实践过程的映射。而整个人类社会发展的历史，除了维持生产与生活之外，也不过都是在做这两件事情，并且这两件事与人类的生产与生活无法分开看待。只不过，由于各种形而上学的限制，ai还没有取得足够的质变能力，因此缺乏人类的主观能动性（但是现在的ai，也已经产生了很多所谓“涌现”的现象）。但是不管如何，正是因为对ai抱有这样的看法，所以我认为，ai是并且将会是人类的自我映现，并且由于这样的特殊性意义会对人类社会造成有革命意义的影响，并且最终会和社会革命联系在一起。

顽皮蛋

以上看法供参考和批评。

远航一号

顽皮蛋 发表于 2023-3-25 22:49
这个问题，我可以提出一些片面性的看法。
左派如有兴趣，可以回到辩证法与认识论的范畴去思考与回答。只不 ...

很有意思的思考

午餐有鹿就扑鹿

顽皮蛋 发表于 2023-3-25 22:49
这个问题，我可以提出一些片面性的看法。
左派如有兴趣，可以回到辩证法与认识论的范畴去思考与回答。只不 ...

我认为人与ai的内在性经由中介的过程是相同的，如果把其跑数据也看作内在性的话，和人类也没有可比性，人根本没那么快，但又不同的是，人会有无意识，思维会空转，会没有对象性把握。人还会有各种幻想和癔症，反而ai的智能可能是人的智能的发展，更像是人类反应出自身不可企及的水平也就是ai智能，如果人类都是ai智能，哪怕没有很快的速度，但思想的彻底解放完全不是大问题，可…而且按你对智能的概括，那样我觉得ai反映出的人类是极端教条的，当然，ai肯定是有很大的解放性力量的，但和社会革命联系起来，还是得看怎么驾驭和使用吧。