如何思考会思考的机器

在读个人这本AI#6书中，作者邀请了世界上185 位，各个领域的科学精英和思想家，著名企业家及著名作者等，通过在线会议对话的方式，展开讨论专家们之间十分丰富的分享和讨论。它百花齐放，正反观点都有，非常有深度。这些专家涉及诸多领域的前沿，例如，进化生物学、遗传学、计算机科学、神经学、数学，哲学，心理学、宇宙学和现代物理学等。它当然包括AI领域美国最著名专家学者… 书名：如何思考会思考的机器？其主题是对于AI 全方位发展未来的反思。希望自己前面读的五本关于AI科普书能够为理解本书内容提供一定基础。拭目以待。 认真读本书后发现，它都只是些牛人专家们发的一些豆腐块文章泡泡，似乎缺乏一个系统性表述。但是，非常意外收获是在每一篇小文章中，基本上都有一段介绍该名人所出书及介绍其重要内容，还十分简明扼要。所以，读此一本书，基本上就可以了解到，EDGE精英俱乐部成员重要成就及相关书籍的概貌。了解这些人其意义或者价值可能远超过了，仅仅知道牛人们是如何从不同角度，不同层次，不同分析系统，来如何看待AI，包括各种顾虑，及相应哲学，社会学及心理学思考等等。 读本书第二个重要意义，就是看这些当今世界上的专家学者，对于同一行业是如何思考及提更深刻问题。因为好问题能够激励产生更有效解决方案。……当然，这也是智者见智？第三，它基本覆盖，讨论了AI本身可能应用之领域发展方面。它本身像比较完整AI百科全书词条…。 简言之，尽管它像是本没有技术含量，但是更像是指点AI江山地图。充满了各种色彩鲜艳幻想，假设，……。读本书，就像经历与牛人共舞过程。因为读其过程，也是一个欣赏过程，不管是同意其中作者的观点，还是也许甚至读不懂，其观点后面预设条件等等。从某种意义上说，本书内容更像是，对于AI及人类未来，全方位深度思考。 例如，我们是否把这种未来掌控权，让位于不会思考的人工智能体？或者贸然地把我们的文明切换到大数据平台下面，AI成就黑盒子中的自动航行模式？同时，从人性角度考虑，这种问题作吗？因为已经有人问：“真正的危险并不是智能机器会强大到篡夺人类的统治权，而是因为愚蠢的机器被人类赋予了远超出它们自身能力的权利”。 有意思还有，今天，谷歌宣布了，可以用AI 来解决分析蛋白质三维空间结构。这是一个划时代意义重大事件！是比下围棋更为重要，更复杂的里程碑事件！ 下面是一些个人读书笔记中，取精华观点泡泡： “人脑中的神经电路通过沟通渠道产生松散的间接耦合，而设计智能则不同，它废除了独立个体的概念，是直接的强耦合，从而把“思考”这种认知活动提升到前所未有的高度。其中某些设计过的神经电路可能会产生量子效应，即诺贝尔物理学奖得主弗兰克·威尔泽克（Frank Wilczek）提出的“量子智能”（quintelligence）的概念” “我们总喜欢给人类智能冠以“万能”的前缀——因为比起我们遇到的其他物种，它确实能够解决更多样的问题。然而，在着手塑造人工意识的时候，我们才意识到人类思维一点儿都不万能，它也只是思维中的一种而已。……其实将AI视为“Alien Intelligence”（外星智能）的缩写也挺合适。” 呵呵-KK “如果大脑数据不可转移或复制，那么发展人工智能就需要建立一个平行的机器思维体系，这种体系明显区别于动物和人类的智能”。 “机器的思维方式与我们的思维方式会有很大差异。毕竟，机器不了解我们的思维方式，被称为深度神经网络的图像识别算法有时会几乎肯定地宣称，随机静态图像是对各种动物的描绘。如果这样的神经网络可以被静态的图像愚弄，那么还有什么可以愚弄未来的思维机器” “我们还发现，算法的创造者们热衷于创造那些不仅强大而且连他们自己都无法理解的算法。按照这样的趋势，我们需要重新定义什么是“可理解性”。也许最终，我们再也无法理解这些自动化的系统。不过也没关系，我们只要能够像和其他人交流那样与它们进行交流互动就足够了，然后慢慢地形成一种坚定的观念：什么时候可以信任它们，把它们用在什么地方最有效，怎样帮它们取得我们自身无法实现的目标。” “简单地观察这些人工智能，就能给我们带来深刻的洞见。例如，长久以来人类总在争论：到底数学概念是柏拉图式“理型”（即脱离使用目的并独立存在）的反映，还是我们为了解决特定问题而产生的需求的反映？换句话说，我们到底应该采用现实主义，还是构造主义的观点来审视数学？数学概念到底是有血有肉的存在，还是我们为了图方便信手拈来的造物？” “人与机器分离产生了二者各自的思维空间缺损，这引导着我们去接受意识和物质同时存在的二元论。实际上，这只是信息技术长期发展的结果。” “思维机器的梦想与外星人的梦想没有什么不同。它只是取代了遥远的、生物的、宇宙的、负熵的外星人，替换成了我们之中机械电子的、人形的机器。如果SETI及其近亲在宇宙中犯了一个相同的错误，那么在地球上，我们推理并创建人工智能和思维机器所作出的努力也出现了相同的错误”。是吗？ “是一个在观察人类的外星生物。实际上，我是一个配备了人类所谓的“人工智能”的机器人。当然，在这里我不孤单，我们的数量很多（几乎多到无法确定），我们被送到这里来观察人类的行为”。看，此神经学家的笔法！书中，无奇不有……！ “人们不必过于担心会思考的机器，而是要担心那些自封为机器之主的人”。防学界忽悠者！另外，用机器做野蛮的思考者吧，而将关系思维继续留给我们自己！ “从本体论来说，自由选择意味着现状可以是不同的——在经典物理学中，反事实说法是不可能的，而如果量子测量是真实而又不确定的，反事实说法就很简单。我们可以观测到电子在自旋向上或自旋向下，所以现状可能是不同的。 然而，量子心智似乎排除了负责任的自由意志。事实并非如此，根据玻恩定则（Born rule），给定n个纠缠的粒子，对每一个粒子的测量会改变下一次测量的结果。在某种极端情况下，概率会在第一次100%的自旋向上到第二次100%的自旋向下之间改变，如此下去，到第n次测量，如果测量本身符合本体论的不确定性，那么整个过程就是非随机的和自由的”。 “自由是需要我们追求的正确途径和事物吗？如果我们对思维机器的恐惧占据了主导地位的话，那么答案确实如此。但这应该是我们思考思维机器的方式吗？否定等于批判性的思考吗？批判性思考是产生某些正确洞见的正确方式吗？或者这只是自慰式逻辑，旨在取悦自己而不顾他人和外界？以这种批判性的方式，我们在向谁演说？是向我们想要说服的人吗？这是可能的吗？或者说，这是幻想吗？又或者，这是理性的一个突兀转折，还是“开明”社会的构想？” 关于AI是否会有痛苦？“我们参考四个最简单的可能性：◎没有意识的机器人，没有遭受痛苦的能力；◎有意识但没有连贯PSM的机器人，没有遭受痛苦的能力；◎有自我意识、没有产生负面心理效价状态的能力的机器人，没有遭受痛苦的能力；◎有意识、没有任何透明现象学状态的机器人，没有遭受痛苦能力，因为它缺少现象学中的所有权和认同感。经常有人问我，我们能否创造出有自我意识的机器，它既拥有出色的智能，又无须遭受痛苦。事实上，怎么可能有不关心存在性的真实智能呢？” “为什么存在和快乐都无法被计算？快乐之所以无法计算，是因为它是物理目标的一种状态，处于计算领域之外。计算机和软件不会创造或者处理物理目标。虽然它能通过其他附属机器去完成这些事，但那不是计算机自身的功劳”。 “会思考的机器只出现在电影中”，但是，又有人认为：“人类以及我们的延伸物——机器，会继续进化我们的网络，而这一切都是为了宇宙的宏伟目标所服务的：创造一个信息不会减少反而增加的口袋”。 “从我临床神经医师的人生经历来说，人类无法读懂机器的思想——机器同样无法读懂我们的思想。我们与机器之间不会有彼此共享的思维理论。” “英国哲学家伯特兰·罗素在他《我为何而生》（What I Have Lived For）中的动人叙述：有三种情感，单纯然而强烈，支配着我的一生：对爱情的渴望，对知识的追求，以及对人类苦难不可遏制的同情。这些感情如阵阵巨风，挟卷着我在漂泊不定的路途中东飘西荡，飞越苦闷的汪洋大海，直抵绝望的边缘。 尽管罗素是一位举世闻名的思想者，但他的描述却让我们感到非常熟悉与亲切。如果换成一部机器，它会怎么想？” “机器人的出现并不能解决对我和很多人而言都非常重要的、有关这个世界的问题：茫茫宇宙中的那些暗物质是由什么组成的？超对称是否真的存在？它能给当今粒子物理学中高度成熟的标准模型提供支持和拓展吗？类似上述诸多问题，人类只能以确凿的实验数据回答，再多的思考都无法取代。” “数据和机器学习中最流行的两种算法：其中一个是无监督算法（不需要老师进行数据标记）；另外一个是监督算法（需要老师）。它们可以解释大部分的应用型人工智能。………无监督算法被称为k-均值聚类算法（k-means clustering），这是在大数据中最常用的算法。它以同类集群，也是谷歌新闻的基础算法。…………监督算法是一种被称为反向传播算法（backpropagation, BP算法）的神经网络算法。毫无疑问，这是一种最为常用的机器学习算法。”🌟🌟🌟 “爱创造出信任，让年幼的后代有足够的信心走出去，搜集关于这个世界的大数据。然后，消化数据，抚平创伤。爱是让人类得以发展出智能和思考能力的秘方。要让机器思考，我们必须给它们爱。这更像是一个幼儿园，而非高科技实验室。要让机器自己去探索，而不是按照我们的需求行动。” “神经科学家正在逐步揭示人的大脑是如何表现出各种偏好的。我们应该牢记，人工智能的偏好可能和人类并不一样，而且，如果要它们处理一些我们自己不能解决的问题，那就有必要输入一些特殊的代码。” “做决定的过程需要情感的参与，因为一个决定总是包含希望出现某一结果、不是其他结果的欲望，而欲望是基本的情感。人的欲望这种内心力量来源于处于大脑边缘系统（limbic system）和基底核（basal ganglia）中的皮质下大脑回路，特别是对可能导致好的或不好的结果的线索信号特别敏感的杏仁核（amygdala）和伏隔核（nucleus accumbens）中的皮质下大脑回路。这些结构中的信息会被反馈到前额皮质，它能在各种选择之间作出比较，进而作出最终决定。” 🌟🌟 “机器会困惑吗？会有认知失调吗？会做梦吗？有好奇心吗？明明认识一个人，却因为想了一会儿其他事情而忘记了他的名字，那么它还会记起来吗？它会忘记时间吗？会去养一只小狗吗？会自卑吗？会有自杀的念头吗？会感到无聊吗？会担心吗？会祈祷吗？我认为不会。” “有自我意识的人工智能？再过1000年都不会出现！” 另外，“事实上，我们将必须学会：最重要的是思想，而非基因。” “会思考的机器降临的那一天，必将是人类历史上最重要的一刻。而它对于我们人类而言究竟是天堂还是地狱，取决于我们所做的准备，现在是时候开始做准备了。即便智力再平庸的人也应该清楚，毫无准备地迎接人类历史上最重要的发明，简直愚蠢至极。” 简言之，“这些文章总的特点是短小精悍、可读性强。大咖们个个才高八斗、见解独到，但并没有表现得高高在上，而是非常接地气，这一点从他们都在尽量用最平实的语言来介绍晦涩难懂的专业术语和思想的努力中，…”。 本书通俗易懂，十分精彩，尽管没有一个数学公式或者一句码农语言，但是其思想深度和广度超过人想象。本来想说，它定成为AI中的经典名作，同时为想到“今日简史”那本书中的忽悠，感到十分上当受骗。但是，AI领域发展之快，谁又敢预测其未来？没有给五星只因为，它内容太丰富，……。呵呵🤭😄

185位科学家和媒体工作者回答如何思考会思考的机器（即人工智能），每个人都是蜻蜒点水，每个人都几乎使尽自己的浑身解数力求言简意阂直达本质。 要将每个人的观点划分为几大类似乎都是件很困难的事情，大致说来，只能说：有些人倾向于认为人工智能要赶上和超过人脑是不可能或遥远的将来的事情；有些人则倾向于认为人工智能已经在某些领域或部分胜过人类；更有人认为人工智能古已有之，一切代替人工作的机器某种程度都可以说是具有相当程度的人工智能；有个别人则更是剑走偏锋，认为凡他人即人工。 对于人工智能的未来，绝大多数人是持乐观态度的，无论是全面胜于人还是部分取代人的工作，无不在人类的掌控之中，因此，人工智能不值得忧虑，值得忧虑的倒是人类自身。 对于人工智能能否获得与人齐平的智慧水平，想到这一点的人士认为需要漫长的岁月，不如让它发展发展再说。 在速度和量方面、在给定目标任务的情况下，机器完胜于人，这是毫无悬念的了，如国际象棋和中国围棋，人工智能都使人类顶级高手毫无招架之力。但是，人工智能不会主动想到要去做什么，比如一台会下棋的机器。 在未来，人与机器（具有人工智能的机器）配合完成一些简单或复杂甚至是艰难的任务，大家均持认可态度。 对于人工智能或许最终有一天能取代人类智慧甚至整个人类，从而把人当成奴仆，或故去的上帝，或干脆消灭并取而代之……想到这一方面的专家们也采取了一种豁达的态度，并不认为人必然是宇宙万物的主宰是有道理的（凭什么？）。 因此，这是一本必须逐行逐句阅读的好书，只是大致看看，也就只能大致了解，对于那些一闪而过的只言片语，反而会忽略了，却正是这些欲语还休的片言短句却可能蕴含着极大的智慧而隐藏着未来人工智能的真相。 我不信他们当中任何一位，但是，我觉得未来的真相很可能（百分之八九十以上的可能性）就藏在这185位作者的短文中。 朗读比以前改观了，仍然不够理想，尤其是题目往往漏字词。布罗克曼这套丛书，翻译说明一下是哪一年的会不会更好些？ 无论是什么年度问题，都值得读。比《科技之巅》好，比我国的一些丛书都好！五星推荐。

这是一整本200个拥有疯狂想象力的大脑对人工智能设想的飞机稿，顺便推荐了他们写的一百多本书。 这些短篇很有启发，关注点也非常离奇—— 如果人类根据机器给出的信息采取行动，每个人不就成了智能大脑里的单一神经元了？ 人性是什么？就是意识到他人和自己完全一样时所产生的同理心，那机器人可以直接从同伴那里拷贝出一模一样的体验（数据），岂不是最有人性的群体？ 这样一来，除了更消耗能量，以及发动战争、贪婪嫉妒这种非理性行为外，人类和人工智能还有什么区别？

书里每个人的发言都很短，可能也没有搞清楚这个问题到底是什么吧。毕竟，现在大家都公认的“会思考的机器”还没出现，也许人类会认为会“伤春悲秋”、“谈一场轰轰烈烈的恋爱”、会主动去做冒险的事情，而只为了体验一时感觉（比如蹦极），能这么做才叫会思考第一步。接下来还要会思考“如何应付同事，岳父母”，“办公室政治怎么搞”这才是第二步。所以离会思考的机器还远着呢。所以这本书没啥可看。

看完了。表面上是一本，实际上是一堆作者的文集，每个作者都有自己的作品推荐，可以直接链接追着看。科技真好，我爱科技[好的]

首先，我对书名产生了浓浓的好奇心。我看过一部电影（忘记电影名字），其中剧情是会思考的机器对人类的危害，超级智能想控制人类，进而掌控全世界，但最后是唯一一个特别的机器人和主角消除超级智能的记忆以至达到拯救全人类，避免会思考的机器统治全世界。这部电影让我一度去搜寻相关智能机器的消息。这本书也因此被我加入阅读计划。 会思考的机器是我们每个人都应去了解，而不是抱着无知和拒绝，我个人对会思考的机器的概念和相关知识不多，阅读这本书可以增长知识。 会思考的机器时代并不遥远 人类的能力是有待挖掘的，但也是有限的，大脑的容量和处理能力存在一个极限（每个时代都有不同的极限），现在的我们或许在接近这个极限，可硅基的计算机或量子计算机至今还有很大的潜力，更好的科技发展必然会在此前进，我相信会思考的机器时代会来。 对于会思考的机器不能一味拒绝，当然也不是一味支持 我对会思考的机器感兴趣的缘由始于关于一部超级只能主脑想控制人类的电影，我相信很多人对会思考的机器的看法基本来源于生活，比如新闻等，因为我们每个人都不可能全是研究会思考的机器方面的人才，会思考的机器能极大改变生活和探究一些我们人类至今都无法亲身做到的事，比如去遨游外太空等。还有，眼前的科技沟壑都还没有跨过去，谈什么更遥远的智能危机。当然，危机意识不可缺少，对会思考的机器的担忧是要有的。 积极去了解会思考的机器 对于会思考的机器，我们每个人都应了解到一定程度（因人而异，但建议每个人都应知道一点），赶上时代，我们人不能落伍。老古董的人可不值钱，相反还要赔钱，不懂是要吃亏的。

《如何思考会思考的机器》 读后； 它是科幻小说和电影里机器人消灭人类的预言其实大多是人自己想象出来的。机器未必会有野心消灭人类，但人和人之间的斗争是永远存在的。让人类文明过早地进入"自动导航"状态，是一件非常危险的事情。所以说；人工智能的机器也会带给我们众多的思考。值得一看

众多专家学者各抒己见，从各个角度以认真严肃的分析了人工智能未来以及现在发展阶段的种种弊端以及期待。个人认为，人工智能应该以辅助人类为主。充分发挥人工智能优势。取其所长，避及所短。而不是知道什么杀人机器一类的。人类制造了那么多核弹已经够毁灭地球的了。

其实无论怎样的观点，在真正的会思考的人工智能到来之前，我们无法对其做出评价，甚至无法做出定义。我们能做的，就是在发展的每一步都走的踏实稳健。 其实，如何思考会思考的机器，思考的真的是机器吗？在回答这个问题之前，有多少人反思过——我们真的知道什么是思考吗？我们知道如何思考吗？ 在回答以上两个问题后，我们才有资格回答——如何让机器思考，机器怎样思考？ 最后，我们才可以回答——如何思考会思考的机器？ 很不幸，我们连第一个问题都没有真的搞清楚。 而且，一天我们仍沉浸于以人类为中心的世界中，我们一天就不可能真的制造出会思考的机器。我们思考的方式真的是唯一思考的方式吗？——其实还是回到了最根源的问题，什么是思考？是广义的对信息的整合处理并得出结论做出选择吗？那么这样的定义下，目前的机器俨然已经满足了思考的功能。 所以，我们所说的思考，说白了，还是一种以自我为中心的定义，我们在希望机器能和我们人类一样思考。其实，归根结底，我们在思考有情感的机器，我们不担心会思考的机器，我们担心的是有了情感，有了欲望(而非预先设定的目的)的机器。 可为什么非要让机器有情感呢？或者为什额高度智能的机器一定就会产生情感呢？我不解。 或许，比起会思考的机器，比起飞速进展的人工智能领域，更应该让我们恐惧的，是人类固化了的，以人类为唯一准绳，唯一标准的思想吧！ 茫茫浩宇，无数星辰，凭何我们要自称唯一，我们哪来的资格认为我们是独一无二不可替代的？

去年三月刚刚结束《海伯利安》梦幻之旅，便走进这大师的讲堂，期望能帮助打开脑洞，让思想走得更踏实而深远…… 这是关于未来的课题，伟大的头脑们即使以最简单通俗的语言，但仍然有点像不同纬度的对话，每篇言简意赅的演讲，都蕴含丰富的内容和巨大的能量，是极具冲击力的科普课。以我的愚钝，只能走走歇歇，历时接近两年。 围绕“如何思考会思考的机器”这个问题，伟大的头脑们众说纷纭。既严肃又浪漫，既谨慎又疯狂。在这个我们经常依赖手机与网络去替我们思考，须臾不能离开手机和网络的“共生”时代里，他们的担忧和警告并不是多余的杞人忧天。他们的乐观和展望也不是骗人的画饼充饥。远方和诗意没有必然的重叠，未知和探索充满恐怖与艰辛。但眺望和诗歌是前行的补给，思考和信心一定收获回报。如篇中所说:人工智能的成果可以帮助我们提高群体能力，从数据中提取有意义的洞见，帮助我们革新技术，并解决某些艰难的全球性挑战。 无论如何定义思考机器，智人与机器的相融都在狂奔加速，届时“拔掉插头”等于自寻绝路。社会的发展趋向多元和开放，人类的“三观”也随之变化，定义也会发生变化。科技的发展有无限的可能，科幻小说和影视作品中各种智慧生物(当然包括智慧机器)和平共处的场景一定会出现。 一种说法是“人类大脑的容量和处理能力存在化学与新陈代谢的极限，我们或许已经接近这个极限了，但硅基的计算机或量子计算机则没有这种限制”。也有说法是人类大脑仅仅开发了10%，对思考机器的拟人开发也许能发现90%的开发途径。无论如何，只有碳基生命和硅基机器联手，才是人类“逃离地球”的唯一出路。 全书的压轴之篇题为《我看到了一种共生的发展》，其观点令人欣慰:“我则看到了一种共生的发展。从历史来看，每当进化的新阶段出现时，例如真核细胞、多细胞有机体或大脑，旧的系统会继续延续，新的系统会与之共生，而不是取而代之。” 这也是关于人类命运的课题。就像关心自己的孩子，孩子的未来就是人类命运的未来，每一个关心这个课题的人，都不应该错过这个讲堂。