如何思考會思考的機器

在讀個人這本AI#6書中，作者邀請了世界上185 位，各個領域的科學精英和思想家，著名企業家及著名作者等，通過在線會議對話的方式，展開討論專家們之間十分豐富的分享和討論。它百花齊放，正反觀點都有，非常有深度。這些專家涉及諸多領域的前沿，例如，進化生物學、遺傳學、計算機科學、神經學、數學，哲學，心理學、宇宙學和現代物理學等。它當然包括AI領域美國最著名專家學者… 書名：如何思考會思考的機器？其主題是對於AI 全方位發展未來的反思。希望自己前面讀的五本關於AI科普書能夠爲理解本書內容提供一定基礎。拭目以待。 認真讀本書後發現，它都只是些牛人專家們發的一些豆腐塊文章泡泡，似乎缺乏一個系統性表述。但是，非常意外收穫是在每一篇小文章中，基本上都有一段介紹該名人所出書及介紹其重要內容，還十分簡明扼要。所以，讀此一本書，基本上就可以瞭解到，EDGE精英俱樂部成員重要成就及相關書籍的概貌。瞭解這些人其意義或者價值可能遠超過了，僅僅知道牛人們是如何從不同角度，不同層次，不同分析系統，來如何看待AI，包括各種顧慮，及相應哲學，社會學及心理學思考等等。 讀本書第二個重要意義，就是看這些當今世界上的專家學者，對於同一行業是如何思考及提更深刻問題。因爲好問題能夠激勵產生更有效解決方案。……當然，這也是智者見智？第三，它基本覆蓋，討論了AI本身可能應用之領域發展方面。它本身像比較完整AI百科全書詞條…。 簡言之，儘管它像是本沒有技術含量，但是更像是指點AI江山地圖。充滿了各種色彩鮮豔幻想，假設，……。讀本書，就像經歷與牛人共舞過程。因爲讀其過程，也是一個欣賞過程，不管是同意其中作者的觀點，還是也許甚至讀不懂，其觀點後面預設條件等等。從某種意義上說，本書內容更像是，對於AI及人類未來，全方位深度思考。 例如，我們是否把這種未來掌控權，讓位於不會思考的人工智能體？或者貿然地把我們的文明切換到大數據平臺下面，AI成就黑盒子中的自動航行模式？同時，從人性角度考慮，這種問題作嗎？因爲已經有人問：“真正的危險並不是智能機器會強大到篡奪人類的統治權，而是因爲愚蠢的機器被人類賦予了遠超出它們自身能力的權利”。 有意思還有，今天，谷歌宣佈了，可以用AI 來解決分析蛋白質三維空間結構。這是一個劃時代意義重大事件！是比下圍棋更爲重要，更復雜的里程碑事件！ 下面是一些個人讀書筆記中，取精華觀點泡泡： “人腦中的神經電路通過溝通渠道產生鬆散的間接耦合，而設計智能則不同，它廢除了獨立個體的概念，是直接的強耦合，從而把“思考”這種認知活動提升到前所未有的高度。其中某些設計過的神經電路可能會產生量子效應，即諾貝爾物理學獎得主弗蘭克·威爾澤克（Frank Wilczek）提出的“量子智能”（quintelligence）的概念” “我們總喜歡給人類智能冠以“萬能”的前綴——因爲比起我們遇到的其他物種，它確實能夠解決更多樣的問題。然而，在着手塑造人工意識的時候，我們才意識到人類思維一點兒都不萬能，它也只是思維中的一種而已。……其實將AI視爲“Alien Intelligence”（外星智能）的縮寫也挺合適。” 呵呵-KK “如果大腦數據不可轉移或複製，那麼發展人工智能就需要建立一個平行的機器思維體系，這種體系明顯區別於動物和人類的智能”。 “機器的思維方式與我們的思維方式會有很大差異。畢竟，機器不瞭解我們的思維方式，被稱爲深度神經網絡的圖像識別算法有時會幾乎肯定地宣稱，隨機靜態圖像是對各種動物的描繪。如果這樣的神經網絡可以被靜態的圖像愚弄，那麼還有什麼可以愚弄未來的思維機器” “我們還發現，算法的創造者們熱衷於創造那些不僅強大而且連他們自己都無法理解的算法。按照這樣的趨勢，我們需要重新定義什麼是“可理解性”。也許最終，我們再也無法理解這些自動化的系統。不過也沒關係，我們只要能夠像和其他人交流那樣與它們進行交流互動就足夠了，然後慢慢地形成一種堅定的觀念：什麼時候可以信任它們，把它們用在什麼地方最有效，怎樣幫它們取得我們自身無法實現的目標。” “簡單地觀察這些人工智能，就能給我們帶來深刻的洞見。例如，長久以來人類總在爭論：到底數學概念是柏拉圖式“理型”（即脫離使用目的並獨立存在）的反映，還是我們爲了解決特定問題而產生的需求的反映？換句話說，我們到底應該採用現實主義，還是構造主義的觀點來審視數學？數學概念到底是有血有肉的存在，還是我們爲了圖方便信手拈來的造物？” “人與機器分離產生了二者各自的思維空間缺損，這引導着我們去接受意識和物質同時存在的二元論。實際上，這只是信息技術長期發展的結果。” “思維機器的夢想與外星人的夢想沒有什麼不同。它只是取代了遙遠的、生物的、宇宙的、負熵的外星人，替換成了我們之中機械電子的、人形的機器。如果SETI及其近親在宇宙中犯了一個相同的錯誤，那麼在地球上，我們推理並創建人工智能和思維機器所作出的努力也出現了相同的錯誤”。是嗎？ “是一個在觀察人類的外星生物。實際上，我是一個配備了人類所謂的“人工智能”的機器人。當然，在這裏我不孤單，我們的數量很多（幾乎多到無法確定），我們被送到這裏來觀察人類的行爲”。看，此神經學家的筆法！書中，無奇不有……！ “人們不必過於擔心會思考的機器，而是要擔心那些自封爲機器之主的人”。防學界忽悠者！另外，用機器做野蠻的思考者吧，而將關係思維繼續留給我們自己！ “從本體論來說，自由選擇意味着現狀可以是不同的——在經典物理學中，反事實說法是不可能的，而如果量子測量是真實而又不確定的，反事實說法就很簡單。我們可以觀測到電子在自旋向上或自旋向下，所以現狀可能是不同的。 然而，量子心智似乎排除了負責任的自由意志。事實並非如此，根據玻恩定則（Born rule），給定n個糾纏的粒子，對每一個粒子的測量會改變下一次測量的結果。在某種極端情況下，概率會在第一次100%的自旋向上到第二次100%的自旋向下之間改變，如此下去，到第n次測量，如果測量本身符合本體論的不確定性，那麼整個過程就是非隨機的和自由的”。 “自由是需要我們追求的正確途徑和事物嗎？如果我們對思維機器的恐懼佔據了主導地位的話，那麼答案確實如此。但這應該是我們思考思維機器的方式嗎？否定等於批判性的思考嗎？批判性思考是產生某些正確洞見的正確方式嗎？或者這只是自慰式邏輯，旨在取悅自己而不顧他人和外界？以這種批判性的方式，我們在向誰演說？是向我們想要說服的人嗎？這是可能的嗎？或者說，這是幻想嗎？又或者，這是理性的一個突兀轉折，還是“開明”社會的構想？” 關於AI是否會有痛苦？“我們參考四個最簡單的可能性：◎沒有意識的機器人，沒有遭受痛苦的能力；◎有意識但沒有連貫PSM的機器人，沒有遭受痛苦的能力；◎有自我意識、沒有產生負面心理效價狀態的能力的機器人，沒有遭受痛苦的能力；◎有意識、沒有任何透明現象學狀態的機器人，沒有遭受痛苦能力，因爲它缺少現象學中的所有權和認同感。經常有人問我，我們能否創造出有自我意識的機器，它既擁有出色的智能，又無須遭受痛苦。事實上，怎麼可能有不關心存在性的真實智能呢？” “爲什麼存在和快樂都無法被計算？快樂之所以無法計算，是因爲它是物理目標的一種狀態，處於計算領域之外。計算機和軟件不會創造或者處理物理目標。雖然它能通過其他附屬機器去完成這些事，但那不是計算機自身的功勞”。 “會思考的機器只出現在電影中”，但是，又有人認爲：“人類以及我們的延伸物——機器，會繼續進化我們的網絡，而這一切都是爲了宇宙的宏偉目標所服務的：創造一個信息不會減少反而增加的口袋”。 “從我臨牀神經醫師的人生經歷來說，人類無法讀懂機器的思想——機器同樣無法讀懂我們的思想。我們與機器之間不會有彼此共享的思維理論。” “英國哲學家伯特蘭·羅素在他《我爲何而生》（What I Have Lived For）中的動人敘述：有三種情感，單純然而強烈，支配着我的一生：對愛情的渴望，對知識的追求，以及對人類苦難不可遏制的同情。這些感情如陣陣巨風，挾卷着我在漂泊不定的路途中東飄西蕩，飛越苦悶的汪洋大海，直抵絕望的邊緣。 儘管羅素是一位舉世聞名的思想者，但他的描述卻讓我們感到非常熟悉與親切。如果換成一部機器，它會怎麼想？” “機器人的出現並不能解決對我和很多人而言都非常重要的、有關這個世界的問題：茫茫宇宙中的那些暗物質是由什麼組成的？超對稱是否真的存在？它能給當今粒子物理學中高度成熟的標準模型提供支持和拓展嗎？類似上述諸多問題，人類只能以確鑿的實驗數據回答，再多的思考都無法取代。” “數據和機器學習中最流行的兩種算法：其中一個是無監督算法（不需要老師進行數據標記）；另外一個是監督算法（需要老師）。它們可以解釋大部分的應用型人工智能。………無監督算法被稱爲k-均值聚類算法（k-means clustering），這是在大數據中最常用的算法。它以同類集羣，也是谷歌新聞的基礎算法。…………監督算法是一種被稱爲反向傳播算法（backpropagation, BP算法）的神經網絡算法。毫無疑問，這是一種最爲常用的機器學習算法。”🌟🌟🌟 “愛創造出信任，讓年幼的後代有足夠的信心走出去，蒐集關於這個世界的大數據。然後，消化數據，撫平創傷。愛是讓人類得以發展出智能和思考能力的祕方。要讓機器思考，我們必須給它們愛。這更像是一個幼兒園，而非高科技實驗室。要讓機器自己去探索，而不是按照我們的需求行動。” “神經科學家正在逐步揭示人的大腦是如何表現出各種偏好的。我們應該牢記，人工智能的偏好可能和人類並不一樣，而且，如果要它們處理一些我們自己不能解決的問題，那就有必要輸入一些特殊的代碼。” “做決定的過程需要情感的參與，因爲一個決定總是包含希望出現某一結果、不是其他結果的慾望，而慾望是基本的情感。人的慾望這種內心力量來源於處於大腦邊緣系統（limbic system）和基底核（basal ganglia）中的皮質下大腦回路，特別是對可能導致好的或不好的結果的線索信號特別敏感的杏仁核（amygdala）和伏隔核（nucleus accumbens）中的皮質下大腦回路。這些結構中的信息會被反饋到前額皮質，它能在各種選擇之間作出比較，進而作出最終決定。” 🌟🌟 “機器會困惑嗎？會有認知失調嗎？會做夢嗎？有好奇心嗎？明明認識一個人，卻因爲想了一會兒其他事情而忘記了他的名字，那麼它還會記起來嗎？它會忘記時間嗎？會去養一隻小狗嗎？會自卑嗎？會有自殺的念頭嗎？會感到無聊嗎？會擔心嗎？會祈禱嗎？我認爲不會。” “有自我意識的人工智能？再過1000年都不會出現！” 另外，“事實上，我們將必須學會：最重要的是思想，而非基因。” “會思考的機器降臨的那一天，必將是人類歷史上最重要的一刻。而它對於我們人類而言究竟是天堂還是地獄，取決於我們所做的準備，現在是時候開始做準備了。即便智力再平庸的人也應該清楚，毫無準備地迎接人類歷史上最重要的發明，簡直愚蠢至極。” 簡言之，“這些文章總的特點是短小精悍、可讀性強。大咖們個個才高八斗、見解獨到，但並沒有表現得高高在上，而是非常接地氣，這一點從他們都在儘量用最平實的語言來介紹晦澀難懂的專業術語和思想的努力中，…”。 本書通俗易懂，十分精彩，儘管沒有一個數學公式或者一句碼農語言，但是其思想深度和廣度超過人想象。本來想說，它定成爲AI中的經典名作，同時爲想到“今日簡史”那本書中的忽悠，感到十分上當受騙。但是，AI領域發展之快，誰又敢預測其未來？沒有給五星只因爲，它內容太豐富，……。呵呵🤭😄

185位科學家和媒體工作者回答如何思考會思考的機器（即人工智能），每個人都是蜻蜒點水，每個人都幾乎使盡自己的渾身解數力求言簡意閡直達本質。 要將每個人的觀點劃分爲幾大類似乎都是件很困難的事情，大致說來，只能說：有些人傾向於認爲人工智能要趕上和超過人腦是不可能或遙遠的將來的事情；有些人則傾向於認爲人工智能已經在某些領域或部分勝過人類；更有人認爲人工智能古已有之，一切代替人工作的機器某種程度都可以說是具有相當程度的人工智能；有個別人則更是劍走偏鋒，認爲凡他人即人工。 對於人工智能的未來，絕大多數人是持樂觀態度的，無論是全面勝於人還是部分取代人的工作，無不在人類的掌控之中，因此，人工智能不值得憂慮，值得憂慮的倒是人類自身。 對於人工智能能否獲得與人齊平的智慧水平，想到這一點的人士認爲需要漫長的歲月，不如讓它發展發展再說。 在速度和量方面、在給定目標任務的情況下，機器完勝於人，這是毫無懸念的了，如國際象棋和中國圍棋，人工智能都使人類頂級高手毫無招架之力。但是，人工智能不會主動想到要去做什麼，比如一臺會下棋的機器。 在未來，人與機器（具有人工智能的機器）配合完成一些簡單或複雜甚至是艱難的任務，大家均持認可態度。 對於人工智能或許最終有一天能取代人類智慧甚至整個人類，從而把人當成奴僕，或故去的上帝，或乾脆消滅並取而代之……想到這一方面的專家們也採取了一種豁達的態度，並不認爲人必然是宇宙萬物的主宰是有道理的（憑什麼？）。 因此，這是一本必須逐行逐句閱讀的好書，只是大致看看，也就只能大致瞭解，對於那些一閃而過的隻言片語，反而會忽略了，卻正是這些欲語還休的片言短句卻可能蘊含着極大的智慧而隱藏着未來人工智能的真相。 我不信他們當中任何一位，但是，我覺得未來的真相很可能（百分之八九十以上的可能性）就藏在這185位作者的短文中。 朗讀比以前改觀了，仍然不夠理想，尤其是題目往往漏字詞。布羅克曼這套叢書，翻譯說明一下是哪一年的會不會更好些？ 無論是什麼年度問題，都值得讀。比《科技之巔》好，比我國的一些叢書都好！五星推薦。

這是一整本200個擁有瘋狂想象力的大腦對人工智能設想的飛機稿，順便推薦了他們寫的一百多本書。 這些短篇很有啓發，關注點也非常離奇—— 如果人類根據機器給出的信息採取行動，每個人不就成了智能大腦裏的單一神經元了？ 人性是什麼？就是意識到他人和自己完全一樣時所產生的同理心，那機器人可以直接從同伴那裏拷貝出一模一樣的體驗（數據），豈不是最有人性的羣體？ 這樣一來，除了更消耗能量，以及發動戰爭、貪婪嫉妒這種非理性行爲外，人類和人工智能還有什麼區別？

書裏每個人的發言都很短，可能也沒有搞清楚這個問題到底是什麼吧。畢竟，現在大家都公認的“會思考的機器”還沒出現，也許人類會認爲會“傷春悲秋”、“談一場轟轟烈烈的戀愛”、會主動去做冒險的事情，而只爲了體驗一時感覺（比如蹦極），能這麼做才叫會思考第一步。接下來還要會思考“如何應付同事，岳父母”，“辦公室政治怎麼搞”這纔是第二步。所以離會思考的機器還遠着呢。所以這本書沒啥可看。

看完了。表面上是一本，實際上是一堆作者的文集，每個作者都有自己的作品推薦，可以直接鏈接追着看。科技真好，我愛科技[好的]

首先，我對書名產生了濃濃的好奇心。我看過一部電影（忘記電影名字），其中劇情是會思考的機器對人類的危害，超級智能想控制人類，進而掌控全世界，但最後是唯一一個特別的機器人和主角消除超級智能的記憶以至達到拯救全人類，避免會思考的機器統治全世界。這部電影讓我一度去搜尋相關智能機器的消息。這本書也因此被我加入閱讀計劃。 會思考的機器是我們每個人都應去了解，而不是抱着無知和拒絕，我個人對會思考的機器的概念和相關知識不多，閱讀這本書可以增長知識。 會思考的機器時代並不遙遠 人類的能力是有待挖掘的，但也是有限的，大腦的容量和處理能力存在一個極限（每個時代都有不同的極限），現在的我們或許在接近這個極限，可硅基的計算機或量子計算機至今還有很大的潛力，更好的科技發展必然會在此前進，我相信會思考的機器時代會來。 對於會思考的機器不能一味拒絕，當然也不是一味支持 我對會思考的機器感興趣的緣由始於關於一部超級只能主腦想控制人類的電影，我相信很多人對會思考的機器的看法基本來源於生活，比如新聞等，因爲我們每個人都不可能全是研究會思考的機器方面的人才，會思考的機器能極大改變生活和探究一些我們人類至今都無法親身做到的事，比如去遨遊外太空等。還有，眼前的科技溝壑都還沒有跨過去，談什麼更遙遠的智能危機。當然，危機意識不可缺少，對會思考的機器的擔憂是要有的。 積極去了解會思考的機器 對於會思考的機器，我們每個人都應瞭解到一定程度（因人而異，但建議每個人都應知道一點），趕上時代，我們人不能落伍。老古董的人可不值錢，相反還要賠錢，不懂是要喫虧的。

《如何思考會思考的機器》 讀後； 它是科幻小說和電影裏機器人消滅人類的預言其實大多是人自己想象出來的。機器未必會有野心消滅人類，但人和人之間的鬥爭是永遠存在的。讓人類文明過早地進入"自動導航"狀態，是一件非常危險的事情。所以說；人工智能的機器也會帶給我們衆多的思考。值得一看

衆多專家學者各抒己見，從各個角度以認真嚴肅的分析了人工智能未來以及現在發展階段的種種弊端以及期待。個人認爲，人工智能應該以輔助人類爲主。充分發揮人工智能優勢。取其所長，避及所短。而不是知道什麼殺人機器一類的。人類製造了那麼多核彈已經夠毀滅地球的了。

其實無論怎樣的觀點，在真正的會思考的人工智能到來之前，我們無法對其做出評價，甚至無法做出定義。我們能做的，就是在發展的每一步都走的踏實穩健。 其實，如何思考會思考的機器，思考的真的是機器嗎？在回答這個問題之前，有多少人反思過——我們真的知道什麼是思考嗎？我們知道如何思考嗎？ 在回答以上兩個問題後，我們纔有資格回答——如何讓機器思考，機器怎樣思考？ 最後，我們纔可以回答——如何思考會思考的機器？ 很不幸，我們連第一個問題都沒有真的搞清楚。 而且，一天我們仍沉浸於以人類爲中心的世界中，我們一天就不可能真的製造出會思考的機器。我們思考的方式真的是唯一思考的方式嗎？——其實還是回到了最根源的問題，什麼是思考？是廣義的對信息的整合處理並得出結論做出選擇嗎？那麼這樣的定義下，目前的機器儼然已經滿足了思考的功能。 所以，我們所說的思考，說白了，還是一種以自我爲中心的定義，我們在希望機器能和我們人類一樣思考。其實，歸根結底，我們在思考有情感的機器，我們不擔心會思考的機器，我們擔心的是有了情感，有了慾望(而非預先設定的目的)的機器。 可爲什麼非要讓機器有情感呢？或者爲什額高度智能的機器一定就會產生情感呢？我不解。 或許，比起會思考的機器，比起飛速進展的人工智能領域，更應該讓我們恐懼的，是人類固化了的，以人類爲唯一準繩，唯一標準的思想吧！ 茫茫浩宇，無數星辰，憑何我們要自稱唯一，我們哪來的資格認爲我們是獨一無二不可替代的？

去年三月剛剛結束《海伯利安》夢幻之旅，便走進這大師的講堂，期望能幫助打開腦洞，讓思想走得更踏實而深遠…… 這是關於未來的課題，偉大的頭腦們即使以最簡單通俗的語言，但仍然有點像不同緯度的對話，每篇言簡意賅的演講，都蘊含豐富的內容和巨大的能量，是極具衝擊力的科普課。以我的愚鈍，只能走走歇歇，歷時接近兩年。 圍繞“如何思考會思考的機器”這個問題，偉大的頭腦們衆說紛紜。既嚴肅又浪漫，既謹慎又瘋狂。在這個我們經常依賴手機與網絡去替我們思考，須臾不能離開手機和網絡的“共生”時代裏，他們的擔憂和警告並不是多餘的杞人憂天。他們的樂觀和展望也不是騙人的畫餅充飢。遠方和詩意沒有必然的重疊，未知和探索充滿恐怖與艱辛。但眺望和詩歌是前行的補給，思考和信心一定收穫回報。如篇中所說:人工智能的成果可以幫助我們提高羣體能力，從數據中提取有意義的洞見，幫助我們革新技術，並解決某些艱難的全球性挑戰。 無論如何定義思考機器，智人與機器的相融都在狂奔加速，屆時“拔掉插頭”等於自尋絕路。社會的發展趨向多元和開放，人類的“三觀”也隨之變化，定義也會發生變化。科技的發展有無限的可能，科幻小說和影視作品中各種智慧生物(當然包括智慧機器)和平共處的場景一定會出現。 一種說法是“人類大腦的容量和處理能力存在化學與新陳代謝的極限，我們或許已經接近這個極限了，但硅基的計算機或量子計算機則沒有這種限制”。也有說法是人類大腦僅僅開發了10%，對思考機器的擬人開發也許能發現90%的開發途徑。無論如何，只有碳基生命和硅基機器聯手，纔是人類“逃離地球”的唯一出路。 全書的壓軸之篇題爲《我看到了一種共生的發展》，其觀點令人欣慰:“我則看到了一種共生的發展。從歷史來看，每當進化的新階段出現時，例如真核細胞、多細胞有機體或大腦，舊的系統會繼續延續，新的系統會與之共生，而不是取而代之。” 這也是關於人類命運的課題。就像關心自己的孩子，孩子的未來就是人類命運的未來，每一個關心這個課題的人，都不應該錯過這個講堂。