系列文章《人工智能會不會覺醒》之第三篇
計算機算法的侷限
其實，計算機上的所有行為都可以轉換為數學和邏輯運算。如果把計算機的行為抽象出來看，無非就是輸入、計算、輸出這樣三個過程。例如你在屏幕上點一下“磨皮”的按鈕，這個叫輸入，經過一定的運算後，返回你一張更漂亮的自拍照，這個叫輸出。
解釋“磨皮”背後的算法會太複雜，我們簡化一下問題：將圖片從彩色變成黑白。它背後的算法就是當年研究彩電的人鼓搗出來的，計算過程是這樣：大家都知道任何彩色圖片都是由紅綠藍三原色組成的，也就是照片上的每一個像素都是一個彩色的點，而這個點都是紅綠藍三種顏色的混和，現在我們只需要利用一個經驗公式，把紅色的顏色值乘以0.2989，綠色值乘以0.587，藍色值乘以 0.114 ，再把結果求和，得到的數值就是圖片的灰度數值，把照片上的每一個像素點計算一遍，轉換成黑白模式，就得到了一張從彩色變成黑白的照片了，它的背後就是數學。
上一節介紹的那六條完成加 1 運算的圖靈機規則也可以叫做程序，計算機程序就是用來描述某種運算過程的機器語言，所有程序還原到最後都是圖靈機中兩個條件加上三個動作的組合。
好了，有了這些前置知識，我們就可以繼續來探討人工智能是否能覺醒的問題了。我們現在有兩個研究對象，一個是計算機系統，一個是大腦神經元系統，解決問題的關鍵在於比較這兩者之間的異同點。就我所知，在這個問題上，最早做出深入思考的科學家是英國著名的物理學家彭羅斯，他專門就此問題寫了一本厚厚的專著，叫《皇帝新腦》。彭羅斯認為：只要我們的計算機系統依然是圖靈機，就不可能覺醒。話說得斬釘截鐵，沒有任何含糊。
那彭羅斯何以能得出這麼斬釘截鐵的結論呢？他當然是有論據的。彭羅斯的論據很多也很複雜，我這裡選取其中最重要也是最核心的二個論據解釋給你聽。
系列文章《人工智能會不會覺醒》之第三篇
計算機算法的侷限
其實，計算機上的所有行為都可以轉換為數學和邏輯運算。如果把計算機的行為抽象出來看，無非就是輸入、計算、輸出這樣三個過程。例如你在屏幕上點一下“磨皮”的按鈕，這個叫輸入，經過一定的運算後，返回你一張更漂亮的自拍照，這個叫輸出。
解釋“磨皮”背後的算法會太複雜，我們簡化一下問題：將圖片從彩色變成黑白。它背後的算法就是當年研究彩電的人鼓搗出來的，計算過程是這樣：大家都知道任何彩色圖片都是由紅綠藍三原色組成的，也就是照片上的每一個像素都是一個彩色的點，而這個點都是紅綠藍三種顏色的混和，現在我們只需要利用一個經驗公式，把紅色的顏色值乘以0.2989，綠色值乘以0.587，藍色值乘以 0.114 ，再把結果求和，得到的數值就是圖片的灰度數值，把照片上的每一個像素點計算一遍，轉換成黑白模式，就得到了一張從彩色變成黑白的照片了，它的背後就是數學。
上一節介紹的那六條完成加 1 運算的圖靈機規則也可以叫做程序，計算機程序就是用來描述某種運算過程的機器語言，所有程序還原到最後都是圖靈機中兩個條件加上三個動作的組合。
好了，有了這些前置知識，我們就可以繼續來探討人工智能是否能覺醒的問題了。我們現在有兩個研究對象，一個是計算機系統，一個是大腦神經元系統，解決問題的關鍵在於比較這兩者之間的異同點。就我所知，在這個問題上，最早做出深入思考的科學家是英國著名的物理學家彭羅斯，他專門就此問題寫了一本厚厚的專著，叫《皇帝新腦》。彭羅斯認為：只要我們的計算機系統依然是圖靈機，就不可能覺醒。話說得斬釘截鐵，沒有任何含糊。
那彭羅斯何以能得出這麼斬釘截鐵的結論呢？他當然是有論據的。彭羅斯的論據很多也很複雜，我這裡選取其中最重要也是最核心的二個論據解釋給你聽。
第一個論據叫做哥德爾定理。這是大數學家、也是愛因斯坦的好朋友哥德爾證明的。哥德爾定理有兩條：
1. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，就可以在其中構造在體系中不能被證明的真命題，因此通過推演不能得到所有真命題。
2. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，它就不能用於證明它本身的相容性。
我估計絕大多數人看不懂，因為術語太多。但是這沒關係，有時候知道自己並不是真正的懂反而是好事，帶著問題去學習效果最好，要真正搞懂哥德爾定理，那需要很多前置知識，再下一番功夫。我這篇文章是為了科普，所以不得不放棄一些嚴謹性，上面這兩條哥德爾定理可以得出一個推論：在數學中，必定存在既不能證實也不能證偽的命題，假如我們只能用數學本身來證明的話。我務必提醒你注意後半句“假如我們只能用數學本身來證明的話”。這也是很多人對哥德爾定理的一個誤解。哥德爾定理只是說數學本身無法證明所有的數學問題，而並不是說所有的數學問題根本無法證明。假如我們能找到一種比數學更高一個層次的形式邏輯，那麼就有可能證明所有的數學問題了。
再換句話說，就是存在無數個數學結論，但這些結論根本不可能用數學本身給算出來。圖靈機只能用數學來計算數學問題，而且僅僅只是那些數學中可以被有限次計算步驟計算出來的問題，這些問題只佔所有數學問題的一小部分。
但是，我們的人腦好像不是這樣的。人似乎有一種很厲害的本領叫做“洞察”或者說“直覺”，我們可以憑空冒出許多最終被證明是正確的想法，這些問題完全不像是計算出來的。例如，在數學中有一個經典的不可知問題，就是集合論中的連續統假設，你不需要去搞明白這個假設到底說的是什麼，你只要知道，這個數學問題就是用數學本身無法證實也無法證偽的問題。假如我們的大腦也是像圖靈機一樣工作，那麼按理說，我們只要一想這樣的問題，就應該死機了，大腦陷入了無限死循環。但事實上沒有，而且人類還可以憑空發現這個問題是不可計算的。
在彭羅斯看來，這就說明了，我們人類的意識是高於數學系統的，只要我們的計算機還是圖靈機，還是完全基於數學的框架，那就不可能達到人類意識所表現出來的種種令人驚歎的行為。
系列文章《人工智能會不會覺醒》之第三篇
計算機算法的侷限
其實，計算機上的所有行為都可以轉換為數學和邏輯運算。如果把計算機的行為抽象出來看，無非就是輸入、計算、輸出這樣三個過程。例如你在屏幕上點一下“磨皮”的按鈕，這個叫輸入，經過一定的運算後，返回你一張更漂亮的自拍照，這個叫輸出。
解釋“磨皮”背後的算法會太複雜，我們簡化一下問題：將圖片從彩色變成黑白。它背後的算法就是當年研究彩電的人鼓搗出來的，計算過程是這樣：大家都知道任何彩色圖片都是由紅綠藍三原色組成的，也就是照片上的每一個像素都是一個彩色的點，而這個點都是紅綠藍三種顏色的混和，現在我們只需要利用一個經驗公式，把紅色的顏色值乘以0.2989，綠色值乘以0.587，藍色值乘以 0.114 ，再把結果求和，得到的數值就是圖片的灰度數值，把照片上的每一個像素點計算一遍，轉換成黑白模式，就得到了一張從彩色變成黑白的照片了，它的背後就是數學。
上一節介紹的那六條完成加 1 運算的圖靈機規則也可以叫做程序，計算機程序就是用來描述某種運算過程的機器語言，所有程序還原到最後都是圖靈機中兩個條件加上三個動作的組合。
好了，有了這些前置知識，我們就可以繼續來探討人工智能是否能覺醒的問題了。我們現在有兩個研究對象，一個是計算機系統，一個是大腦神經元系統，解決問題的關鍵在於比較這兩者之間的異同點。就我所知，在這個問題上，最早做出深入思考的科學家是英國著名的物理學家彭羅斯，他專門就此問題寫了一本厚厚的專著，叫《皇帝新腦》。彭羅斯認為：只要我們的計算機系統依然是圖靈機，就不可能覺醒。話說得斬釘截鐵，沒有任何含糊。
那彭羅斯何以能得出這麼斬釘截鐵的結論呢？他當然是有論據的。彭羅斯的論據很多也很複雜，我這裡選取其中最重要也是最核心的二個論據解釋給你聽。
第一個論據叫做哥德爾定理。這是大數學家、也是愛因斯坦的好朋友哥德爾證明的。哥德爾定理有兩條：
1. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，就可以在其中構造在體系中不能被證明的真命題，因此通過推演不能得到所有真命題。
2. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，它就不能用於證明它本身的相容性。
我估計絕大多數人看不懂，因為術語太多。但是這沒關係，有時候知道自己並不是真正的懂反而是好事，帶著問題去學習效果最好，要真正搞懂哥德爾定理，那需要很多前置知識，再下一番功夫。我這篇文章是為了科普，所以不得不放棄一些嚴謹性，上面這兩條哥德爾定理可以得出一個推論：在數學中，必定存在既不能證實也不能證偽的命題，假如我們只能用數學本身來證明的話。我務必提醒你注意後半句“假如我們只能用數學本身來證明的話”。這也是很多人對哥德爾定理的一個誤解。哥德爾定理只是說數學本身無法證明所有的數學問題，而並不是說所有的數學問題根本無法證明。假如我們能找到一種比數學更高一個層次的形式邏輯，那麼就有可能證明所有的數學問題了。
再換句話說，就是存在無數個數學結論，但這些結論根本不可能用數學本身給算出來。圖靈機只能用數學來計算數學問題，而且僅僅只是那些數學中可以被有限次計算步驟計算出來的問題，這些問題只佔所有數學問題的一小部分。
但是，我們的人腦好像不是這樣的。人似乎有一種很厲害的本領叫做“洞察”或者說“直覺”，我們可以憑空冒出許多最終被證明是正確的想法，這些問題完全不像是計算出來的。例如，在數學中有一個經典的不可知問題，就是集合論中的連續統假設，你不需要去搞明白這個假設到底說的是什麼，你只要知道，這個數學問題就是用數學本身無法證實也無法證偽的問題。假如我們的大腦也是像圖靈機一樣工作，那麼按理說，我們只要一想這樣的問題，就應該死機了，大腦陷入了無限死循環。但事實上沒有，而且人類還可以憑空發現這個問題是不可計算的。
在彭羅斯看來，這就說明了，我們人類的意識是高於數學系統的，只要我們的計算機還是圖靈機，還是完全基於數學的框架，那就不可能達到人類意識所表現出來的種種令人驚歎的行為。
第二個論據叫做算法無法演化。彭羅斯的原話是這樣說的：假如我們的大腦只是在執行一系列非常複雜的算法，那麼我就應該詢問這種非常複雜有效的算法從何而來。生物學家告訴我們的答案是“自然選擇”。也就是說，生物在演化過程中，那些更有效、更有利於生存的算法會保留下來，遺傳給下一代，如此逐步升級。我完全相信自然選擇是生物演化的原理，但是我卻看不出自然選擇本身如何能演化算法。對比我們所有的電腦程序，你會發現，程序的有效性和概念本身最終要歸功於至少一個人類的意識。
彭羅斯的意思是說，人的大腦可以憑空創造出算法，但是圖靈機不能自己創造出算法，只有被人類的意識賦予了那些按照條件執行動作的規則，圖靈機才能運行。
當然，彭羅斯還提出了其他一些論據，包括著名的圖靈停機問題，我這裡不再展開談。總之，彭羅斯的結論就是，人類目前的計算機工作原理是無法創造意識的，電腦和人腦不在一個層次上。
在這裡，我必須提醒大家，彭羅斯《皇帝新腦》這本書的出版年份是 1989 年，那個時候的計算機和今天的相比顯得非常原始，那時候人們對大腦的認識也與今天不可同日而語。但是，即便是在那個年代，即便以彭羅斯當年在科學界的聲望，他的這本書一出，也幾乎是立即就遭到了強烈的反對聲。
例如，著名的認知科學和人工智能專家馬文·明斯基（Marvin Lee Minsky ）就是反對聲最大的幾個科學家之一。明斯基是麻省理工學院人工智能實驗室的創始人之一，1969 年就獲得過圖靈獎。有些文章中把他稱為人工智能之父，當然，有這個稱號的科學家其實很多。明斯基 2016 年去世。
明斯基在看完彭羅斯的書後，在一次學術會議上，非常激動地做了一次演講，題目是“有意識的機器”，其中一段原話是：在某些思想領域，更多的人對我們的無知本性採取了不同的立場。他們努力工作，為的不是找到答案，而是表明根本沒有答案。這就是彭羅斯在《皇帝新腦》中所做的，他在書中一章接一章地反覆叨唸著，人類的思維並不基於任何已知的科學原理。
系列文章《人工智能會不會覺醒》之第三篇
計算機算法的侷限
其實，計算機上的所有行為都可以轉換為數學和邏輯運算。如果把計算機的行為抽象出來看，無非就是輸入、計算、輸出這樣三個過程。例如你在屏幕上點一下“磨皮”的按鈕，這個叫輸入，經過一定的運算後，返回你一張更漂亮的自拍照，這個叫輸出。
解釋“磨皮”背後的算法會太複雜，我們簡化一下問題：將圖片從彩色變成黑白。它背後的算法就是當年研究彩電的人鼓搗出來的，計算過程是這樣：大家都知道任何彩色圖片都是由紅綠藍三原色組成的，也就是照片上的每一個像素都是一個彩色的點，而這個點都是紅綠藍三種顏色的混和，現在我們只需要利用一個經驗公式，把紅色的顏色值乘以0.2989，綠色值乘以0.587，藍色值乘以 0.114 ，再把結果求和，得到的數值就是圖片的灰度數值，把照片上的每一個像素點計算一遍，轉換成黑白模式，就得到了一張從彩色變成黑白的照片了，它的背後就是數學。
上一節介紹的那六條完成加 1 運算的圖靈機規則也可以叫做程序，計算機程序就是用來描述某種運算過程的機器語言，所有程序還原到最後都是圖靈機中兩個條件加上三個動作的組合。
好了，有了這些前置知識，我們就可以繼續來探討人工智能是否能覺醒的問題了。我們現在有兩個研究對象，一個是計算機系統，一個是大腦神經元系統，解決問題的關鍵在於比較這兩者之間的異同點。就我所知，在這個問題上，最早做出深入思考的科學家是英國著名的物理學家彭羅斯，他專門就此問題寫了一本厚厚的專著，叫《皇帝新腦》。彭羅斯認為：只要我們的計算機系統依然是圖靈機，就不可能覺醒。話說得斬釘截鐵，沒有任何含糊。
那彭羅斯何以能得出這麼斬釘截鐵的結論呢？他當然是有論據的。彭羅斯的論據很多也很複雜，我這裡選取其中最重要也是最核心的二個論據解釋給你聽。
第一個論據叫做哥德爾定理。這是大數學家、也是愛因斯坦的好朋友哥德爾證明的。哥德爾定理有兩條：
1. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，就可以在其中構造在體系中不能被證明的真命題，因此通過推演不能得到所有真命題。
2. 任何相容的形式系統，只要蘊涵皮亞諾算術公理，它就不能用於證明它本身的相容性。
我估計絕大多數人看不懂，因為術語太多。但是這沒關係，有時候知道自己並不是真正的懂反而是好事，帶著問題去學習效果最好，要真正搞懂哥德爾定理，那需要很多前置知識，再下一番功夫。我這篇文章是為了科普，所以不得不放棄一些嚴謹性，上面這兩條哥德爾定理可以得出一個推論：在數學中，必定存在既不能證實也不能證偽的命題，假如我們只能用數學本身來證明的話。我務必提醒你注意後半句“假如我們只能用數學本身來證明的話”。這也是很多人對哥德爾定理的一個誤解。哥德爾定理只是說數學本身無法證明所有的數學問題，而並不是說所有的數學問題根本無法證明。假如我們能找到一種比數學更高一個層次的形式邏輯，那麼就有可能證明所有的數學問題了。
再換句話說，就是存在無數個數學結論，但這些結論根本不可能用數學本身給算出來。圖靈機只能用數學來計算數學問題，而且僅僅只是那些數學中可以被有限次計算步驟計算出來的問題，這些問題只佔所有數學問題的一小部分。
但是，我們的人腦好像不是這樣的。人似乎有一種很厲害的本領叫做“洞察”或者說“直覺”，我們可以憑空冒出許多最終被證明是正確的想法，這些問題完全不像是計算出來的。例如，在數學中有一個經典的不可知問題，就是集合論中的連續統假設，你不需要去搞明白這個假設到底說的是什麼，你只要知道，這個數學問題就是用數學本身無法證實也無法證偽的問題。假如我們的大腦也是像圖靈機一樣工作，那麼按理說，我們只要一想這樣的問題，就應該死機了，大腦陷入了無限死循環。但事實上沒有，而且人類還可以憑空發現這個問題是不可計算的。
在彭羅斯看來，這就說明了，我們人類的意識是高於數學系統的，只要我們的計算機還是圖靈機，還是完全基於數學的框架，那就不可能達到人類意識所表現出來的種種令人驚歎的行為。
第二個論據叫做算法無法演化。彭羅斯的原話是這樣說的：假如我們的大腦只是在執行一系列非常複雜的算法，那麼我就應該詢問這種非常複雜有效的算法從何而來。生物學家告訴我們的答案是“自然選擇”。也就是說，生物在演化過程中，那些更有效、更有利於生存的算法會保留下來，遺傳給下一代，如此逐步升級。我完全相信自然選擇是生物演化的原理，但是我卻看不出自然選擇本身如何能演化算法。對比我們所有的電腦程序，你會發現，程序的有效性和概念本身最終要歸功於至少一個人類的意識。
彭羅斯的意思是說，人的大腦可以憑空創造出算法，但是圖靈機不能自己創造出算法，只有被人類的意識賦予了那些按照條件執行動作的規則，圖靈機才能運行。
當然，彭羅斯還提出了其他一些論據，包括著名的圖靈停機問題，我這裡不再展開談。總之，彭羅斯的結論就是，人類目前的計算機工作原理是無法創造意識的，電腦和人腦不在一個層次上。
在這裡，我必須提醒大家，彭羅斯《皇帝新腦》這本書的出版年份是 1989 年，那個時候的計算機和今天的相比顯得非常原始，那時候人們對大腦的認識也與今天不可同日而語。但是，即便是在那個年代，即便以彭羅斯當年在科學界的聲望，他的這本書一出，也幾乎是立即就遭到了強烈的反對聲。
例如，著名的認知科學和人工智能專家馬文·明斯基（Marvin Lee Minsky ）就是反對聲最大的幾個科學家之一。明斯基是麻省理工學院人工智能實驗室的創始人之一，1969 年就獲得過圖靈獎。有些文章中把他稱為人工智能之父，當然，有這個稱號的科學家其實很多。明斯基 2016 年去世。
明斯基在看完彭羅斯的書後，在一次學術會議上，非常激動地做了一次演講，題目是“有意識的機器”，其中一段原話是：在某些思想領域，更多的人對我們的無知本性採取了不同的立場。他們努力工作，為的不是找到答案，而是表明根本沒有答案。這就是彭羅斯在《皇帝新腦》中所做的，他在書中一章接一章地反覆叨唸著，人類的思維並不基於任何已知的科學原理。
另外一位著名的人工智能專家，也就是在 1971 年就獲得過圖靈獎的約翰·麥卡錫（John McCarthy ）在 1998 年的一篇論文中指出：彭羅斯忽略了一點，他宣稱“形成判斷是有自我意識的標誌，編程人員是沒法把這一點變成計算機程序的”，而事實上，大多數的 AI 文獻都討論過在機器記憶中有關它做出的事實和判斷的表現。用 AI 的術語表達就是，AI 的認知論部分和啟發式部分一樣突出。
總之，一直到現在，對彭羅斯觀點的反對聲也是不絕於耳。總的說來，所有的反對聲可以總結為這樣一個觀點：圖靈機的侷限性彭羅斯已經說得很清楚了，但是他卻沒法嚴格證明人腦已經突破了圖靈機的侷限性，我們今天所知的一切看上去令人驚歎的大腦行為，完全有可能依然是在可計算的數學框架內的，並沒有逾越這個大框框。
是不是真的是這樣呢？下一節我帶你去了解一下目前人類已經掌握的人工智能算法的實質到底是怎樣的。
（人工智能會覺醒話題未完、下期繼續）