人工智能發(fā)展:更高級(jí)的人工智能更富侵略性或者更好斗
每當(dāng)人們談?wù)撈鹑斯ぶ悄?,大家都?huì)使用一些詞匯諸如”smarter”, ”faster”, ”effective”,” “precise”等。
強(qiáng)人工智能是有可能實(shí)現(xiàn)的,但是現(xiàn)在的技術(shù)離強(qiáng)人工智能的距離還非常遠(yuǎn)。原文中第一個(gè)圖很有意思,就是技術(shù)發(fā)展曲線。全文的所有論據(jù),都建立在“指數(shù)發(fā)展”這個(gè)假設(shè)上。指數(shù)曲線在接近0的時(shí)候是類似線性的,不光是指數(shù),多項(xiàng)式函數(shù)、對(duì)數(shù)函數(shù)、甚至多重指數(shù)在小范圍內(nèi)也可以用線性擬合得很好。而且不同的指數(shù)和在0附近都很接近,但對(duì)“奇點(diǎn)”何時(shí)到來的估算可能誤差千百年。如果按照“指數(shù)發(fā)展”來算,而且樂觀的估計(jì)指數(shù)的系數(shù),那你妹的什么技術(shù)都不是問題啊,人類分分鐘占領(lǐng)全宇宙。我更相信的是,科學(xué)發(fā)展是有爆發(fā)期和穩(wěn)定期的。一個(gè)技術(shù)突破會(huì)帶來難以想象的繁榮,之后的科學(xué)發(fā)展都比之前的更快,但不會(huì)天天都是技術(shù)突破。比如,二十世紀(jì)上半頁的物理學(xué)十分輝煌,相對(duì)論和量子力學(xué)的建立引發(fā)了一系列技術(shù)革命。但從那以后物理學(xué)一直很平穩(wěn)。楊振寧就說過他趕上了物理學(xué)的好時(shí)候,讓他現(xiàn)在做學(xué)術(shù),可能就不會(huì)選物理學(xué)了。要是科幻作家站在1950年前后,用指數(shù)發(fā)展估計(jì)物理學(xué)的發(fā)展,那到今天我們?cè)缇团龃蠼y(tǒng)一理論搞定核聚變發(fā)電了。又比如人均壽命從先秦時(shí)的二十幾歲發(fā)展到現(xiàn)在的80歲,如果用指數(shù)擬合,那過幾十年是不是要活幾百歲了啊
支持人工智能指數(shù)發(fā)展的路線包括:抄襲人腦,進(jìn)化算法,電腦自己解決。我不知道這幾條是不是對(duì)應(yīng)類似machine learning, neural network, evolutionary algorithm, program synthesis之類的領(lǐng)域。如果是的話,這幾個(gè)領(lǐng)域我都有一點(diǎn)粗淺的了解。歡迎大神批評(píng)補(bǔ)充。比如machine learning和neural network, 核心都是回歸和數(shù)據(jù)擬合,離智能化還很遠(yuǎn)。大牛Andrew Ng的網(wǎng)課,Coursera - Free Online Courses From Top Universities光靠這個(gè)實(shí)現(xiàn)強(qiáng)人工智能我是不信滴。關(guān)于evolutionary algorithm,去年有一個(gè)大牛的talk,推薦大家看一下。全篇都是技術(shù)討論沒有涉及“奇點(diǎn)”,大家可以自己判斷現(xiàn)在的研究前沿離真正的強(qiáng)人工智能還有多遠(yuǎn)。從43分鐘開始:Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeoprogram synthesis里,現(xiàn)在計(jì)算機(jī)能自己生成的程序還很弱智,而且算法復(fù)雜度都是exponential time甚至doubly exponential time(比如)的。用的方法本質(zhì)上是先靠程序員輸入一個(gè)程序模板和參數(shù)空間,然后用各種方法遍歷所有可能的程序,看看是不是滿足要求。這其實(shí)引出了一個(gè)很有意思的問題:現(xiàn)在我們CPU的計(jì)算能力是指數(shù)增長的,但按照今天的算法,許多真正有趣的問題都是需要“指數(shù)時(shí)間”,甚至多重指數(shù)時(shí)間才能解決的。那么,我們實(shí)際解決新問題的速度一定是指數(shù)發(fā)展的嗎?讓該領(lǐng)域內(nèi)的專家來介紹現(xiàn)在的研究成果和面臨的巨大問題,比起作家自己泛泛而談要好得多。
其他反對(duì)的觀點(diǎn)其實(shí)也不少,比如可以參考這篇文章 Hyping Artificial Intelligence, Yet Again等有空我可能會(huì)翻譯一下。