|
“技術(shù)奇點(diǎn)”就快到了。這是真的…… 呃，也可能還沒(méi)有吧。技術(shù)奇點(diǎn)指真正的人工智能開始出現(xiàn)、實(shí)現(xiàn)自我感知并通過(guò)創(chuàng)造比自身更好的實(shí)體來(lái)開始遞歸自我改進(jìn)的事件。這只是其中一種表述。[1] [2] [3] 在大多數(shù)人的觀點(diǎn)中，技術(shù)奇點(diǎn)事件毫無(wú)疑問(wèn)將是破壞性的[4]，甚至可能是所有技術(shù)進(jìn)步中最具破壞性的。當(dāng)然，科幻作家?guī)资陙?lái)一直在探索人工智能的未來(lái)究竟是美好的愿景還是一場(chǎng)災(zāi)難，而且后者似乎是主流看法。與機(jī)器人制造出更好的機(jī)器人相關(guān)的知名影片在集體流行意識(shí)中已經(jīng)全然沒(méi)有了新意。 但是，如何從這里到達(dá)彼岸呢？ （我們真的想去嗎？ 是不是應(yīng)該認(rèn)真想想我們想要的究竟是什么？） 這就涉及到人工智能 (AI) 領(lǐng)域了。它從未如此強(qiáng)大和繁忙。[5][6] AI是對(duì)智能實(shí)體的研究和創(chuàng)造，它們不斷改善并最大化其成功機(jī)會(huì)�，F(xiàn)在的問(wèn)題是，“智能”的機(jī)器、實(shí)體，等等等等，都必須由人類來(lái)告訴他們?cè)撟鍪裁�。但是，�?duì)于如何建立一個(gè)更好的思維機(jī)器的進(jìn)展和理解，似乎正以越來(lái)越快的速度到來(lái)，有時(shí)會(huì)導(dǎo)致與學(xué)習(xí)型機(jī)器人進(jìn)行的對(duì)話成為令人不安的體驗(yàn)[7]。 “思考”和“自我意識(shí)”的概念只是全局的一部分。長(zhǎng)期以來(lái)，人類一直在思考如何測(cè)試一臺(tái)機(jī)器，看看它是否已經(jīng)從單純的編程跨越到了基于某種程度自我意識(shí)的獨(dú)立思考。圖靈測(cè)試 (Turing Test) 就是一種極其著名的方法。簡(jiǎn)而言之，這項(xiàng)測(cè)試的目標(biāo)是與機(jī)器展開一小段對(duì)話，其以假亂真的程度要達(dá)到讓人無(wú)法判斷出它是人還是機(jī)器。此類聊天機(jī)器人[10] 已進(jìn)入兒童玩具中，例如智能芭比娃娃 (Hello Barbie)。這是幾十年來(lái)AI技術(shù)逐漸融入各種電子消費(fèi)品、商業(yè)、金融、農(nóng)業(yè)、政府和軍事用途的典型例子。 也許，在技術(shù)奇點(diǎn)真正發(fā)生時(shí)，由于AI幾乎已經(jīng)充斥每個(gè)角落，這將不再是一件新鮮事。 隨著時(shí)間的推移，許多遠(yuǎn)見卓識(shí)者已經(jīng)預(yù)測(cè)到技術(shù)奇點(diǎn)會(huì)出現(xiàn)的時(shí)間[11]。這些“先知者”對(duì)AI的過(guò)快采用以及AI的發(fā)展方向發(fā)出了可怕的警告。[12] [13] [14] 這些預(yù)測(cè)和警告值得我們重視嗎？ AI的發(fā)展會(huì)將人類帶向末日嗎？ 與AI相關(guān)的一個(gè)笨拙冗長(zhǎng)的首字母縮寫是TEOTWAWKI（The End of the World as We Know It，我們所知的世界末日）。一個(gè)不一樣的世界不一定是糟糕的（它完全可能是美好的），但肯定會(huì)存在顛覆性變革，而且如果大規(guī)模復(fù)制的AI認(rèn)為人類是可以犧牲的，或者構(gòu)成了其他性質(zhì)的障礙，那肯定會(huì)帶來(lái)危險(xiǎn)。在一些研究中，意味著“后技術(shù)奇點(diǎn)”的AI已經(jīng)浮出水面，伴隨它的還有其他迫在眉睫的威脅，例如海平面上升一米以及極端天氣破壞造成的糧食短缺[15] [16]。 在閱讀本文的時(shí)候，您可能會(huì)不由自主地坐在椅子上慢慢轉(zhuǎn)動(dòng)，不時(shí)瞄一瞄你的智能手機(jī)、烤面包機(jī)或家庭自動(dòng)化系統(tǒng)。如果您的工作涉及在工業(yè)機(jī)器人上的作業(yè)，只需要遵循最佳做法，先關(guān)掉電源，然后再用扳手拆開螺絲。如果您是短線交易者，您可能更需要擔(dān)心高速機(jī)器人交易員來(lái)和你競(jìng)爭(zhēng)（這更像是一個(gè)監(jiān)管政策問(wèn)題，而非技術(shù)威脅）。但是，這并不是說(shuō)機(jī)器人交易員會(huì)突然擴(kuò)散到互聯(lián)網(wǎng)上，滲入成千上萬(wàn)的智能手機(jī)中，計(jì)算能呈力指數(shù)級(jí)增加，并突然實(shí)現(xiàn)自我意識(shí)。 對(duì)嗎？ （參見：Skynet） 是的，發(fā)生這種情況的可能性很小。要到達(dá)奇點(diǎn)，我們還有很長(zhǎng)的路要走[17] [18] [19]。機(jī)器依然在按照我們告訴它們的去做。 計(jì)算機(jī)運(yùn)行的是人類編寫的軟件。軟件總是會(huì)有漏洞 (bug)。AI也是。想想這些天幾乎每天都在爆出的故障和安全漏洞。軟件漏洞是個(gè)神奇的東西。由于過(guò)于復(fù)雜，我們無(wú)法在軟件交付前對(duì)其進(jìn)行100％的測(cè)試。編寫一個(gè)好的軟件本來(lái)就很難，更不用說(shuō)沒(méi)有漏洞的軟件了。根據(jù)迄今為止幾十年來(lái)任何軟件的平均質(zhì)量來(lái)看，技術(shù)奇點(diǎn)的臨界點(diǎn)還很遙遠(yuǎn)，也許永遠(yuǎn)不會(huì)發(fā)生。 或者，也許有一天，某一處的某個(gè)軟件開發(fā)人員在開始工作時(shí)，發(fā)現(xiàn)一個(gè)由分布在四個(gè)國(guó)家的頂尖團(tuán)隊(duì)努力了一年多的項(xiàng)目在一夜之間發(fā)生了變化，修復(fù)了團(tuán)隊(duì)甚至沒(méi)有意識(shí)到存在的漏洞， 還做出了團(tuán)隊(duì)從未想到的復(fù)雜改進(jìn)。 這時(shí)，在幾年前購(gòu)買的那間僻靜的遠(yuǎn)離電網(wǎng)的小屋中度過(guò)一個(gè)悠長(zhǎng)假期，前往沙漠或者深山，或許會(huì)是個(gè)好主意。 安全提示：不要乘坐無(wú)人駕駛的智能汽車。走著去。不要跑。 來(lái)源：貿(mào)澤電子 作者：Arden Henderson |
