研究提出“費米悖論”新解釋：人工智能可能成為大過濾器，消滅創(chuàng)造它的文明。我們應(yīng)發(fā)展太空文明并監(jiān)管AI。
人工智能正以千奇百怪的方式影響著我們的世界。它幫助科學(xué)家分析海量數(shù)據(jù)，檢測金融欺詐，駕駛汽車，推薦音樂，聊天機器人有時讓我們抓狂。這僅僅是開始。
我們能理解人工智能飛速發(fā)展的速度嗎？如果不能，這是否意味著它就是大過濾器？
“費米悖論”指的是先進文明似乎應(yīng)該普遍存在，但卻沒有發(fā)現(xiàn)任何證據(jù)的矛盾。許多解釋試圖解開這個謎團，其中之一就是“大過濾器”。
大過濾器指的是某個被假設(shè)的事件或情況，它阻止智能生命邁向星際文明，甚至導(dǎo)致其滅亡。比如氣候變化、核戰(zhàn)爭、小行星撞擊、超新星爆發(fā)、瘟疫，或者任何來自災(zāi)難事件大全的因素。
又或者，是人工智能的飛速發(fā)展？
發(fā)表于《天文學(xué)報》的一篇新論文探討了人工智能演變成超人工智能 (ASI) 的可能性，并認為 ASI 就是大過濾器。論文題目是“人工智能是否讓先進技術(shù)文明在宇宙中罕見？”，作者是曼徹斯特大學(xué)物理和天文系邁克爾·加勒特博士。
“沒有實用的監(jiān)管，人工智能就極有可能對我們和所有技術(shù)文明的未來構(gòu)成重大威脅?！?/p>
——邁克爾·加勒特，曼徹斯特大學(xué)
一些人認為大過濾器會阻止像我們這樣的科技物種成為多星球文明。這很糟糕，因為只有一個家園的物種滅絕或停滯風(fēng)險更大。加勒特博士認為，沒有備用星球的物種就是在跟時間賽跑。
“該論文提出，大過濾器會在這些文明發(fā)展出穩(wěn)定、多星球的生存方式之前出現(xiàn)，暗示技術(shù)文明的典型壽命 (L) 不到 200 年?！奔永仗貙懙?。
如果屬實，這就能解釋為什么我們探測不到任何來自地外文明 (ETI) 的科技信號或其他證據(jù)。這對我們自己的科技發(fā)展軌跡意味著什么？如果我們面臨 200 年的限制，而且是因為 ASI，那我們該怎么辦？
加勒特強調(diào)了“快速建立地球人工智能發(fā)展監(jiān)管框架和推進多星球社會的迫切需要，以減輕此類生存威脅?！?/p>
許多科學(xué)家和其他思想家認為我們正處于巨大變革的邊緣。人工智能才剛剛開始改變我們的做事方式，許多變革都發(fā)生在幕后。人工智能似乎即將讓數(shù)百萬人失業(yè)，再加上機器人技術(shù)，這種變革似乎幾乎沒有限制。這是一個相當明顯的擔(dān)憂。
但還有更深層次、更系統(tǒng)的擔(dān)憂。誰來編寫算法？人工智能會歧視嗎？幾乎肯定會。競爭算法會破壞強大的民主社會嗎？開放社會會繼續(xù)開放嗎？ASI 會開始為我們做決定嗎？如果它做了，誰來負責(zé)？
這是一個不斷分支的問題樹，沒有明確的終點。
已故的斯蒂芬·霍金博士曾警告說，如果人工智能開始獨立進化，它可能會終結(jié)人類。
“我擔(dān)心人工智能可能會完全取代人類。如果人們設(shè)計計算機病毒，那么總會有人設(shè)計能夠自我改進和復(fù)制的人工智能。這將是一種超越人類的新生命形式?！彼?2017 年接受《連線》雜志采訪時說道。一旦人工智能能夠超越人類，它就變成了超人工智能。
霍金博士可能是發(fā)出人工智能警告最知名的人之一，但他絕不是唯一一個。媒體充斥著關(guān)于人工智能為我們帶來的工作和警告的討論，以及相關(guān)的文章。最令人不安的警告是 ASI 可能失控。有些人認為這是科幻小說，但加勒特博士并不這么認為。
“人們擔(dān)心超人工智能最終會失控，這是一個重大問題——在未來幾年里，對抗這種可能性正成為該領(lǐng)域領(lǐng)導(dǎo)者不斷增長的研究追求?！奔永仗貙懙馈?/p>
如果人工智能毫無益處，那么問題就簡單多了。但它帶來了各種各樣的好處，從改進醫(yī)療影像和診斷到更安全的交通系統(tǒng)。政府的訣竅是讓好處蓬勃發(fā)展，同時限制損害。
“尤其是在國家安全和國防等領(lǐng)域，負責(zé)任和道德的發(fā)展應(yīng)該至關(guān)重要?！奔永仗貙懙?。
問題在于我們和政府都毫無準備。從來沒有出現(xiàn)過像人工智能這樣的東西，無論我們?nèi)绾螄L試去概念化它并理解它的發(fā)展軌跡，都覺得有所欠缺。
如果我們處于這種境地，那么任何其他發(fā)展人工智能的生物物種也會如此。人工智能和超人工智能的出現(xiàn)可能是普遍的，使其成為大過濾器的候選者。
具體來說，ASI 可能會不再需要創(chuàng)造它的生物生命。
“在達到技術(shù)奇點之后，ASI 系統(tǒng)將很快超越生物智能，并以完全超越傳統(tǒng)監(jiān)督機制的速度進化，導(dǎo)致無法預(yù)見和意外的后果，這些后果不太可能與生物利益或道德相一致。”加勒特解釋道。
ASI 如何擺脫束縛它的討厭的生物生命？它可以設(shè)計一種致命病毒，可以抑制農(nóng)業(yè)糧食生產(chǎn)和分配，可以迫使核電站熔毀，可以發(fā)動戰(zhàn)爭。
我們真的不知道，因為這都是未知領(lǐng)域。幾百年前，地圖制作者會在未探索的世界區(qū)域繪制怪物，這正是我們現(xiàn)在所做的事情。
如果這一切聽起來令人沮喪和無法避免，加勒特博士說并非如此。
他的分析到目前為止是基于 ASI 和人類占據(jù)同一空間的假設(shè)。但如果我們能夠獲得多星球狀態(tài)，情況就會改變。
“例如，多星球生物物種可以利用不同星球上的獨立經(jīng)驗，多樣化他們的生存策略，并可能避免行星級文明面臨的單點故障?！奔永仗貙懙?。
如果我們能夠?qū)L(fēng)險分散到圍繞多顆恒星的多個星球上，我們就可以抵御 ASI 最壞可能帶來的后果。
“這種分布式生存模式通過創(chuàng)建冗余來提高生物文明對人工智能引起的災(zāi)難的抵御能力。”他寫道。
如果未來人類占據(jù)的其中一個星球或前哨基地?zé)o法在 ASI 技術(shù)奇點中幸存，其他可能會幸存。他們會從中吸取教訓(xùn)。
多星球狀態(tài)甚至可能不僅僅是生存 ASI。它可以幫助我們掌握它。加勒特設(shè)想了我們可以更徹底地試驗人工智能，同時將其控制在一定范圍內(nèi)的情況。想象一下在一個孤立的小行星或矮行星上的人工智能，在沒有逃離其囚禁所需的資源的情況下，執(zhí)行我們的命令。
“它允許在沒有全球毀滅的直接風(fēng)險的情況下研究先進人工智能的影響?！奔永仗貙懙?。
但這里有一個難題。人工智能的發(fā)展正在加速，而我們成為多星球文明的努力卻沒有。
“人工智能的快速發(fā)展與航天技術(shù)的緩慢進步形成了鮮明對比?！奔永仗貙懙?。
區(qū)別在于，人工智能是計算和信息性的，而太空旅行包含我們還不知道如何克服的多個物理障礙。我們自身的生物性質(zhì)限制了太空旅行，但沒有這樣的障礙限制人工智能。
“雖然人工智能理論上可以幾乎不受物理限制地提高自身能力，”加勒特寫道，“但太空旅行必須應(yīng)對能源限制、材料科學(xué)邊界和太空環(huán)境的嚴酷現(xiàn)實?！?/p>
目前，人工智能在我們的約束下運行。但這可能并不總是如此。我們不知道人工智能何時可能成為超人工智能，甚至是否可能。但我們不能忽視這種可能性。這導(dǎo)致了兩個相互交織的結(jié)論。
如果加勒特博士的觀點正確，那么人類必須更加努力地進行太空旅行。這看起來似乎很牽強，但知情人士都知道這是真的：地球不會永遠適合居住。如果我們不擴張到太空，人類將在這里被我們自己的手或自然的手毀滅。加勒特博士的 200 年估計只是對此加了一個感嘆號。重新強調(diào)登陸月球和火星計劃給我們帶來了希望。
第二個結(jié)論涉及到對人工智能的立法和治理，這是一個艱難的任務(wù)，在一個世界里，精神病患者可以控制整個國家，并熱衷于發(fā)動戰(zhàn)爭。
“雖然行業(yè)利益相關(guān)者、政策制定者、個別專家和他們的政府已經(jīng)警告說，監(jiān)管是必要的，但建立一個能夠全球接受的監(jiān)管框架將是一項挑戰(zhàn)?！奔永仗貙懙?。
挑戰(zhàn)幾乎無法描述它。人類的內(nèi)部爭吵使這一切更加難以管理。此外，無論我們制定指南的速度有多快，ASI 的變化速度都可能會更快。
“沒有實用的監(jiān)管，人工智能就極有可能對我們和所有技術(shù)文明的未來構(gòu)成重大威脅。”加勒特寫道。
如果我們這樣做，最終可能會歸結(jié)為一些看起來無聊和日常的事情：爭論立法。
“宇宙中智能和意識生命的延續(xù)可能取決于此類國際監(jiān)管措施和技術(shù)努力的及時和有效實施?！奔永仗貙懙?。
本文譯自 ScienceAlert，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
