人工智能正在逐步隱藏其外形、顯露其核心。而關于人工智能科技的確切影響與工作，人類對它的觀察和理解也變得越加具有挑戰性。即使是專家們自己也并不總能完全理解人工智能系統是如何運行的。

　　實際上，隨著人工智能影響力的增強，我們理解人工智能影響力的局限則變得越來越多。這對人類能動性和人工智能的未來意味著什么?

　　逃離智能

　　在不遠的將來，人工智能將普遍的對人類而言會變得無法觸及、不能分辨和不可思議。

　　首先，人工智能并不必然需要一個看得見摸得著的具象外形。它可以通過各種中間人來展現自己，比如通過圖形用戶界面或者語音界面。我們已經都不需要看一眼就信任Spotify的推薦，或者與Siri和Alexa聊天，就好像它們是受召喚而出的精神體，是沒有可觸外形的智能。

　　其次，人工智能以通過圖靈測試(the Turingtest)或者更相關的變體測試而變得隱身。那些能夠模擬人類層次的溝通、認知和情緒能力的人工智能系統，會在人群中無法被分辨。因此，人工智能的「人工性」對我們來說也就變得無法察覺。

　　第三，也最為重要的是，當人工智能的影響和科技動態的細節超越了人類的感知和理解，人工智能就逃離了人類的監視。我們能感覺得到智能系統的存在和影響，但是我們再也無法完全理解這些系統在做什么，它們如何達到它們的目標或者什么是它們確切的影響。

　　這就意味著，人工智能科技將會很快超越克拉克第三基本定律(Clarke’sthirdlaw)，處于一種「任何足夠先進的科技都無異于魔術。」的境地。實際上，我們將再也沒有機會分辨出這些魔術——甚至連是否有魔術發生都意識不到。

　　不可思議的智能

　　據此，我們能夠察覺到人工智能的體現和存在，但是智能本身對于人類感官而言將變得不可知。如今，人工智能的發展過程中有兩個明顯特質。

　　首先，大多數算法系統和近期人工智能科技的進步都是黑盒;對大多數人來說它們是難以接近，深不可測并且不可控的。

　　因此，想要觀察或評估人工智能系統是如何在線上和線下塑造你的生活還是很困難，不論是你的最新歌曲推薦還是個人保險政策，更不用說那些影響著全球市場經濟的充滿計算的股市交易了，它幾乎影響著現代生活的每一個方面。

　　具體來說，當智能系統的行動變得更全面地與個人、社會、文化、政治和經濟的系統交織起來時，要辨別機器智能本身的實際影響和結果就變得極具挑戰性。

　　其次，人工智能科技正變得十分復雜，以至于它們很難被理解——甚至對于設計和開發它們的專家來說也是如此。機器學習專家PedroDomingos在他的新書《TheMasterAlgorithm》里指出，回溯到20世紀50年代，科學家們就已經創造出了一種人類所不能完全理解的算法。

　　相反，這個開發還沒有改變這一進程。以人工智能發展的現有節奏，就連經驗豐富的專家們也不時覺得難以跟進。

　　今天，各類的機器學習系統已經能夠在不同領域提供讓人以外的深刻見解了，從個人化科技到粒子物理學，從烹飪菜譜和古怪的異國游戲到犯罪預防和生物工程。具體而言，專業系統可以推動生物學的科學發現，或者幫你選擇到達下個會議地點最優的路徑。

　　當一個智能系統變得更通用、更能夠自我學習和自我調整時，人類跟蹤它準確的動態就更困難。隨著開發的深入，當一個超快的自我學習、自我組裝的人工智能系統開始比人類以往任何時候都更快地開發并建造自己的時候，它將永遠地脫離我們的智力。最終，人工智能系統將會基于它們自己的行為成為領銜專家，比人類曾經任何時候都更好地預測它們自己的未來。

　　因此，老練的人工智能科技將會基于一系列任何人類——甚至專家都不能理解的互動上，提供合理并正確的洞察。如果是這樣，我們是否能繼續在沒有人工智能的幫助下，得出確切的科學結論或考慮周全的決定呢?

　　交織著的智能

　　就像任何重大的科技革新和其在主流中的融入，人工智能正在從一顆晦澀的好奇心成為一個強有力的實用體。結果是，明日世界最有價值的資產也許會是一個人類不能完全理解或控制的智能系統。

　　在這同時，人工智能正成為一個史無前例的文化科技現象，影響著我們評估和定義「智能」本身的方式。據此而言，人類智能可能無法對智能本身做出最相關的測量。人工智能里的「人工」兩個字也開始失去意義了。

　　今天，人類智能在塑造著人工智能，而越來越多的人工智能也開始塑造人類智能。當人工智能系統的影響增強，更多人就需要去理解它們的工作和影響。為了實現這一點，我們需要能增強人類智能，從而讓我們能與多樣的智能系統樣本可持續地互動。

　　首先，增強人類研究員、設計師和工程師的能力以追趕他們所建造的人工智能科技，這很重要。除了更好的實踐、工具和技術外，多樣的跨學科團隊亦能幫助我們更好地理解智能系統的工作方式和影響。

　　第二，盡可能多的人需要擁有與自己團隊里的人工智能互動的能力。新的學習游戲正讓孩子學習到編程和機器人學，并了解智能系統與其可能性。像AlgorithmicAngels這樣的系統，通過呈現智能系統在我們日常生活中的影響，并讓人們決定它們在個人層面的互動，讓「機器中的幽靈(the ghost in the machine)」更觸手可及、不可辨識，但更易理解。

　　黑盒中的秘密需要被揭露出來，從而在機構間產生更大規模的合作。讓人工智能「民主化」可以為更多人創造出更多的方式來設計和開發出智能系統的新方案。就像編碼和媒介素養(medialiteracy)在今天是必不可少的技能一樣，能夠理解并使用智能系統也會成為將來的必備技能。

　　人工智能技術將為沿著這個方向進化成為一個平臺，一個像互聯網一樣的基礎設施，這個平臺可以讓人們自行決定如何優化人工智能，或者是如何為它的設計和開發做出貢獻。就像物聯網一樣，這樣的人工智能網絡將會在不同環境和領域激發更多體驗和應用，向專家和開發者等開放，這將顯著改變人們理解人工智能以及和智能系統進行互動的方式。人類智能和機器智能將以前所未見的方式交織在一起。

　　物理現實和數字現實的邊界正在消散。當人類和智能系統的關系變得更加親密無間時，他們之間的邊界可能會開始消散。「人工」將會在「智能」之前率先消失，從而使人工智能這一概念變得不相關，并且被淘汰。