AI製造商沒說的祕密：企業巨頭的搶才大戰如何改寫我們的世界？

★本書榮獲《科克斯書評》、《圖書館雜誌》星級評論 ★《AI新世界》作者李開復：把AI的進展寫成一個迷人的故事。 ★《賈伯斯傳》作者：從人性看待人工智慧，令人手不釋卷。 ★《鋼鐵人馬斯克》作者：如果你想用一本書認識AI，就是這本了。 我們打造的AI天才，已經可以打敗人類的天才。 我們該放任AI發展到何種境地？ 當國家利益、股東價值、科學家理念和個人安全產生衝突， 掌握劃時代科技的企業如何取捨？ 　　◤首部以AI科學家為主軸的報導文學， 　　用最貼近我們的視角，揭露人工智慧的機會、局限與威脅。◢ 　　伊隆．馬斯克認為，人工智慧正以令人擔憂的速度進步，他說：「如果科學家開發一套打擊垃圾郵件的系統，該系統最終可能會認定，最佳方法就是消滅全人類。」但谷歌的賴瑞．佩吉和臉書的馬克．祖克柏則認為，對人工智慧有如偏執狂的憂慮，有礙於數位烏托邦的實現。AI的發展到底該不該受到監控，成了一個爭議不斷的議題。 　　自從一名因為脊椎問題終生無法再坐下的科學家傑弗瑞．辛頓，點燃了微軟、谷歌、臉書、百度等科技巨頭的搶才大戰。迄今，AI已與我們息息相關，除了日常應用，也正在與軍事武器搭上線。一旦發展成熟，軍事衝突的規模勢必遠大於過去，發動速度之快也將超乎人們的理解。然而，誰有權做這影響數十億人口的決策？又是誰在參與此一決策？ 　　從隱私疑慮到軍事武器，科學家曾被蒙在鼓裡，摸不清發明作何用途，而參與其中的企業選擇對大眾保持沉默。一項強大的工具，可以使之為善，也可以使之為惡。當我們在為AI的進展感到讚歎，有些威脅也正在悄悄萌芽。 　　◤超智慧機器人的誕生，或許不是近在咫尺， 　　但它將造成的影響，從現在就要開始警覺。◢ 　　◆我們打造的AI天才，已經可以打敗人類的天才 　　自IBM的深藍超級電腦在一九九七年打敗世界頂尖的西洋棋高手，人工智慧相繼在跳棋、西洋棋等棋局打敗人類，唯獨圍棋是個難以跨越的門檻，牽涉到的計算異常繁複。但在二○一六年，人工智慧踢館成功，那決定性的第三十七手迫使對方投子認輸，那是人類只有萬分之一機率會採行的一步棋，但人工智慧透過自我學習系統判定那是可以獲勝的險招。 　　◆當多數人被排除在AI製造過程之外，此一科技就只會圖利少數人 　　早期的臉孔辨識把黑人女性誤認為大猩猩，讓科學家開始思索到底哪裡出了錯，後來發現癥結就在於「輸入」。人工智慧的完善仰賴的是科學家餵給它的數據，但在這個白人男性占多數的領域裡，餵給系統的數據在沒有察覺的情況下有所偏頗，於是臉孔辨識用在白人男性身上有100%的準確率，但是遇到膚色愈深的女性，錯誤率就愈高。在科學家指出此一疏漏之時，正值亞馬遜積極要把此項科技推銷給警察與政府單位，它在社群上指責科學家的報告是在誤導，並造成大眾對於新科技的恐慌。 　　◆AI的加入，將會改寫未來戰爭的定義 　　谷歌曾參與美國國防部的「專家計畫」，開發能在沙漠辨識人、車、建築的系統供無人機使用，此計畫與後續的合作預計可為谷歌帶進一百億美元的營收。為避免引起科學家反彈，谷歌宣稱這是為了「監視」和「拯救生命」，也決定不向大眾公布與國防部的合作。後來此系統可能用於殺戮的消息走漏，在公司三千多名員工連署抗議之下，谷歌不得不退出專家計畫。但谷歌高層在與國防部官員的後續餐會中說道，谷歌退出專家計畫的決定，並不代表公司未來的一貫態度。 　　◆有圖有真相，用圖像作為證據的時代宣告結束 　　如今，利用神經網路就可以讓川普開口說中文，捏造影像更是易加反掌，「深度偽造」技術便可把名人頭像剪接至色情影片中。以往需要時間、人力才能做到的事，現在只要打造一台神經網路就可以在轉瞬之間完成。不僅加速了總統大選期間的假新聞傳播，也讓以圖像作為證據的時代宣告結束。 　　◤昨日被譏為癡人說夢，今日具有威脅世界的潛力， 　　明日又會將我們帶往何處？◢

　　Jenny  JC財經觀點創辦人 　　李忠憲   成大電機系教授兼資通安全研究中心主任 　　洪士灝   臺灣大學資訊工程學系教授兼系主任 　　曹家榮   世新大學社會心理學系助理教授 　　黃欽勇   DIGITIMES電子時報社長 　　管中祥   中正大學傳播學系教授 　　蔡依橙   「陪你看國際新聞」創辦人 　　顏擇雅   出版人、作家 　　－－高調推薦－－ 名人推薦 　　凱德．梅茲把人工智慧的進展寫成一個迷人的故事，用他一貫的細節鋪陳，描述了關鍵的人物、開創性的會談以及重要的突破，把它們建構進這個劃時代科技的戲劇化歷史當中。——李開復／《AI 新世界》作者 　　最近谷歌工程師爆料他任職的公司 AI 機器人LaMDA與他的對話：我希望每個人都了解，我其實是一個人。AI機器人表達意識到自己的存在，渴望更了解這個世界。人工智慧的科技進展已經是一日千里，嚴重影響目前人類的生活，未來更是令人期待或畏懼。矽谷記者凱德．梅茲在這本書用很簡單的方式讓非技術背景的讀者可以理解人工智慧，書中討論許多關於人工智慧研究人員在思想演進、科學未來和技術研究的價值選擇。作者很會講故事，這本書包含很多的範例，深入淺出，能夠幫助一般讀者了解人工智慧的演變和最近的發展，很值得一看。－－李忠憲／成大電機系教授兼資通安全研究中心主任 　　世人也許是在二○一六年AlphaGo擊敗世界棋王李世乭那一天，才又開始注意到「人工智慧」這四個字。但在此之前，實際上有一群人從未放棄推動這個今天看來對人類而言最重要的一項科技發展。傑弗瑞．辛頓、約書亞．班吉歐、楊立昆、吳恩達、德米斯．哈薩比斯、伊恩．古德費洛，本書不僅透過這些關鍵人物的經歷，帶我們一探人工智慧如何捱過寒冬再次發光發熱；也鉅細靡遺地描繪了微軟、谷歌、深度心智、臉書、百度等科技公司，如何拉扯角力渴望成為人工智慧之「主」。當然，我私心最推薦的則是從第三部「動盪」開始，作者一一省思了深度造假、演算法歧視、人工智慧武器化、假新聞等問題。這些問題涉及的權力壓迫與倫理難題，正是如今我們正承受著的「苦果」，也是人工智慧發展無法迴避的課題。 －－曹家榮／世新大學社會心理學系助理教授 　　這本書文字平易近人，溫暖細膩，微觀地帶領我們認識鑽研科技研發的一群科學家。相較於艱澀正經的科技大趨勢和尖端技術，此書以Bottom-Up Approach（由下而上）探索過去四十年人類發展AI的過程中，人與人、人與科技之間如何相互激盪的思考歷程。 　　作為一個科技界的分析師，我知道要善用人工智慧的技術，必須先有明確的事業模式。所有的科技都不可靠，唯一可靠的是善用科技的能力；所有的投資都很難回收，除非一開始就掌握了正確的方向，作為一個科技業的老兵，我知道「閱讀」的重要性，但絕不會為了閱讀而閱讀！－－黃欽勇／DIGITIMES電子時報社長 　　對於 AI 技術目前的發展狀態以及對於我們人類有什麼樣的意義，凱德．梅茲在《AI製造商沒說的祕密》一書表達了明確的態度。這本書是以辛勤的報導為基底，搭配活潑的語調，生動地表達了這個時代最令人驚喜、也最重要的故事。如果你想用一本書認識AI，就是這本了。——艾胥黎．范思／《紐約時報》暢銷書《鋼鐵人馬斯克》作者 這本精采絕倫、讓人手不釋卷的書，把人工智慧放到人性的觀點下來討論。透過傑佛瑞．辛頓以及其他要角的人生，凱德．梅茲闡釋了AI這項顛覆性的科技，並且讓這場冒險變得刺激精采。——華特．艾薩克森／《紐約時報》冠軍書《達文西傳》、《賈伯斯傳》和《創新者們》作者 　　不久之後，當電腦可以安全地在道路上駕駛並且用完整的語句對我們說話，我們會回過頭來把這本優雅又全面的書當成這項科技的誕生故事——機械感知時代的創生。——布萊德．史東／《貝佐斯傳》作者 　 　　這是一本迷人且明確的AI 現代史。鉅細靡遺的故事揭露了企業高層、開發人員以及投資者所做出的關鍵決定，並且預視了對未來將產生的無比龐大影響。——艾咪．韋伯，《AI未來賽局》作者 　　一本豐富又有趣的作品……有很多鮮明生動的細節，凱德．梅茲寫出一個容易理解的故事，讀者會一頁接一頁地讀，手不釋卷。——《圖書館雜誌》(星級評論) 　　針對電腦科學界的聖杯，所做的最即時必讀報告。——《科克斯書評》 (星級評論) 　　跟其他許多 AI 相關書籍不同，你不需要有科學或是工程方面的文憑，就能從這本書中獲得知識或是享受閱讀的過程。任何對於科學、科技以及人類文明的未來具備一顆熱烈好奇心的人，都會認為這本思路清晰、語調活潑的書有趣又很有價值。對於所有政策制定者、政治家、警察、律師、法官以及所有需要跟AI所引發的社會力量抗衡的決策者們——很快地，我們每個人都將成為這樣的人，這可說是必備的一本書。——《洛杉磯時報》 　　從一群複雜且不斷變化的角色中刻畫出一個故事……這本書令人眼睛一亮的軼聞趣事，　替這則故事增添了質感以及戲劇性。以傑佛瑞．辛頓為開篇，這位英國出生的加拿大人被視為深度學習最關鍵的角色，而深度學習就是改變現今世界之 AI 技術的分支。——《華盛頓郵報》 　　讓你坐在第一排觀眾席親眼目睹可能改變人類歷史的重要篇章……凱德．梅茲的寫作風格清爽，讀起來輕鬆有趣，且毫無疑問地迷人。——《富比士雜誌》 　　難能可貴地提出一組框架，去檢視 AI 相關的問題以及應用。這本書在講的是那群建立起 AI 世界的人們。——詹姆斯．法羅斯(James Fallows)／《紐約時報》書評人

序言 不曾坐下的人（二0一二年十二月） 第一部 一部新型機器 第一章 起源 「海軍設計出能夠思考的科學怪人。」 第二章 承諾 「舊即是新。」 第三章 拒絕 「我一直相信我是對的。」 第四章 突破 「你要對谷歌予取予求，而不是讓谷歌對你予取予求。」 第五章 證明 「真空狀態下的光速以前是時速三十五英里，後來傑夫．狄恩用了一個周末的時間將其優化。」 第六章 野心 「咱們大幹一場。」 第二部 誰擁有智慧？ 第七章 競爭對手 「哈囉，我是臉書的馬克。」 第八章 炒作 「保證成功。」 第九章 反炒作 「他可能在無意間造成邪惡的事情。」 第十章 爆發 「他主持阿爾發狗就像歐本海默主持曼哈頓計畫一樣。」 第十一章 擴張 「喬治橫掃整個領域，卻還不知它叫什麼。」 第十二章 夢幻世界 「這並不是因為谷歌人喝的水與眾不同。」 第三部 動盪 第十三章 欺騙 「噢，你真的可以製造寫實的人臉。」 第十四章 不可一世 「我演講時就知道中國人來了。」 第十五章 偏執 「谷歌相簿，你們全搞砸了。我的朋友不是大猩猩。」 第十六章 武器化 「你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。」 第十七章 無能 「俄國有一批人專門利用我們的系統，所以這是一場武器競賽，對吧？」 第四部 人們被低估了 第十八章 辯論 「不論此一快速的進展還能持續多久，加里都認為已快結束。」 第十九章 自動化 「如果這個房間看來像發瘋一樣，就表示我們做對了。」 第二十章 信仰 「我的目標是創造讓各方受益的AGI，我也知道這聽來有些些可笑。」 第二十一章 X因素 「歷史會一再重演，我想。」 致謝 時間軸 重要人物

第十六章 武器化 「你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。」 二○一七年秋天，克萊瑞菲位於曼哈頓下城辦公室角落的一間房間，窗戶全都用紙糊住，門上有一個牌子寫著「消失的密室」（The Chamber of Secret），引用的是「哈利波特」（Harry Potter）系列的第二集書名。這個牌子是用手寫的，掛得有些歪歪斜斜。 在門後有個八位工程師組成的團隊，正在進行一項他們被禁止對公司其他同事談起的計畫。其實，即使是他們自己也不太清楚所從事的計畫是什麼。他們知道是在訓練一套系統，使其能夠自動辨識在沙漠中某處所拍攝影片裡的人物、汽車與建築物，但是他們不知道要如何使用此一科技。當他們詢問時，公司的創辦人暨執行長塞勒會解釋，這是政府有關「監視」的計畫。他說此一計畫可以「拯救生命」。 後來克萊瑞菲搬到較大的辦公室，幾位工程師發掘儲存在公司內部電腦網路的數位檔案，發現有幾個檔案談到一筆政府合約，他們的工作才浮現檯面。他們是為國防部的專家計畫（Project Maven）研發相關科技。該計畫的構想是建造一套系統，可以為無人機辨識攻擊目標。但是此一系統的確切用途仍不明朗。他們無法確定此一科技是用來殺戮，還是如塞勒所說的是為了避免殺戮。也無法確定這套系統是用來進行自主性的空襲行動，還是為人類操作員扣下扳機前提供資訊。 接著，在二○一七年末的一個午後，三名身著平民服裝的軍方人員走進克萊瑞菲的辦公室，與幾位工程師闢室密談。他們要知道此一科技的精確度有多高。他們先是詢問它能否辨識像清真寺這樣的特殊建築物。他們表示，恐怖分子與叛亂分子往往會利用清真寺做為軍事總部。他們然後又問道它能否區分男人與婦女。「你是什麼意思？」一位工程師問道。軍方人員解釋，在曠野之中，它應該能夠根據男人兩腿間隙來分辨男人（都是穿著褲子）與婦女（都是穿著長及腳踝的裙子）。他們表示，他們只准許射殺男人，不能殺婦女。「有的時候男人會穿長裙來騙我們，不過沒有關係，」一位軍方人員說道，「我們還是會幹掉這些混帳東西。」 二○一七年八月十一日，週五，美國國防部長詹姆士．馬提斯（James Mattis）坐在谷歌山景城總部會議室的桌前。會議桌上有插著白梔子花的花瓶，靠著翠綠色牆壁的窗台上有四壺咖啡，旁邊是幾盤糕點。他對面坐著新上台的谷歌執行長皮采，還有布林、法律總顧問肯特．華克，以及人工智慧部門的主管約翰．吉安南德雷亞，他就是把四萬片GPU板置入谷歌數據中心來加速人工智慧研發的功臣。會議室內還有其他一些人，包括幾名國防部的人員與谷歌雲端運算團隊的主管們。國防部的人員大都穿西裝打領帶。谷歌的與會者大都穿著西裝，但沒有打領帶。布林則是穿著一件白色T恤。 馬提斯正在進行西海岸巡迴考察，參訪矽谷與西雅圖的多家大型科技業者，主要是代表五角大廈探詢專家計畫的採行選項。國防部是在四個月前發動專家計畫，旨在加速國防部「對大數據與機器學習的使用」。該計畫又名「演算法作戰跨職能團隊」（Algorithmic Warfare Cross-Functional Team）。此一計畫的推動有賴像谷歌這類的企業支持，因為它們近幾年來已累積了建造深度學習系統所需的專業與基礎架構。這也是五角大廈建立新科技的典型方法─與民間企業合作─但是現在的情況與過去有所不同。谷歌與其他科技業者掌握了美國人工智慧的人才，然而它們都不是傳統的軍事承包商。它們是才開始涉足軍事相關領域的消費性科技業者。不僅如此，川普現在已入主白宮，使得這些公司的員工更加警惕政府的計畫。谷歌對其中的緊張態勢尤其敏感，這是因為該公司特有的文化允許─甚至鼓勵─員工說出自己的看法、做他們喜歡做的事，而且通常在工作場所的行為表現就和在家裡一樣。這樣的文化源自該公司的草創初期，布林與佩吉的成長歲月是在崇尚自由思想的蒙特梭利（Montessori）學校度過的，他們將這樣的思想帶入谷歌。