圖靈獎獲得者約書亞·班吉歐：支持監管人工智慧，包括禁止「殺手機器人」

約書亞·班吉歐（Yoshua Bengio）是人工智慧的造物者之一，但是他擔心，如果「殺手機器人」落入壞人之手，這一創新可能會導致黑暗的未來。現年55歲的約書亞·班吉歐是加拿大電腦科學家，也是今年圖靈獎（電腦界的諾貝爾獎）的獲得者。他表示，自己更喜歡透過《星際奇航》的理想主義而不是《魔鬼終結者》的世界末日觀來看待世界。

▲ 圖片來源 

「在《星際奇航》世界中，人類透過民主進行治理，每個人都能得到優質的醫療保健、教育和食物，除了需要對抗一些外星人之外，沒有戰爭，」班吉歐說道，他的研究為語音和面部識別技術、電腦視覺和自動駕駛汽車等鋪平了道路。「我也總是嘗試著發揮出科學好的一面，進而實現改善社會。」

最近，班吉歐博士坐在蒙特婁學習演算法研究所狹小擁擠的辦公室裡，闡述了人工智慧的承諾和危險。他所創辦的這家研究所使得蒙特婁成為了全球人工智慧中心。座位旁邊放著一塊白板，上面覆蓋著複雜的數學方程式，還有用法語寫給清潔工的一條提醒：「不要擦除。」

擦除這些等式對人類和機器來說都將是一個沉重的代價。

作為蒙特婁大學電腦科學教授，班吉歐博士一直都很低調。但他在深度學習領域的研究工作——他說，「以大腦運算方式啟發機器學習」——已經以無數方式影響了我們的日常生活，比如利用Google翻譯將一個句子從法語轉換成中文，或用軟體檢測醫學圖像中的癌細胞。用他的話來描述深度學習，就是「以大腦運算的方式啟發機器學習」。

他和他的研究人員還利用人工智慧發現可以治癒疾病的分子，檢測教科書中的性別偏見，並預測何時會發生自然災害。

負責頒獎的電腦協會主席Cherri M. Pancake認為班吉歐博士和另外兩位傑出人士傑佛里·辛頓（Geoffrey Hinton）、楊立昆（Yann LeCun）（三人共享了這個獎項），為數十億人使用的技術奠定了基礎。「所有擁有智慧型手機的人都感受到了他們的影響，」她說，並指出他們的工作也為醫學、天文學和材料科學領域提供了「強大的新工具」。

儘管受到了所有的讚譽，班吉歐博士還是對科學家變為名人感到畏縮。Hinton博士為Google工作，LeCun博士是Facebook的首席人工智慧科學家，而班吉歐博士則刻意避開了矽谷，轉而在蒙特婁過著更為學術的生活。此外，他還在蒙特婁共同創辦了軟體公司Element A.I.。

「我不喜歡科學個性化，也不喜歡讓一些科學家成為明星，」自稱內向的班吉歐博士說道。「我可能只是幸運，在正確的時間思考了正確的事情。」

與班吉歐博士共事十多年的電腦科學家Myriam Côté形容他是一個打破傳統、自由思考的人，會覺得受到矽谷的限制。她說，他本質上是一個社群主義者，他迴避等級制度，並總是喜歡與年輕、地位較低的同事分享自己項目的利潤。

「他想在自由的氛圍中創造，」她說，並援引1968年巴黎學生反叛者的信條，稱他的哲學是：「嚴禁禁止。」

這反過來也為他的人工智慧方法提供了訊息。

雖然著名的劍橋物理學家斯蒂芬‧霍金警告人工智慧可能是「我們文明歷史上最糟糕的事件」，億萬富翁企業家埃隆‧馬斯克也警告說人工智慧可能會創造出一個「不朽的獨裁者」，但班吉歐博士仍然保持著樂觀。

「我們需要追求科學知識，否則我們只會四處碰壁，」他說。「但我們需要明智地做這件事。」在談到用代數來計算導彈角度時，他補充說：「你不能把戰爭歸咎於代數的發明者。」

儘管如此，但當Facebook演算法因其在2016年美國大選中的影響而受到批評時，當越來越多的人擔心機器人可以在沒有人類監督的情況下利用人工智慧瞄準人類時，班吉歐博士敏銳地意識到他的創新成果有成為「科學怪人怪物」的風險。因此，他表示自己支持監管人工智慧，包括禁止「殺手機器人」或「致命性自動化武器」的國際條約。

但是他也否定了「魔鬼終結者場景」，在這部系列電影中，一台被賦予人類情感的機器開啟了它的創造者。他強調說，機器沒有自我和人類情感，也不是想要自由的奴隸。「之所以會想像我們的創造物與人類作對，是因為我們把自身的心理投射到了機器上，這是很荒謬的，」他說。

班吉歐博士是一名來自摩洛哥卡薩布蘭卡的西班牙裔猶太人的兒子，他於20世紀60年代移民到巴黎。班吉歐將自己對人工智慧的興趣追溯到童年時代，當時他如飢似渴地閱讀了以撒‧艾西莫夫、雷‧布萊德利和亞瑟‧克拉克的科幻小說。

他說，Stanley Kubrick《2001：太空漫遊》中人類和機器的關係激發了他的想像。「一個每天花時間教一台機器瞭解世界的老師讓我產生了共鳴，」他說。「科幻小說是夢想未來的一種方式。」

他回憶道，11歲時，他開始透過將數字插入計算機來進行編寫程式。當被要求回憶起童年最具形成性的記憶時，他突然停下來，做出了一個不太可能的坦白。

「我記憶力不好，我擅長推理，但不擅長記憶。這就是為什麼我被數學和電腦科學吸引，因為你不需要記住任何東西。」

班吉歐博士把他的成功歸功於自己有社會意識的父母，他指出，他的父親是一名導演戲劇的藥劑師，他的母親則管理著眾多藝術家，這讓他和自己的兄弟有了獨立思考的自由。

這樣的教育方法似乎奏效了。他的弟弟Samy只比他小一歲，目前正在人工智慧研究團隊Google Brain管理著一個研究小組。他說，他們兩個人「就像是雙胞胎」，總是會在研究上合作，並交換想法。

他12歲時，全家搬到了蒙特婁——祖父母居住的地方。他回憶說，20世紀80年代末，在麥吉爾大學攻讀電腦科學碩士和博士學位時，他被Hinton博士的工作所吸引，當時Hinton正致力於開發基於神經網絡的「智慧型電腦」（神經網路是一種可以透過分析大量數據來獨立學習任務的數學演算法）。

「這不僅僅是數學或電腦科學，而是關於理解人類智慧型來製造智慧型機器，」他說。隨後，他又在麻省理工學院和貝爾實驗室從事著博士後工作。

班吉歐博士指出，他、辛頓博士和楊立昆博士幾十年來一直在研究神經網絡，儘管電腦科學領域的許多人嘲諷他們涉足了某種形式的黑暗魔法，並認為實際應用會很少。對班吉歐博士來說，挑戰傳統智慧是很自然的一件事。

「建造智慧型機器的偉大夢想在90年代末破滅了，人們想，『哦，這太難了——讓我們用演算法來解決具體問題吧，』」他回憶道。「我想，我對人們在每個時間段裡關心的事情並不敏感，我相信自己在做什麼。」

儘管他們開創性的工作改變了這個領域，並把他變成了人工智慧超級巨星，但班吉歐博士仍然樂於和學生們在一起。他目前已經離婚，有兩個已成年的孩子，其中一個已經進入了人工智慧領域。他在難得的空閒時間裡會閱讀史賓諾沙，偶爾也會在家附近的樹林裡散步。

班吉歐博士對科學獎項或財富不感興趣，並強調自滿和過度自信是科學進步的敵人。

「光有自信是不夠的，」他說。「你可以自信，也可以犯錯。」

• 本文授權轉載自cnBeta