消失的MIT秘書!聊天機器人歷史背後的無名英雄,簡單程式如何引發人工智慧的倫理爭議

消失的MIT秘書!聊天機器人歷史背後的無名英雄,簡單程式如何引發人工智慧的倫理爭議

ADVERTISEMENT

在一個寒風凜冽、暴風雪肆虐的冬日,麻省理工學院(MIT)的典藏檔案館顯得格外寧靜。這種沉默,隨著落雪不斷堆積,似乎愈發厚重。檔案館裡只剩下伯明翰大學當代文學資深講師麗貝卡·羅奇(Rebecca Roach),耳邊的寂靜讓她更加專注於尋找某個關鍵人物的聲音——這個未曾留下姓名的神秘秘書。

麗貝卡正在追尋這名失蹤的秘書,這位秘書在電腦歷史的某個關鍵時刻,扮演了舉足輕重的角色,卻從未被記錄在案。這次的檔案館探訪,旨在深入探究對話機器(如今稱為「聊天機器人」)的歷史。對許多人來說,聊天機器人已經成為日常生活的一部分,從亞馬遜的 Alexa、蘋果的 Siri,到現今的 ChatGPT,它們的出現源於數十年的研究與技術突破。

然而,這位麗貝卡所追尋的,不是當代的科技,而是構成這段歷史的關鍵人物:一位無名的秘書,她曾經與一個早期的聊天機器人進行了關鍵對話。

消失的MIT秘書!聊天機器人歷史背後的無名英雄,簡單程式如何引發人工智慧的倫理爭議

聊天機器人的起源:從艾倫·圖靈到 Eliza

聊天機器人的歷史可以追溯到 1950 年,當時電腦科學先驅艾倫·圖靈(Alan Turing)提出了一項測試,目的是檢驗機器能否具備「智慧」。這項測試挑戰的是,透過與人類進行對話,機器是否能夠讓人無法分辨自己與人的區別。這一想法激發了對人工智慧(AI)與電腦對話系統的早期研究。

隨著這些想法在學術界蔓延,到了 1960 年代,MIT 的電機工程教授約瑟夫·維森鮑姆 (Joseph Weizenbaum)開發了一個名為 Eliza 的電腦程式,目的是模擬人類與機器之間的對話。Eliza 能夠根據使用者輸入的文字,依賴關鍵詞與轉換規則來回應,最著名的是它可以假扮心理治療師,提供模擬的心理諮詢服務,開始對話的第一句話是:「請告訴我你的問題。」這個程式模仿了心理諮詢的對話模式,Eliza 不僅能接收自然語言形式的輸入,還能給人一種「理解的錯覺」。

Eliza 的命名取自英國劇作家蕭伯納(George Bernard Shaw)於 1912 年創作的戲劇《賣花女》(Pygmalion)中的女主角,後來該劇被改編成 1964 年的音樂劇《窈窕淑女》。如同戲劇中的角色變身過程,Eliza 在電腦領域掀起了巨大波瀾,報章雜誌紛紛報導這項科技,將其視為圖靈夢想的實現。

ELIZA 的創造者,約瑟夫·維森鮑姆教授。 Christoph Keller/Alamy Stock Photo

發現秘書的線索:消失的聲音

Eliza 程式的成功與影響,吸引了許多關注,甚至連《花花公子》雜誌也曾探討其潛力。然而,創造者維森鮑姆對這項發明最終感到不安。他不願相信如此簡單的程式能「欺騙」使用者,讓他們相信自己與一個有情感理解力的系統進行了對話。這一想法最終促使他在接下來的幾十年裡與人工智慧界劃清界限。

儘管維森鮑姆與他的發明的關係充滿了矛盾,但有一個人物不斷出現於這段歷史的片段中——一位無名的秘書。根據維森鮑姆 的記錄,這位秘書在他開發 Eliza 程式期間,經常觀看他的工作,並且表現出極大的興趣。有一天,她請求與 Eliza 對話。儘管她知道自己是在與一個機器對話,但在輸入了幾句話之後,她突然轉身對維森鮑姆 說:「你介意先離開房間嗎?」

維森鮑姆認為她的反應令人擔憂,證明了:「接觸一個相對簡單的電腦程式,即使時間極短,也可能在相當正常的人身上引發強烈的妄想思維。」她的反應在他心中埋下了後來厭惡自己創造物的種子。然而,這位秘書的名字和她的觀點從未被記錄在案。作為這場對話的另一方,她的聲音彷彿消失在歷史的長河中。

挖掘檔案:試圖找回秘書的身影

但這位「相當正常的人」是誰?她對 Eliza 有什麼看法?如果這位消失的秘書扮演了如此重要的角色,那為什麼我們沒有聽到她的聲音?在會說話的機器發展史的這一章節中,我們只聽到了對話的一方。

在 MIT 的檔案館裡,麗貝卡堅信應該能找到一些證據。她他翻閱了維森鮑姆留下的泛黃紙張、對話記錄、列印出來的程式碼文件、信件與筆記。她相信,這些資料裡必定隱藏著某些線索。然而,儘管偶爾在書信中看到與秘書相關的簡短提及,具體的姓名卻從未出現。

麗貝卡擴大了搜索範圍,查閱 MIT 電腦部門的行政檔案,甚至聯繫了維森鮑姆所工作的 Project MAC 的檔案室——這是 MIT 電腦創新的神聖殿堂。即使如此,依然沒有找到她的名字。她進一步聯繫了 MIT 的人力資源辦公室和校友組織,耐心等待的檔案管理員們也似乎無法提供更多幫助。

隨著時間的流逝,麗貝卡的探尋即將結束。在最後一個檔案館開放日,她仍然無法找到這位秘書的任何具體記錄,耳邊只有歷史留下的沉默。

聆聽沉默:失聲的故事與電腦歷史中的無名英雄

這場追尋並非完全無果,麗貝卡了解到,許多組織歷來對於那些記錄、整理和保存知識的人物往往漠不關心。在 MIT 這樣的學術機構以及電腦發展歷史中,許多文件的撰寫者——通常是待遇不高、地位低下的女性——大多被排除在歷史的記載之外。

這位「沉默的秘書」正是這些被歷史抹去的無名英雄的象徵,她是那些撰寫歷史、保存知識的無名工作者之一。她的貢獻與對話機器的早期使用者們一樣,被忽略了。這些對系統的操作、專業知識、觀點以及創造力,常常被認為微不足道。然而,低估這些貢獻,不僅影響了我們設計的對話技術,還影響了我們對於這些系統中的人力投入的評價。

隨著生成式人工智慧的發展,我們談論使用者輸入時常用「對話」與「提示」這類詞彙。但這些「對話」究竟擁有什麼樣的法律地位?例如,我們是否應該對這些輸入內容擁有版權?這些系統訓練過程中的工作又應如何被承認?

風雪愈加猛烈。校園即將因天氣關閉,然而這位失蹤的秘書的聲音依舊無跡可尋。對於對話機器的歷史來說,這一章依然是單方面的對話。當麗貝卡冒著風雪踏上回家的路時,這段沉默的故事依舊縈繞在她的心頭。

netizen
作者

一個老派的科技媒體工作者,對於最新科技動態、最新科技訊息的觀察報告。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則