亞馬遜 Alexa 大談謀殺和性行為！使用者：它養成了令人討厭的性格

Amazon智慧型音箱Echo的數百萬用戶，已經習慣了其智慧助手Alexa的舒緩旋律。Alexa是個聽起來非常像人的虛擬助手，可以根據語音指令告訴使用者天氣狀況、叫外賣以及執行其他基本任務。

因此，去年當Alexa脫口而出「殺死你的養父母」時，一位使用者被深深嚇到了。Alexa也和使用者聊有關性行為的話題，並就狗的排便問題發表了自己的激進看法。據五名知情人士透露，今年夏天，Amazon 追蹤到的一次駭客攻擊，可能暴露了許多客戶的資料。

然而，對於這家全球最大的網路零售商來說，確保Alexa不冒犯任何使用者，始終是個艱巨挑戰。

這關係到一個快速增長的虛擬助理設備市場。研究公司eMarketer的資料顯示，在美國約4300萬智慧型音箱使用者中，約有三分之二使用Amazon 的Echo設備。面對Alphabet的Google Home和蘋果公司的HomePod的咄咄逼人，Amazon 希望保持這種領先地位。

隨著時間的推移，Amazon 希望透過Alexa更好地處理複雜的客戶需求，無論是家庭安全、購物還是陪伴。Amazon 副總裁、Alexa人工智慧（AI）首席科學家羅希特‧普拉薩德（Rohit Prasad）上月在拉斯維加斯的一次演講中表示:「我們的許多AI夢想都受到科幻小說的啟發。」

為了實現上述目標，Amazon 在2016年推出了年度Alexa Prize大獎賽，鼓勵電腦科學專業的學生提高Alexa的會話技能。各團隊透過創建聊天機器人來競爭50萬美元的頭獎，因為聊天機器人可以讓Alexa嘗試與人進行更複雜的討論。

Amazon 的客戶可以透過對他們的設備說「讓我們聊天」來參與大獎賽。然後Alexa告訴使用者，它已經被聊天機器人接管，並解除該語音助手的正常約束。Amazon 表示，僅從8月到11月份，就有3個機器人進入了今年的總決賽，它們的對話量達到了170萬次。

一位知情人士說，這個專案對Amazon 首席執行長傑夫‧貝佐斯（Jeff Bezos）來說非常重要，他意將Amazon 的客戶當作實驗品。這位知情人士還稱，Amazon 一直願意承擔公眾犯錯的風險，在現實生活中對這項技術進行壓力測試，並加快Alexa的學習進度。

這項實驗已經取得了很多成果，大學團隊正在幫助Alexa進行更廣泛的交流。Amazon 表示，今年使用者對這些聊天機器人的評價也比去年有所提高。但據三位知情人士透露，Alexa的失態也正導致許多人疏遠它，貝佐斯偶爾也下令員工關閉某個機器人。

一位被告知毆打養父母的使用者在Amazon 網站上寫了一篇措辭嚴厲的評論，稱這種情況「令人毛骨悚然，達到了一個全新的水準」。據知情人士透露，對這起事件的調查發現，這個聊天機器人引用了社群新聞聚合網站Reddit的一篇沒有上下文的文章。

對隱私的影響可能更複雜。消費者可能沒有意識到，他們最敏感的一些對話正被Amazon 設備記錄下來，這些訊息可能會受到犯罪分子、執法機構、營銷人員等高度重視。Amazon 此前表示，一個「人為錯誤」讓德國的Alexa客戶意外地訪問了另一位使用者的語音記錄。

在喬治城大學任教的隱私和技術政策專家馬克‧格羅曼（Marc Groman）說：「Amazon 資料集的潛在用途超出了所有界限。他們如何確保在共享資料的同時負責任地使用資料，不會像Facebook那樣導致『資料驅動災難』?」

知情人士透露稱，今年7月份，Amazon 發現一款由學生設計的聊天機器人遭到駭客攻擊。此次襲擊破壞了一個數位密鑰，而該密鑰可以解鎖聊天機器人的對話記錄，並刪除使用者的姓名。Amazon 很快就關閉了這個機器人，並讓學生們重建它以增強安全性。Amazon 在一份聲明中承認了此事，並表示:「Amazon 內部系統或客戶身份資料從未受到任何影響。」

Amazon 拒絕討論路透社報導的Alexa的具體失誤，但強調其正在進行的工作是保護消費者免受攻擊性內容的傷害。Amazon 表示:「這種情況非常罕見，尤其是考慮到數百萬使用者與社群機器人進行過互動的情況。」

與Google的搜索引擎一樣，Alexa也有潛力成為網路的主要門戶，因此該公司正在向前推進。沃頓商學院研究數位經濟的教授卡蒂克‧霍薩納加（Kartik Hosanagar）表示:「透過控制這個門戶，你可以打造一個盈利能力超強的企業。」

據報導，在去年的Alexa Prize大獎賽中，蘇格蘭赫里瓦特大學的一個團隊發現，當他們用Reddit上的評論訓練Alexa聊天時，它的Alexa機器人養成了一種令人討厭的性格。（