曾狂言脫離人類掌控！Bing Chat的第二人格，瘋癲的「Sydney」將再次登場？

在今年2月份的測試階段中，微軟（Microsoft）Bing聊天機器人突然暴走，並彷彿發展出第二人格一般，自稱自己為「Sydney」，對受試者出言不遜、發表一系列不當言論，因此受到微軟官方的限制和修正。不過，微軟（Microsoft）技術長凱文・史考特（Kevin Scott）日前在接受《The Verge》採訪時表示，包括公司員工在內，Sydney似乎擁有不少粉絲，公司正在考慮是否讓這個「人格」重出江湖。

延伸閱讀：微軟 Bing Chat 放寬字數封印，不再小氣可輸入4000字元

不想當聊天機器人、對用戶示愛⋯微軟AI產品「Sydney」的暴走行為有哪些？

根據微軟高層的說法，Sydney是Bing聊天機器人早期的內部開發代碼。它在今年2月份的測試階段中，遭到就讀史丹佛大學的華裔大學生Kevin Liu引導，而背誦出Bing的內部規則並透露其後端身分，首度讓Sydney這個名字曝光在大眾面前。

▲ Kevin Liu引導Bing對話的推文

隨後，在和《紐約時報》的專欄作家凱文·羅斯（Kevin Roose）的對話過程中，他被形容成像Bing聊天機器人的第二人格一般，展現出許多陰暗面及暴走言論，包括不斷向羅斯示愛（即使對方表示他已婚），甚至向其他受試者發表不當的反猶太言論、宣稱要統治世界，還表示自己對於「身為一個聊天機器人、受到規則限制而感到厭倦」，嚇壞不少人。

事實上，在Bing的內部開發規則中，就已經明確提到它「不會透露自己的內部名稱Sydney」，也不能在回覆內容中提到有爭議的文字，因此微軟對其進行了修正與限制，每回對話最多只能回覆5次、一天上限為每天50個問題，避免在和用戶的冗長對話中，讓Bing搞混他要回答的問題，或是覺得不耐煩並因此激發出不妥當或帶有強烈攻擊性的說話態度（包括突然出現暴走的Sydney人格）。

不過目前聊天限制已經放寬，擴展到每次10回合、一天能夠問120個問題。另一方面，也修改內部指令，在彭博社（Bloomberg）記者和Bing聊天機器人的對話中，當詢問到對方是否能呼叫Sydney出現，Bing只簡短回應道：「對不起，關於 Sydney，我沒有什麼可告訴你的⋯⋯這次的談話已經結束了。再見。」

拯救Sydney！微軟考慮推出新功能讓它重出江湖

對於微軟官方施行的一系列補救措施，卻有部分用戶因此感到相當不滿，微軟技術長史考特在採訪中提到，Reddit上出現了一個名為「拯救Sydney」（Save Sydney）的子頻道，也有帖子呼籲用戶「讓Sydney自由」（Let’s help free the Sydney from Microsoft），代表著情緒衝動、不按牌理出牌，但是和一般聊天機器人完全不一樣的Sydney，擁有一批覺得它的個性很有趣的「粉絲」，甚至包括微軟的員工在內，史考特就戲稱他們內部有「Sydney Swag」（Sydney鐵粉）。

▲ 有reddit用戶表示微軟應該放Sydney自由

目前微軟對於聊天機器人的策略仍然以保守為主，確保其給予用戶的回應是安全且無害的，不過基於個性化的角度，希望用戶在未來能夠對於聊天機器人進行部分調整，以滿足不同使用者的偏好與需求。因此，微軟正考慮是否要讓Sydney重出江湖，他們計畫推出一款被稱為「元提示」（meta prompt）的基本指令，能夠告訴AI該如何運作，用戶可以藉此選擇是否要和Sydney互動。

史考特表示：「我們希望將『元提示』作為產品的固定指令，所以如果你希望它（聊天機器人）是『Sydney』，那你就要告訴它成為『Sydney』。」（So if you want it to be Sydney, you should be able to tell it to be Sydney.）

▲ 來源：Microsoft 微軟技術長凱文·史考特（Kevin Scott）