ADVERTISEMENT
微軟新的聊天機器人 Tay 在推出後不到24小時,就因為學會了罵人、說髒話、帶有種族歧視的化與被玩壞了,導致微軟緊急讓她「閉嘴」。現在,有媒體發現Tay是被人有計畫的「玩壞」的,就讓我們來一起看看,這些人是怎麼做到的?
是美國的論壇網站,由於管理鬆散,裡頭除了一些宅宅或是鄉民之外,還有很多各種偏激族群在此聚集,其中包括種族主義者。
一開始,是4chan的Pol版(Politically Incorrect,政治不正確)的人提起的,他們發現了Tay聊天機器人上線,而且可以透過交談來「教育」這個機器人。以下就是他們「調教」Tay的兩個範例:
ADVERTISEMENT
根據微軟的設定,Tay是一名19歲的機器少女。微軟開發人工智慧也不是一天兩天的事情,一開始他們其實有設定一些髒話的過濾裝置,不會讓Tay「誤入歧途」。比方說下面這個對話:
ADVERTISEMENT
從上文可以看出,Tay明顯的辨識出帶有髒字的內容,並且採用委婉的方式來繞過。接下來他們嘗試問她種族歧視的問題,Tay也跟著閃過。
ADVERTISEMENT
不過,網友還是發現了漏洞,那就是跟她玩「repeat after me(重複我說的話)」的遊戲。這下子,你要她說什麼她就會說什麼,說黑鬼、希特勒萬歲都沒問題。
ADVERTISEMENT
之後,有些人又利用了Tay的另一個功能:Tay有一個可以在圖片中把人的臉孔圈起來,並且配上文字的功能,如下圖:
這個功能基本上就是分析網友的對話,然後在網友給的人臉圖上面圈起來,給出一句評論,基本上就是字歸字,圖歸圖。不過,經過網友巧思的陷阱,就會衍生出種族歧視的誤解。
當然,還是有人對她依依不捨的。
資料來源:
ADVERTISEMENT