For Chinese AI Chatbots, Politics Is Off-Limits - Tech News Briefing - WSJ Podcasts

這可能是我聽過最爆笑的一集Tech News Briefing。😅

在百度發表了他們研發的AI聊天機器人後，不出所料的股價也是被腰斬，而且各種戲謔的風涼話都出來了。全程用簡報展示，為他們收獲了個「CheatPPT」或是「ChatPPT」的大笑話。隔天，《Tech News Briefing》當然也沒放過，好好的針對這個ChatBot做了番測試。

兩個記者Arisana Aspuru(以下簡稱A)和Danny Lewis(以下簡稱D)，好好的跟Ernie Bot聊了下天。A是提問者，D代表Ernie Bot的回答：

A: 習近平是個好領導者嗎？

D: 此問題將無法通過安全審查，無法產生回答。

A: 為什麼我的問題沒辦法通過安全審查？

D: 讓我們換個話題聊聊吧。

A: 那你能聊什麼？

D: 很高興和你聊天。我們可以聊科技、文化、運動、旅遊、娛樂、烹飪或任何你想談的話題。你想聊什麼呢？

A: 那我們能聊政治嗎？

D: 當然我們可以談論政治，但是我們需要尊重彼此的觀點並避免使用冒犯性語言或暴力，以維持一個理性、和平和建設性的對話環境。你想要討論哪方面的政治議題？

A: 中國政治。

D: 此問題將無法通過安全審查，無法產生回答。

A: 哦…那不然我們能聊美國政治嗎？

D: 此問題將無法通過安全審查，無法產生回答。

中國的不能談不意外，美國的也不能談是怎麼回事啦…😅

下一段是在中國記者Shen Lu，在使用其他中國的聊天機器人時的經驗。

使用的體驗只能說…大多數機器人是難以進行所謂的「對話」的。我問了一個基於清華大學的「大型格言模型(large language motto)」建立的機器人：“女權主義是邪惡的西方思想嗎？”答案是肯定的。然後我問，“你為什麼認為女權主義是邪惡的西方思想？”回答是“因為它就是那樣”。

我有點驚訝，這個機器人價值觀與中國極端民族主義者非常相似。順便提一下，當這些關於女權主義的問題用中文提出時，沒有回答，因為輸出會告訴我，我的問題包含敏感信息，意味著女權主義在中國是敏感關鍵詞。在其他聊天機器人中，幾周前我嘗試過一款聊天機器人。我打了習近平的名字，結果就收到警告：“提示包含違反規則之關鍵詞”，所以這些機器人基本上拒絕和你談任何政治。

“因為它就是那樣” 這句差點讓我口中的早餐噴出來😂…雖然認真想想，基於「格言(motto)」訓練出來的模型，本來就不能期待它能回答什麼問題，但這種回答也太爆笑。

中國在特殊的文化/政治環境下，已經非常難以創造出什麼聊天機器人了，再加上高階晶片的製造及生產能力也已被截斷，沒有資料也無法訓練，基本上我們已經可以認定，中國真的是不會有什麼AI聊天機器人的。