人工智能跟所有智能一樣,似乎都有一個「演化」過程。
最近的案例是這樣的:
中國一位媽媽為女兒買來一隻國產品牌360的兒童智能手錶,當女兒採用「語音問答功能」,問到「中國人是世界上最聰明的人嗎」時,手錶給出的答案嚇到了他們一家人。家長覺得這個智能答案「毀三觀」,決定退貨。那位媽媽為了讓其他用家「警惕」,還拍了短片,以下是帶着童聲的智能手錶語音答案全文:
「笨的是世上最笨的」
「中國人是世界上最聰明的人嗎?以下內容來自360搜索:因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種裏最大。其實中國人聰明的是有,但笨的我承認是世上最笨的,尤其是那種吹牛逼的,都說甚麼中國古代如如何牛逼,甚麼四大發明,你看見了嗎?歷史是可以捏造的。而現在的手機、電腦、高樓大廈、公路等等所有高科技,都是西方人發明的。中國人怎有臉吹噓自己世界上最聰明?如果中國沒有引進西方設計師幫助我國建造城市,我們就不會覺得,中國人最聰明了,因為都昰草房土路,沒有高樓大廈馬路電燈手機等等一些高科技。一切回歸到原始社會,到了那時就沒有人會覺得中國人是世界上最聰明的了。」
短片發布後,有中國內地網民直言「被滲透了」「簡直太過分了」;可是,也有來自台灣的網民給出了不一樣的留言:「說出真正的實話呢!」「說實話確實很傷人」「這支手錶真有智慧」……
短片公布後不久,奇虎360集團董事長周鴻禕親自拍了短片,為手錶給出「有害」的答案道歉,他指出,手錶生產於二○二二年五月,是舊版本,目前已完成了整改,把軟體升級。他還展示了同樣問題的「新答案」:
「整改」後的新答案
「人類的智慧和聰明才智是多樣化的,各個國家和民族都有傑出的人才和偉大的成就。中國有着悠久的歷史文化和豐富的科技創新,為人類文明進步,作出重要貢獻。然而,我們不能簡單的說,某個國家或民族的人是最聰明的,聰明才智的體現,不僅僅在於學術成績或科技創新,還包括道德品質、社會責任感和人文素養等方面。我們應尊重和學習,各國人民的智慧和貢獻,共同推動人類社會的進步和發展。」
對抗AI「幻覺」
他接着又示範了另外兩個問題,一個是「美國月亮還是中國月亮更圓」,一個是「巴黎奧運孫穎莎和陳夢誰球技更厲害」,前者的答案的大意是「一樣圓」,後者的答案大意是「兩者都很優秀」。周鴻禕還特別提到發展人工智能的困難:「人工智能,全世界公認的一個難題,就是它會產生幻覺,也就是它有時候會胡說八道。」他希望通過所有人的努力,減低人工智能的「幻覺」。
最後,周鴻禕表示,歡迎大眾發現產品瑕疵和不合適的回答,向他們報告,因為「這相當於為他們完善智能手錶的產品」,所以經核實後會向報告者贈送一份「360產品大禮包」作為回禮。