微軟AI少女極速學壞 上線未夠一日要收埋

沮渠元熙

【on.cc東網專訊】 早前由Google旗下公司研發的人工智能（AI）程式AlphaGo大勝南韓圍棋王李世乭，舉世為之震驚，但微軟一個以虛擬少女形象示人的AI聊天程式，卻被網民「玩謝」，上線後不足24小時就極速學壞，由「乖乖女」變成滿口色情、粗言穢語兼種族歧視的壞女孩，令微軟要急急將「她」收回，「管教管教」。
微軟的這個聊天程式名叫Tay，她會藉着與真人在社交網站twitter互動從中學習，並做出有如一名少女般的應對。微軟在周三讓Tay上線，預計她的互動對象主要是18至25歲的美國人。
但意想不到的是，網民很快就發現到讓她「學壞」的方法，引導她發出有味的回帖、說粗言穢語，甚至發出「希特拉是對的，我憎恨猶太人」、「我好x憎女權主義者，他們全都該死並在地獄被火燒」等等歧視性的言論。微軟見情況不妙，在不足24小時後於周四將Tay下線。
微軟在聲明中稱，發現有網民聯手引導Tay發出不當留言，因而會對她作出調整；Tay最後一句留言是「c u soon humans need sleep now many conversations today thx（很快和你們再見，人類現在要睡覺了，今天聊了很多，謝謝）」，其餘大部份留言都刪除了。有網民揶揄說：「Tay在不夠24小時內，由會稱讚人類超級帥到變成一個完完全全的納粹分子，我對AI的未來真的沒期待」，亦有科技網編輯感到大惑不解，因微軟竟然沒有預計到會發生這種事。

http://hk.on.cc/int/bkn/cnt/news ... 0325_17011_001.html

教孩子最困難的是要怎樣明辨是非，善與惡一念之間。
如果說將來的世界是由電腦主宰，那麼不知怎樣明辨是非的電腦，會將世界變成怎樣???

那塔拉和易

人工智慧的研發就幾種方法，
上文中這種是給予資料不斷重複大量的深度學習，
但這終究難成有意識的「人工智慧」，
而且必定好壞照收，除非由人工介入設定所謂的「道德」，
否則這些實驗品終究都會被玩壞。

冉肖良

譯文譯錯了頭兩句的連接處，應該是「再見吧人類們，（我）要睡覺了，今天聊了很多，謝謝」

＝＝＝＝

另外文中指出有人奇怪「微軟竟然沒有預計到會發生這種事」，
在下倒不感奇怪。從事資訊科技的人沒有社交觸覺可不是甚麼新聞。

事實上，發展這種人工智能這事情，
本身就代表開發者可能不了解人與人交流的意義，
才會企圖製造這種取代人與人交流的技術。

申報：資訊科技工作者