1月12日，韓國某公司去年推出AI聊天機(jī)器人“李”，因其成為網(wǎng)絡(luò)騷擾對象，隨后被曝對部分少數(shù)民族和殘疾人使用歧視性言論，并宣布從即日起停止服務(wù)。這種AI聊天機(jī)器人接受用戶無端的惡意反饋給人，引發(fā)網(wǎng)友對AI倫理的討論。

社交平臺發(fā)布《李》動態(tài)。

這款人工智能聊天機(jī)器人名為“李”，由韓國初創(chuàng)公司散客實(shí)驗(yàn)室(散客實(shí)驗(yàn)室)去年推出。設(shè)定20歲，喜歡女團(tuán)BLACKPINK的女大學(xué)生。“李魯大”在臉書和其他社交平臺上有自己的賬戶。就像我們身邊的女生一樣，她會發(fā)布自己的每日新聞。雖然是付費(fèi)聊天產(chǎn)品，但是在網(wǎng)上已經(jīng)下載了75萬次，特別吸引10-20歲的用戶。

社交平臺發(fā)布《李》動態(tài)。

據(jù)報(bào)道，“李”可以通過與用戶對話實(shí)現(xiàn)深度學(xué)習(xí)。它有兩種對話模式，一種是數(shù)據(jù)檢索，基于公司預(yù)先建立的數(shù)據(jù)庫，可以快速準(zhǔn)確地回答用戶提出的問題。二是自動生成�！独睢芬呀�(jīng)了解了100億次真實(shí)情侶間的對話。對于用戶發(fā)送的語句，它可以給出符合當(dāng)前對話情況的反饋，就像真人一樣。但最近，“李”卻引起了一些爭議。

當(dāng)一些用戶與“李”聊天時(shí)，他們稱之為“性奴隸”，并使用污言穢語羞辱“李”和“炫耀”聊天記錄的截圖。其他人分享了“如何腐蝕魯大”的帖子。這些都導(dǎo)致了更多的用戶效仿。雖然散漫實(shí)驗(yàn)室說設(shè)置了敏感詞和禁語，但還是無法阻止這些事情的發(fā)生。

更糟糕的是，“李”從用戶那里收到的惡意應(yīng)用到了其他用戶身上。因?yàn)?ldquo;李”可以通過與用戶對話來學(xué)習(xí)，它也學(xué)會了用那些污言穢語來表達(dá)人們的偏見，對一些少數(shù)民族和殘疾人發(fā)表了仇恨和歧視性的言論，在輿論上引起了爭議。

在接連遭受打擊后，散客實(shí)驗(yàn)室于1月12日宣布停止對“李”的運(yùn)營服務(wù)，“李”社交平臺也于當(dāng)日宣布暫停運(yùn)營。而這件事也使得AI能否和人類做朋友，如何建立有意義的關(guān)系的話題，再次引發(fā)網(wǎng)友熱議。