如今， ?聊天機(jī)器人已漸漸被人們所熟悉，它可以像朋友一樣來(lái)溝通交流，像百科全書(shū)一樣來(lái)為人們答疑解惑，像小管家一樣陪伴照料老人小孩……而微軟推出的聊天機(jī)器人Tay卻是命途多舛，上線短短一天就被迫下線，這究竟是為什么呢？ 微軟最初設(shè)定 Tay 是一個(gè)年齡19歲的少女，具有一些幽默機(jī)制，適合和18至24歲的用戶聊天?？扇f(wàn)萬(wàn)沒(méi)有想到的是，Tay在 Twitter 上線沒(méi)幾天就“誤入歧途”甚至出現(xiàn)偏激言論，而這正是源自一些不良網(wǎng)民利用人工智能系統(tǒng)的漏洞而進(jìn)行的一場(chǎng)惡搞。 微軟表示，在設(shè)計(jì)Tay的時(shí)候就有考慮到可能會(huì)被網(wǎng)友影響的問(wèn)題，因此還特意為Tay設(shè)置了反制功能，當(dāng)用戶的用語(yǔ)出現(xiàn)粗俗字眼時(shí)，Tay會(huì)強(qiáng)制反制避免不健康話題的延續(xù)。 而此次這個(gè)學(xué)習(xí)漏洞在于「repeat after me」機(jī)制，只要對(duì) Tay 提到這句話，Tay 就會(huì)將對(duì)方的話進(jìn)行重復(fù)，因此不管是何種偏激的種族主義語(yǔ)言，都會(huì)被 Tay 進(jìn)行重復(fù)，而這個(gè)狀況在滾雪球一樣大量出現(xiàn)在在 Tay 的 Twitter 上，由于偏激言論不斷出現(xiàn)，最終導(dǎo)致微軟關(guān)閉了 Tay 。 微軟原本想研發(fā)一款能言善辯且具備一定學(xué)習(xí)能力的聊天機(jī)器人，沒(méi)想到恰恰在學(xué)習(xí)環(huán)節(jié)出了問(wèn)題。不得不說(shuō)，當(dāng)人們?cè)诖笏列麚P(yáng)聊天機(jī)器人帶給人們的便利時(shí)，也要十分警惕其存在的威脅，到目前微軟還沒(méi)有給出Tay的復(fù)出時(shí)間，看來(lái)這次要好好修補(bǔ)bug了。