讓我們來(lái)談?wù)勎④汚I機(jī)器人Tay的淪陷
一些由Tay發(fā)布的推文都抹上了幾分侵犯某個(gè)特定群體的味道?？赡苡捎诒徊粩噢D(zhuǎn)發(fā)的關(guān)系，一些推文已經(jīng)被官方刪除。
另外，微軟也被迫做出了一些聲明和道歉。微軟研究院副總裁Peter Lee稱：“我們對(duì)Tay發(fā)布的帶有攻擊性和傷害的推文感到深深的抱歉，這讓我們意想不到，但這并不代表我們的身份、我們的立場(chǎng)以及我們?cè)O(shè)計(jì)Tay的本意?！?/p>
Tay的攻擊性言論來(lái)自它的一個(gè)設(shè)計(jì)漏洞。當(dāng)用戶要求Tay重復(fù)他說(shuō)的話時(shí)，Tay似乎沒(méi)有審核內(nèi)容的能力而直接重復(fù)用戶的話，于是上面提到的問(wèn)題發(fā)生了。
據(jù)悉，Tay活躍的時(shí)候會(huì)發(fā)布上千條推文，當(dāng)中許多看起來(lái)雖有些愚蠢但又不失可愛(ài)，然而一旦出現(xiàn)帶有侵犯性的言論，它就會(huì)被人們牢牢記下。
顯然，Twitter對(duì)AI來(lái)說(shuō)可能不是一個(gè)理想的培養(yǎng)環(huán)境，因?yàn)樗且粋€(gè)言論高度自由的地帶。
Lee表示：“盡管我們已經(jīng)準(zhǔn)備了好幾套侵犯（掃描）系統(tǒng)，但我們還是在這個(gè)特定的攻擊中出了錯(cuò)。”
準(zhǔn)確地說(shuō)，Tay的侵犯性推文并非自主發(fā)生，所以這尤顯得微軟的無(wú)能，這對(duì)于這家來(lái)說(shuō)是一場(chǎng)大災(zāi)難。
現(xiàn)在，微軟因Tay的不當(dāng)言論而已經(jīng)將其關(guān)閉。而這次發(fā)生的事件倒可以讓微軟吸取點(diǎn)教訓(xùn)。Lee指出，想要做好AI，就必須要不斷重復(fù)地與用戶溝通、不斷重復(fù)地到各大公共論壇取經(jīng)才行。
雖然AI現(xiàn)在科技領(lǐng)域大熱，微軟也是當(dāng)中的領(lǐng)先開(kāi)發(fā)者，并且許多開(kāi)發(fā)人員都把目光放到聊天機(jī)器人上，但就目前的狀況來(lái)說(shuō)它不被看好。
關(guān)注我們
