微軟：與AI增強(qiáng)版必應(yīng)長(zhǎng)時(shí)間聊天會(huì)導(dǎo)致“翻車”

新浪科技訊 北京時(shí)間2月17日早間消息，微軟近期啟動(dòng)了人工智能增強(qiáng)版必應(yīng)的公開測(cè)試，但許多用戶發(fā)現(xiàn)，新版必應(yīng)在某些情況下會(huì)出現(xiàn)“精神錯(cuò)亂的”言論，甚至侮辱用戶、撒謊，并試圖操縱用戶的情緒。微軟官方回應(yīng)稱正在根據(jù)反饋采取行動(dòng)，以優(yōu)化回答的語(yǔ)氣和準(zhǔn)確性。微軟同時(shí)警告稱，較長(zhǎng)的聊天會(huì)話可能會(huì)導(dǎo)致問(wèn)題。

回顧最初7天的公開測(cè)試，微軟必應(yīng)團(tuán)隊(duì)表示，他們沒(méi)有“完全預(yù)計(jì)到”，人們會(huì)使用聊天界面來(lái)進(jìn)行“社交娛樂(lè)”，或是將其作為一種“全面發(fā)現(xiàn)世界”的工具。該團(tuán)隊(duì)發(fā)現(xiàn)，如果聊天會(huì)話持續(xù)15個(gè)或更多的問(wèn)題，新版必應(yīng)的模型會(huì)感到困惑。這些較長(zhǎng)的聊天也會(huì)讓必應(yīng)“變得翻來(lái)覆去，或者受到刺激，做出不一定有幫助，或是與設(shè)計(jì)語(yǔ)氣一致的回應(yīng)”。

微軟暗示，盡管文本輸入框旁邊有一個(gè)“新話題”按鈕，可以用于清除聊天的歷史記錄，重新開始，但接下來(lái)還可能增加“一個(gè)工具，幫助用戶更方便地刷新”聊天會(huì)話的上下文。

更大的問(wèn)題在于，在這些提問(wèn)較多的聊天中，必應(yīng)經(jīng)常會(huì)以不正確的語(yǔ)氣回應(yīng)，或是像微軟所說(shuō)的，以“我們不想要的方式”做出回應(yīng)。微軟表示，對(duì)大多數(shù)必應(yīng)用戶來(lái)說(shuō)，只有長(zhǎng)時(shí)間對(duì)話才會(huì)遇到這方面問(wèn)題。不過(guò)，微軟也在探索更多的“微調(diào)控制”，以避免必應(yīng)對(duì)用戶說(shuō)，用戶是錯(cuò)的，以及表現(xiàn)得粗魯或試圖操縱用戶。在一些測(cè)試中可以看到，在關(guān)于必應(yīng)本身的對(duì)話中，只要幾個(gè)問(wèn)題，必應(yīng)就會(huì)以負(fù)面或存在敵意的語(yǔ)氣來(lái)回復(fù)。

微軟仍在努力優(yōu)化必應(yīng)做出回復(fù)的語(yǔ)氣，而必應(yīng)團(tuán)隊(duì)也在考慮提供更多的控制選項(xiàng)，用于設(shè)定人工智能的創(chuàng)造性和精確度。這種控制選項(xiàng)可能有助于避免目前的問(wèn)題，例如必應(yīng)會(huì)聲稱正通過(guò)筆記本攝像頭來(lái)刺探微軟員工，或是出現(xiàn)基礎(chǔ)性的數(shù)學(xué)錯(cuò)誤。

微軟目前正在超過(guò)169個(gè)國(guó)家對(duì)新版必應(yīng)展開測(cè)試，有數(shù)百萬(wàn)人正排隊(duì)注冊(cè)。微軟表示，對(duì)答案的反饋有71%是正面的，一些用戶甚至與新版必應(yīng)進(jìn)行了長(zhǎng)達(dá)兩個(gè)小時(shí)的對(duì)話，以測(cè)試服務(wù)的極限情況。

新版必應(yīng)目前每天都在得到優(yōu)化，一些技術(shù)問(wèn)題在微軟的日常版本發(fā)布中得到修復(fù)，還有一些問(wèn)題則在每周發(fā)布的大版本中得到修復(fù)。微軟正在嘗試優(yōu)化搜索和回答，尤其是圍繞體育賽事比分?jǐn)?shù)據(jù)，以及必應(yīng)最近出現(xiàn)的一些財(cái)務(wù)數(shù)據(jù)錯(cuò)誤。必應(yīng)團(tuán)隊(duì)表示：“對(duì)于那些需要更直接、事實(shí)性更強(qiáng)的答案的問(wèn)題，例如財(cái)報(bào)數(shù)字，我們計(jì)劃將發(fā)給模型的基礎(chǔ)數(shù)據(jù)增加4倍。”

微軟還在觀察對(duì)新功能的反饋，這些功能包括預(yù)訂機(jī)票、發(fā)送電子郵件，以及分享搜索和答案等。目前尚不清楚，這些新功能最終是否會(huì)被加入到產(chǎn)品中，但必應(yīng)團(tuán)隊(duì)表示，正在研究在未來(lái)的版本中包含這些功能。