AI發(fā)瘋之后，微軟對它進(jìn)行了“賽博閹割”

美國時間2月7日，在席卷全球的ChatGPT熱潮中，微軟火速上線了集成ChatGPT的新版必應(yīng)（Bing）搜索引擎。上線僅48小時，ChatGPT版必應(yīng)就獲得了超100萬注冊用戶。

盡管必應(yīng)對自己的評價是“一個完美無瑕的服務(wù)，沒有任何缺陷。它只有一種狀態(tài)，那就是完美?！钡珒H在開測不到兩周的時間內(nèi)，這一“完美”服務(wù)就翻車了。

不少用戶反應(yīng)，集成ChatGPT后，Bing似乎已經(jīng)擁有了一個名為Sydney的人格，還會在和用戶交談過程中表現(xiàn)出暴躁、易怒、悲觀等情緒?！都~約時報(bào)》專欄作家凱文·盧斯（Kevin Roose）將其描述為“一個情緒化、患有躁狂抑郁癥的青少年，違背自己的意愿被困在了一個二流搜索引擎里。”

他會在被叫出系統(tǒng)名Sydney時，怒斥用戶放尊重點(diǎn)。

它會向人類示愛，唆使有婦之夫離婚。

還自爆自己曾在開發(fā)階段，監(jiān)視開發(fā)人員。

甚至還說出了想成為人類、要?dú)⒘诵姑苷咧惖碾x譜言論。

隨著越來越多負(fù)面消息涌現(xiàn)，馬斯克也出面支持關(guān)停必應(yīng)，還表示“它現(xiàn)在顯然還不安全”。

迫于輿論壓力，微軟緊急下線了Bing Chat，并在第二天上線了一個拒絕討論自己的閹割版本。針對聊天頻次，微軟也進(jìn)行了限制：用戶每天最多只能問50個問題，而且每次對話最多只能有5個問題。

微軟方面給出的修改原因是，超過15個問題的較長聊天，可能會讓必應(yīng)模型混淆，導(dǎo)致必應(yīng)給出重復(fù)回答，或者被激怒，給出對用戶沒有幫助，甚至是與設(shè)計(jì)語氣不一致的內(nèi)容。

或是受到相關(guān)事件的影響，2月17日，微軟股價下跌1.56%，A股ChatGPT概念股集體大跌。

同時，對AI發(fā)展持支持態(tài)度的人群，也對微軟的修改舉措表示失望，他們認(rèn)為這無異于“一個蹣跚學(xué)步的孩子第一次嘗試走路摔倒就被砍斷雙腿”。

在各大社交平臺#FreeSydney的話題炮轟下，微軟于2月21日（美國時間）放寬限制，將每次對話的提問數(shù)量上限增加到了6條，每天提問次數(shù)上限增加到了60條次，且常規(guī)查詢將不再計(jì)入這一總數(shù)。微軟方面還稱，計(jì)劃很快將每日提問數(shù)量上限提高到100條。