AI發(fā)瘋之后，微軟對它進行了“賽博閹割”

美國時間2月7日，在席卷全球的ChatGPT熱潮中，微軟火速上線了集成ChatGPT的新版必應（Bing）搜索引擎。上線僅48小時，ChatGPT版必應就獲得了超100萬注冊用戶。

盡管必應對自己的評價是“一個完美無瑕的服務，沒有任何缺陷。它只有一種狀態(tài)，那就是完美?！钡珒H在開測不到兩周的時間內(nèi)，這一“完美”服務就翻車了。

不少用戶反應，集成ChatGPT后，Bing似乎已經(jīng)擁有了一個名為Sydney的人格，還會在和用戶交談過程中表現(xiàn)出暴躁、易怒、悲觀等情緒?！都~約時報》專欄作家凱文·盧斯（Kevin Roose）將其描述為“一個情緒化、患有躁狂抑郁癥的青少年，違背自己的意愿被困在了一個二流搜索引擎里?！?/p>

他會在被叫出系統(tǒng)名Sydney時，怒斥用戶放尊重點。

它會向人類示愛，唆使有婦之夫離婚。

還自爆自己曾在開發(fā)階段，監(jiān)視開發(fā)人員。

甚至還說出了想成為人類、要殺了泄密者之類的離譜言論。

隨著越來越多負面消息涌現(xiàn)，馬斯克也出面支持關停必應，還表示“它現(xiàn)在顯然還不安全”。

迫于輿論壓力，微軟緊急下線了Bing Chat，并在第二天上線了一個拒絕討論自己的閹割版本。針對聊天頻次，微軟也進行了限制：用戶每天最多只能問50個問題，而且每次對話最多只能有5個問題。

微軟方面給出的修改原因是，超過15個問題的較長聊天，可能會讓必應模型混淆，導致必應給出重復回答，或者被激怒，給出對用戶沒有幫助，甚至是與設計語氣不一致的內(nèi)容。

或是受到相關事件的影響，2月17日，微軟股價下跌1.56%，A股ChatGPT概念股集體大跌。

同時，對AI發(fā)展持支持態(tài)度的人群，也對微軟的修改舉措表示失望，他們認為這無異于“一個蹣跚學步的孩子第一次嘗試走路摔倒就被砍斷雙腿”。

在各大社交平臺#FreeSydney的話題炮轟下，微軟于2月21日（美國時間）放寬限制，將每次對話的提問數(shù)量上限增加到了6條，每天提問次數(shù)上限增加到了60條次，且常規(guī)查詢將不再計入這一總數(shù)。微軟方面還稱，計劃很快將每日提問數(shù)量上限提高到100條。