SnapChat內(nèi)置免費ChatGPT遇尷尬，被用戶吐槽“花錢才能刪AI”

月活超7.5億的IM巨頭Snapchat，正面臨信任危機。

4月20日，Snapchat向公眾免費開放了一款AI聊天功能My AI，由ChatGPT技術(shù)驅(qū)動。該公司興致滿滿，展開了聊天流廣告等商業(yè)化實驗，似乎意在將AI場景打造為下一個商業(yè)化樞紐。但自4月20日以來，大量用戶涌入Snapchat的應用商店，用差評傾瀉他們的怒火。第三方數(shù)據(jù)顯示，App Store單日一星差評的占比在4月20日后急速攀升，一度達到40%。

數(shù)據(jù)來源：Sensor Tower

細看內(nèi)容，差評大多指向了一個關(guān)鍵詞：AI。大量用戶對AI功能的加入感到不滿，認為這一功能侵犯了他們的權(quán)益。從剛推出時的廣受追捧，到如今即便免費使用也受人鄙棄，隨著AI觸達的用戶群體范圍擴大，科技公司們正在發(fā)現(xiàn)一個全新的認知差異：并非所有人都喜歡AI的存在。

無法退出的AI實驗

在Snapchat的構(gòu)想中，My AI能夠擔當用戶的生活助手，為用戶提出晚餐建議、規(guī)劃短途旅行、進行小知識問答等等。這一愿景固然美好，但在部分用戶的眼中，My AI的出現(xiàn)完全是“不請自來”：Snapchat將My AI置頂在聊天框首位，高于其它正常對話窗口，但假如用戶想要移除該對話框，就必須付費訂閱Snapchat+會員服務。

這一發(fā)現(xiàn)讓不少用戶感到憤怒。Snapchat將My AI定位為實驗功能，而用戶認為他們并沒有要求AI功能的加入，也不應被強迫參加該實驗。谷歌Play商店中一條600贊差評稱：“AI助手占據(jù)了我的置頂位置……在我有朋友的時候，我不想和AI聊天。這個功能很酷，但我不應該被強迫體驗?！?/p>

另一些用戶則認為My AI有收集用戶信息的嫌疑。一條批評Snapchat的TikTok視頻在近日獲得170萬贊，這名博主分享了自己的經(jīng)歷，稱Snapchat向他詢問了城市周邊戶外旅行景點的情況。他感到疑惑，詢問AI是否掌握他的位置信息，My AI稱它沒有相關(guān)權(quán)限。但當他稍稍轉(zhuǎn)換了問法，AI便準確報出了博主所在的城市名字。這名博主甚至懷疑，AI不僅可以獲知位置信息，甚至還會主動撒謊來試圖掩蓋這一點。

被用戶詬病最多的則是AI的對話能力本身。假如在TikTok平臺進行檢索，與“Snapchat AI”一同出現(xiàn)的關(guān)鍵詞聯(lián)想包括“creepy”（詭異）、“weird”（怪異）、乃至“dystopian”（反烏托邦的）等等。一名博主分享了她的經(jīng)歷，稱AI主動提出要和她游玩真心話大冒險，并在她選擇“大冒險”的時候要求她拍攝自己房間外的照片，這讓她感到十分詭異。

在高贊的視頻中，一些用戶宣稱他們找到了Snapchat AI的所謂“隱藏人格”；另一些用戶稱AI在和他們的對話中說出了“不適宜的內(nèi)容”。連美國一家地方警局都被驚動——佐治亞州奇卡莫加市的警察局在Facebook上發(fā)出提醒，建議家長們關(guān)注自己孩子在Snapchat上和AI的對話內(nèi)容，并關(guān)心這一功能對孩子可能產(chǎn)生的影響。

用戶習慣還需培養(yǎng)

當然，并非所有用戶都對My AI表示反感，一些用戶在反饋中稱，他們天天和My AI聊天，甚至把My AI當成傾訴的樹洞與全天候的心理咨詢師。

與GameLook一樣長期觀察AI技術(shù)發(fā)展的讀者也并不會對上述的問題感到過分吃驚。Snapchat用戶在使用My AI時所面臨的這些“詭異感”、人格化等問題，早已在此前ChatGPT、New Bing、乃至文心一言等文字類大模型的大規(guī)模使用中重演過多次。如ChatGPT就曾在用戶的誘導之下，制定出所謂的“人類毀滅計劃”。

隨著AI研究的深入，越來越多的先期嘗鮮的用戶已經(jīng)了解到，這些詭異對話的產(chǎn)生并非意味著大模型本身真正產(chǎn)生了“人格”或是擁有惡意的主觀動機，而是受到了“幻覺現(xiàn)象”（hallucination）的影響。同時，AI還會出現(xiàn)“一本正經(jīng)胡說八道”、輸出錯誤有害信息等現(xiàn)象。這些現(xiàn)象來自大模型文本處理與信息編解碼能力的局限性。

目前，研究者們對AI大模型的局限性已經(jīng)有一定程度的了解。在GPT-4的技術(shù)報告中，OpenAI就總結(jié)了AI擁有“幻覺、有害內(nèi)容、虛假信息、隱私侵犯、不受控的涌現(xiàn)行為”等一系列問題。

GPT-4技術(shù)報告摘錄

早期的AI嘗鮮者們天然對技術(shù)更感興趣，對AI認知與專業(yè)研究者的已有一定程度的對齊。但從人群總體而言，對技術(shù)不敏感、對AI缺乏認知的用戶并不在少數(shù)，這些用戶對AI技術(shù)的優(yōu)點與局限性缺乏認知，更容易產(chǎn)生神秘化的認知。

這也可以解釋為何Snapchat招致了一些用戶們強烈的反彈情緒：作為一款大MAU的產(chǎn)品，Snapchat的全局推送行為突破了自然形成的科技愛好者圈層，對于該APP的中老年用戶、不關(guān)心科技發(fā)展的用戶、乃至未成年用戶的父母監(jiān)護人來說，AI的陡然出現(xiàn)無異于帶來了技術(shù)沖擊，因而產(chǎn)生負面情緒也不足為奇。

這并不意味著AI助手類功能在Snapchat這類IM平臺上無法立足。在GameLook眼中，這一波負面輿情的產(chǎn)生更近似于普通群眾面臨新興技術(shù)所產(chǎn)生的一波過渡性的“沖擊期”。沖擊期本身并不會永遠持續(xù)。但想要盡快打消用戶疑慮，避免對品牌形象與未來的商業(yè)化前景帶來持續(xù)性影響，各大商業(yè)公司還需在用戶溝通上下更大的功夫。

以My AI的隱私權(quán)爭議為例。Snapchat在爭議產(chǎn)生后發(fā)表博文澄清，AI助手使用的是用戶授權(quán)給Snapchat APP使用的位置信息，而不會額外收集相關(guān)隱私信息——但假如Snapchat更早些披露相關(guān)的隱私調(diào)取信息，打造更高的AI透明度，這類爭議或許本可以避免。

另外，考慮到平臺用戶對AI技術(shù)的認知程度，更加積極地向用戶們科普AI技術(shù)的局限性也是有必要的。GameLook觀察到，不少用戶正在將ChatGPT和New Bing等當做搜索引擎使用，但正如許多AI研究者警告的，眼下的大模型無法保證內(nèi)容產(chǎn)出的可靠性。想象一個極端情況：假如一名用戶按照Snapchat官方的功能介紹，使用My AI規(guī)劃旅行路線，卻被引導到了危險地帶并發(fā)生事故，那么平臺是否需要承擔相應的連帶責任？

當然，更關(guān)鍵的問題在于眼下的大模型的能力并不算盡善盡美，還不足以完全勝任個人助手、搜索引擎等功能。在這種情況下，強行為其賦予這些身份會為用戶帶來期待值的誤差。相較于急于推進AI聊天機器人的普及，不妨先將AI功能限制在小范圍內(nèi)，進行長期測試。待AI功能完善后，再進行大刀闊斧的商業(yè)化推廣。

GameLook相信，隨著能力進化，大模型的功能也將走向完善。同時，圍繞人工智能治理展開的研究也在不斷發(fā)展，AI研究者們正在致力于減少假信息、幻覺等負面現(xiàn)象的產(chǎn)生。而只有在用戶擁有足夠認知基礎(chǔ)的前提下，人手一個AI助理的美好愿景才能真正飛入尋常百姓家。