一年半前，我們就在準(zhǔn)備發(fā)動(dòng)一場(chǎng)搜索革命——通過(guò)應(yīng)用深度學(xué)習(xí)模型，讓搜索更加現(xiàn)代化、直觀化，以顯著提高用戶(hù)體驗(yàn)。彼時(shí)，愿景還遠(yuǎn)未得到實(shí)現(xiàn)。

最近發(fā)布的新版Bing朝著這一愿景邁出了一大步。在預(yù)覽版發(fā)布的幾周時(shí)間里，我們收到了很多問(wèn)題。因此我們想分享一些關(guān)于新版Bing及其產(chǎn)生背后的更多故事。

01 幕后故事：新Bing是如何誕生的

去年夏天，OpenAI與我們分享了他們的下一代GPT模型，這是一場(chǎng)改變游戲規(guī)則的變革。新模型比驅(qū)動(dòng)ChatGPT的GPT-3.5更加強(qiáng)大，并且在合成、總結(jié)、聊天和創(chuàng)作方面更加出色。

這個(gè)新模型啟發(fā)了我們探索如何將GPT的能力集成到Bing搜索產(chǎn)品中，以便為任何查詢(xún)（包括長(zhǎng)、復(fù)雜、自然的查詢(xún)）提供更準(zhǔn)確、更完整的搜索結(jié)果。

02 技術(shù)創(chuàng)新：Prometheus

新的GPT模型代表了大型語(yǔ)言模型（LLM）的突破。但與其他LLM一樣，它是通過(guò)一定時(shí)間內(nèi)的數(shù)據(jù)訓(xùn)練而構(gòu)建的。因此，我們認(rèn)為通過(guò)將其與Bing后端的強(qiáng)大功能結(jié)合起來(lái)，可以使用戶(hù)體驗(yàn)更加豐富，使搜索更具相關(guān)性和準(zhǔn)確性。

更具體地說(shuō)，我們開(kāi)發(fā)了一項(xiàng)我們稱(chēng)之為Prometheus的專(zhuān)有技術(shù)。它是一種首創(chuàng)的AI模型，將全面而新鮮的Bing索引、排名和答案結(jié)果與OpenAI最先進(jìn)的GPT模型的創(chuàng)造性推理能力相結(jié)合。

Prometheus利用Bing和GPT的強(qiáng)大功能，通過(guò)Bing Orchestrator組件迭代生成一組內(nèi)部查詢(xún)，旨在于給定的對(duì)話上下文中為用戶(hù)查詢(xún)提供準(zhǔn)確而豐富的答案，并全部在毫秒內(nèi)完成。我們將這個(gè)由Prometheus生成的答案稱(chēng)為Chat答案。

選擇相關(guān)的內(nèi)部查詢(xún)，并利用相應(yīng)的Bing搜索結(jié)果是Prometheus的關(guān)鍵組成部分。因?yàn)樗鼮槟Ｐ吞峁┝讼嚓P(guān)和新鮮的信息，使其能夠回答最近的問(wèn)題并減少不準(zhǔn)確性，這種方法稱(chēng)為基礎(chǔ)。換句話說(shuō)，模型在Bing提供的數(shù)據(jù)上進(jìn)行推理，因此通過(guò)Bing Orchestrator基礎(chǔ)于Bing數(shù)據(jù)。

下圖說(shuō)明了Prometheus在高層次上的工作原理：

最后一步，Prometheus將相關(guān)的Bing搜索答案（如天氣、股票、體育、新聞等）附加到Chat答案，為用戶(hù)提供更豐富、更引人入勝的用戶(hù)體驗(yàn)，進(jìn)一步利用Bing的強(qiáng)大功能。

結(jié)合Bing grounding技術(shù)，Prometheus還能夠?qū)⒁谜系紺hat答案的句子中，以便用戶(hù)可以輕松點(diǎn)擊訪問(wèn)這些來(lái)源，并驗(yàn)證信息。將流量發(fā)送到來(lái)源對(duì)于構(gòu)建健康的Web生態(tài)系統(tǒng)至關(guān)重要，這也是Bing的核心目標(biāo)之一。

03 下一步：確保為所有人提供有益的

包容性體驗(yàn)

盡管grounding是一項(xiàng)卓越的創(chuàng)新，但它是一項(xiàng)新技術(shù)，我們需要考慮如何負(fù)責(zé)任地應(yīng)用它，包括進(jìn)一步減少不準(zhǔn)確性、防止冒犯和有害內(nèi)容。這就是為什么新Bing預(yù)覽版的一個(gè)關(guān)鍵目標(biāo)是收集用戶(hù)反饋，以幫助我們進(jìn)一步改進(jìn)Prometheus。

我們已經(jīng)收到了寶貴的用戶(hù)反饋，且在之前幾周的時(shí)間里，我們從真實(shí)用戶(hù)那里學(xué)到的東西比在實(shí)驗(yàn)室里幾個(gè)月學(xué)到的都多。我們正在根據(jù)反饋積極采取行動(dòng)。例如，我們計(jì)劃將發(fā)送給模型的grounding數(shù)據(jù)增加4倍，以提高Chat答案的準(zhǔn)確性；我們還考慮添加一個(gè)切換按鈕，讓用戶(hù)能夠根據(jù)自己的任務(wù)和目標(biāo)優(yōu)化他們的體驗(yàn)。

另一個(gè)重要的反饋是，非常長(zhǎng)的聊天會(huì)使底層的聊天模型感到困惑，導(dǎo)致Chat答案不太準(zhǔn)確，或者以用戶(hù)預(yù)料不到的語(yǔ)氣回答。這就是為什么我們最近在聊天體驗(yàn)中引入了上限。我們正在根據(jù)用戶(hù)反饋情況，改進(jìn)模型的grounding和語(yǔ)氣，從而逐步擴(kuò)大這些限制。

04 產(chǎn)品創(chuàng)新：合并搜索和聊天

Prometheus是一項(xiàng)非常卓越和開(kāi)創(chuàng)性的基于人工智能的創(chuàng)新，但從用戶(hù)體驗(yàn)的角度來(lái)看，如何將其能力整合到Bing中仍然不是很清晰。我們的團(tuán)隊(duì)有兩種主要的觀點(diǎn)：

一些人認(rèn)為，搜索是一種根深蒂固的習(xí)慣，我們需要保持現(xiàn)有的Web搜索用戶(hù)體驗(yàn)，只是在主要的用戶(hù)體驗(yàn)上添加Prometheus-powered的Chat answer。就像其它答案一樣，Chat answer將根據(jù)查詢(xún)結(jié)果的相關(guān)性贏得搜索頁(yè)面上的展示位置。

其他人則認(rèn)為，這是一個(gè)改變搜索范式，從經(jīng)典的Web和答案結(jié)果轉(zhuǎn)向新的互動(dòng)式、基于聊天的搜索方式的機(jī)會(huì)。

這兩種觀點(diǎn)都部分正確，但也缺乏完整的考量。主張經(jīng)典搜索的團(tuán)隊(duì)通常使用導(dǎo)航查詢(xún)來(lái)支持他們的觀點(diǎn)，而推動(dòng)對(duì)話式方法的團(tuán)隊(duì)則會(huì)提出類(lèi)似購(gòu)物或旅行這樣的研究性搜索會(huì)話。

下圖可以說(shuō)明這一觀察結(jié)果：

這時(shí)，很明顯有些查詢(xún)會(huì)在傳統(tǒng)的「搜索」模式下表現(xiàn)更好，而其它一些查詢(xún)則在「對(duì)話」或「聊天」模式下表現(xiàn)更佳。此外，一些用戶(hù)可能會(huì)根據(jù)不同的查詢(xún)而選擇不同的模式。因此，理想的Bing搜索產(chǎn)品需要根據(jù)用戶(hù)的意圖和偏好，在「搜索」和「聊天」模式之間平滑切換。

我們的設(shè)計(jì)團(tuán)隊(duì)接受了這一挑戰(zhàn)，并經(jīng)過(guò)多次迭代，開(kāi)發(fā)出了一個(gè)新的UX，將搜索和聊天統(tǒng)一在一個(gè)界面中。用戶(hù)可以通過(guò)單擊頁(yè)面上的UX元素，或者簡(jiǎn)單地上下滾動(dòng)或向下滑動(dòng)，來(lái)輕松地在兩種模式之間切換。

05 以人為本的創(chuàng)新

Prometheus的力量和新的Search-Chat交互模型與其它創(chuàng)新結(jié)合在一起，幫助微軟創(chuàng)造了新的Bing搜索，將搜索帶入了創(chuàng)新的新階段。

新的Bing用戶(hù)將獲得更完整和上下文相關(guān)的答案，在某些情況下可能會(huì)為他們節(jié)省數(shù)小時(shí)的搜索時(shí)間，這意味著他們有更多的時(shí)間用于專(zhuān)注真正重要的事情。我們希望在此過(guò)程中，用戶(hù)也能發(fā)現(xiàn)搜索的交互性和樂(lè)趣。

微軟新一代開(kāi)源大語(yǔ)言模型應(yīng)用開(kāi)發(fā)框架將為企業(yè)應(yīng)用「GPT化」釋放無(wú)限的想象空間。行動(dòng)起來(lái)吧，如需進(jìn)一步了解如何將此框架在企業(yè)內(nèi)部落地，請(qǐng)聯(lián)系您的微軟客戶(hù)經(jīng)理，申請(qǐng)GPT App Innovation In A Day Workshop，由專(zhuān)家為您提供進(jìn)一步的指導(dǎo)。