微软提供了有关Prometheus的一些详细信息,Prometheus是它创建的专有AI模型,用于将类似ChatGPT的功能集成到Bing搜索中。
微软已经表示,新的Bing比ChatGPT背后的OpenAI的GPT-3.5AI模型“强大得多”。然而,公开实验很快表明聊天机器人功能容易出现意外爆发,这促使微软将每次会话的“聊天轮数”限制为5次,以防止其变得混乱。
现在,微软搜索和AI的CVPJordiRibas分享了一些关于Prometheus的细节——微软的专有模型将Bing与OpenAI的GPT模型结合起来以在Bing中生成更多相关结果——以及它如何构建新的Bing。
Ribas的解释是在用户发现微软在2021年底与印度用户一起测试悉尼(BingChat的内部代号)时做出的。那里的用户在2022年11月报告称,悉尼“粗鲁”的方式几乎与用户发现它的方式完全相同待微软发布新的必应之后。
根据Ribas的说法,OpenAI于2022年夏季与微软分享了其“改变游戏规则”的后GPT-3.5模型。微软总裁布拉德史密斯表示,“去年夏初”在他关于微软“负责任的人工智能”的博客文章中展示了OpenAI技术。
OpenAI在11月向世界开放了ChatGPT,而据报道,微软在12月就向OpenAI投资100亿美元进行了谈判,并在1月下旬证实了这一点。然后它于2月7日发布了新的Bing,这是在Google淘汰其ChatGPT竞争对手Bard的第二天。
“看到这个新模型启发我们探索如何将GPT功能集成到Bing搜索产品中,以便我们可以为任何查询(包括长、复杂、自然的查询)提供更准确和完整的搜索结果,”Ribas解释道。
正如Ribas指出的那样,像GPT-3.5这样的大型语言模型是根据给定时间点的数据进行训练的。以ChatGPT为例,它的训练数据在2021年的某个时候停止了。为了让用户体验“更丰富、更相关和更准确”,微软决定通过Prometheus将其与Bing的后端结合起来。
根据Ribas的说法,Prometheus将Bing索引、排名和答案结果与Bing用于提供聊天答案的GPT版本相结合。
“Prometheus利用Bing和GPT的强大功能,通过一个名为BingOrchestrator的组件迭代地生成一组内部查询,旨在为给定对话上下文中的用户查询提供准确而丰富的答案。所有这些都在几毫秒内完成。我们将此Prometheus生成的答案称为聊天答案,”Ribas解释道。
Ribas补充说,Bing搜索结果基于用户搜索查询和聊天,将新鲜信息提供给Prometheus,以帮助它回答最近的问题并减少错误。这个过程被称为“接地”——谷歌在为智能机器人开发大型语言模型时使用的一种技术。在Bing的案例中,GPT语言模型以Bing数据为基础,这就是Bing将引用添加到BingChat响应的方式。
“虽然接地是一项了不起的创新,但它是一项新技术,我们需要考虑如何负责任地应用它,包括进一步减少不准确和防止冒犯性和有害内容。这就是为什么新Bing预览版的一个关键目标是收集用户反馈有助于我们进一步改进Prometheus,”Ribas解释道。
为了提高聊天回答的准确性,微软计划将发送给模型的基础数据增加四倍。
Ribas还表示,Bing团队在如何将聊天集成到熟悉的搜索查询和响应用户界面中存在分歧。一方希望聊天答案看起来像搜索结果,答案与查询相关。其他人想要一种新的“基于聊天的交互式搜索方式”。
最后,微软将搜索和聊天结合在一个单一的界面中,允许用户通过点击页面的一个元素或上下滚动来在搜索和聊天模式之间切换。