昨天,百川智能宣布开放基于搜索增强的Baichuan2-Turbo系列API(应用程序编程接口),在支持192K超长上下文窗口的基础上还增加了搜索增强知识库的能力。
尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性差、专业领域知识不足等阻碍大模型应用的核心问题。
王小川介绍,一方面,搜索增强技术能有效提升模型性能,并且使大模型能“外挂硬盘”,实现既能获得互联网实时信息,又能接入企业完整知识库;另一方面,搜索增强技术还能让大模型精准理解用户意图,在互联网和专业知识库海量的文档中找到与使用者意图最相关的知识,然后将足够多的知识加载到上下文窗口,借助长窗口模型对搜索结果做进一步的总结和提炼,帮助模型生成最优结果,从而实现各技术模块之间的联动,形成一个更为强大的能力网络。