科技魔方

英伟达发布ChatQA模型 性能达到GPT-4级别

更多动态

2024年01月19日

  1月19日 消息:英伟达推出了ChatQA模型,据悉其性能可以对飚GPT-4,使用两阶段指令调整和改进的上下文检索等高效的训练方法。

  ChatQA是一组对话式问答 (QA) 模型,可以获得GPT-4级别的精度。具体来说,开发团队提出了一种两阶段指令调优方法,可以显着改善大型语言模型(LLM)的零样本对话QA结果。

  为了处理对话式 QA 中的检索,在多轮 QA 数据集上微调了密集检索器,这提供了与使用最先进的查询重写模型相当的结果,同时大大降低了部署成本。值得注意的是,ChatQA-70B 在10个对话式 QA 数据集(54.14对53.90)上的平均得分方面优于 GPT-4,而无需依赖来自 OpenAI GPT 模型的任何合成数据。

+1

来源:站长之家

延展资讯