科技魔方

X AI 发布Grok-1.5更新:性能显著提升 支持128K上下文长度

更多场景

2024年03月29日

  昨天,X AI 发布了其最新的大型语言模型更新——Grok-1.5。该版本在编码和与数学相关的任务中表现出了显著的性能提升。

  据详细介绍,Grok-1.5在 MATH 基准测试中获得了50.6%的分数,在 GSM8K 基准测试中获得了90%的分数,这标志着其在解决复杂问题和处理大数据方面的能力得到了大幅提升。

image.png

  此外,Grok-1.5的一个重大更新是其能够处理长达128K个标记的上下文。这一新功能使得Grok的内存容量增加了先前上下文长度的16倍,使其能够利用来自更长文档的信息,为处理更复杂的任务提供了可能。

  Grok-1.5是基于 JAX、Rust 和 Kubernetes 的自定义分布式训练框架构建的。这一框架为先进的大型语言模型(LLMs)研究提供了强大而灵活的基础设施,使得Grok-1.5在处理大规模数据和执行复杂计算时更为高效。

  Elon Musk昨天也透露,普通的Premium用户也将很快可以使用Gork。并且,未来几天内,还将发布几个基于Gork的新功能,这无疑会进一步提升用户体验。

  Grok-1.5的更新无疑将推动大型语言模型的发展,为用户带来更为丰富和高效的使用体验。我们期待看到这些新功能在未来几天的发布,以及它们将如何改变我们对大型语言模型的认知和使用。

+1

来源:站长之家

延展资讯