财新传媒
公司 > 要闻 > 正文

GPT革命|Meta推4050亿参数开源模型 扎克伯格称开源AI是未来

文|财新 刘沛林
2024年07月24日 14:55
此次推出的Llama 3.1将长文本能力提升至128K,并首次全面对标GPT-4
资料图:Meta的CEO扎克伯格。图:视觉中国

  【财新网】开源模型和闭源模型的竞赛还在持续。美国当地时间7月23日,Facebook母公司Meta(NASDAQ:META)宣布推出Llama 3.1开源模型,包含4050亿、700亿、80亿三个参数版本。Meta称,此前开源大模型能力落后于闭源模型,随着此次4050亿参数版本开源模型的发布,开源模型将成为领导者。

  今年4月,Meta刚发布了开源大模型Llama 3系列,包含80亿、700亿参数的两个版本,其中700亿参数的版本能力对标GPT-3.5,其长文本能力仅为支持8K上下文窗口,远落后于128K左右的行业平均水平,Meta当时称将在接下来数月推出更强长文本能力、多种尺寸的模型(详见财新网报道《GPT革命|Meta发布新一代开源模型 模型开闭源之争持续》)。

  推荐进入财新数据库,可随时查阅公司股价走势、结构人员变化等投资信息。

责任编辑:覃敏 | 版面编辑:刘春辉
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅