Meta发布全新Megabyte模型,解决算力损耗硬伤

533次阅读
没有评论

品玩5月30日讯,据新智元报道, Meta 近日发布了一种全新的模型架构,可以有效减少算力损耗。

据报道,Meta 的这个模型架构被称为 Megabyte,是一种多尺度解码器架构,可以对超过一百万字节的序列进行端到端可微分建模。Megabyte 能跨多种格式生成超过100万个token,并超越GPT-4等模型背后的现有 Transformer架构的功能。

Meta发布全新Megabyte模型,解决算力损耗硬伤

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy