英伟达发布大模型ChipNeMo，设计半导体，加速AI设计芯片

代码生成器将帮助设计师为芯片设计编写软件。

开发中的代码生成器（上面演示）已经用芯片设计师使用的两种专业语言创建了大约10-20行软件片段。它将与现有工具集成，因此工程师为正在进行的设计提供方便的助手。

使用NVIDIA NeMo定制AI模型

本文主要侧重于团队收集其设计数据的工作，并使用它来创建一个专门的生成人工智能模型，这是一个可移植到任何行业的流程。

作为起点，该团队选择了基础模型，并使用NVIDIA NeMo对其进行定制，NVIDIA NeMo是一个用于构建、定制和部署NVIDIA AI企业软件平台中包含的生成性人工智能模型的框架。选定的NeMo模型具有430亿个参数，这是其理解模式能力的衡量标准。它使用超过一万亿个代币、文本和软件中的单词和符号进行了训练。

ChipNeMo提供了一个示例，说明一个深度技术团队如何用自己的数据完善预训练模型。

然后，该团队在两轮培训中完善了该模型，第一轮使用了价值约240亿代币的内部设计数据，第二轮使用了约13万个对话和设计示例。

这项工作是半导体行业生成人工智能概念研究和证明的几个例子之一，刚刚开始从实验室出来。

分享经验教训

Ren团队学到的最重要的教训之一是定制大模型的价值。

在芯片设计任务中，具有不到130亿参数的定制ChipNeMo模型匹配或超过具有700亿参数的更大的通用LLM（如LM2）的性能。在一些用例中，ChipNeMo模型要好得多。

他补充说，一路走来，用户需要注意他们收集哪些数据以及如何清理这些数据以用于训练。

最后，Ren建议用户及时了解可以加快和简化工作的最新工具。

NVIDIA Research在全球拥有数百名科学家和工程师，专注于人工智能、计算机图形学、计算机视觉、自动驾驶汽车和机器人等主题。最近半导体的其他项目包括使用人工智能设计更小、更快的电路，并优化大块的放置。

希望构建自己的自定义大模型的企业今天就可以开始使用GitHub和NVIDIA NGC目录中提供的NeMo框架。