【人工智能】手搓复现GPT-2最初完整版本 | Andrej Karpathy | 8张H100训练24小时 | 成本仅672美元 | llm.c | C/CUDA | AI成本会下降么
最佳拍档
0:00 / 0:00
【人工智能】手搓复现GPT-2最初完整版本 | Andrej Karpathy | 8张H100训练24小时 | 成本仅672美元 | llm.c | C/CUDA | AI成本会下降么
9 641 просмотр · 2 года назад
最佳拍档
249 тыс. подписчиков
9 641 просмотр · 2 года назад
OpenAI的创始成员、前研究科学家安德烈·卡帕西Andrej Karpathy最近又开始整活了,他尝试在 llm.c中重现了GPT-2。这里的GPT-2 是 15.58B 参数的完整版本,现在已经能够在24个小时之内,凭借着八个H100的单节点,成功复刻GPT-2模型,而且总成本仅为672美元。
文章链接:https://github.com/karpathy/llm.c/dis...
视频地址: • Let's reproduce GPT-2 (124M)
#人工智能 #openai #gpt2 #llm #h100 #čuda #pytorch
成为此频道的会员,即可享受提前一天,观看频道最新发布视频的福利:
/ @bestpartners