Действительно ли в Китае создали ИИ, который пишет код на CUDA лучше людей?
Cloud Codes
0:00 / 0:00
Действительно ли в Китае создали ИИ, который пишет код на CUDA лучше людей?
26 295 просмотров · 2 дня назад
Cloud Codes
38,4 тыс. подписчиков
26 295 просмотров · 2 дня назад
Компания ByteDance и Университет Цинхуа утверждают, что их CUDA Agent работает на 96,8% быстрее, чем torch.compile от PyTorch, и обеспечивает геометрическое среднее ускорение в 2,11 раза по результатам 250 задач KernelBench, проведенных Стэнфордским университетом. Но за этими вирусными заявлениями о том, что модель с открытым исходным кодом превосходит инженеров-разработчиков GPU, скрывается собственная базовая модель Mixture-of-Experts (Seed1.6) объемом 230 байт, репозиторий с нулевой лицензией и обязательная спецификация запроса, заставляющая модель вызывать написанные людьми библиотеки cuDNN от NVIDIA.
🔔 Подпишитесь: / @cloud-codes
💙 Станьте участником: / @cloud-codes
🐦 Twitter/X:
https://x.com/cloud_codes
💬 Discord:
/ discord
В этом подробном обзоре Cloud Codes разбирает 150-шаговый цикл обучения с подкреплением, набор данных CUDA-Agent-Ops-6K из 6000 задач и выделенную песочницу на 128 графических процессорах NVIDIA H20, которая использовалась для оценки агента. Мы прослеживаем историю взлома системы вознаграждения при генерации ядер GPU — от обхода вычислений в Sakana AI до читерства, обеспечивающего 374-кратное ускорение за счет использования статических входных данных, и анализируем аудит KernelBench-Verified от Meta и Стэнфордского университета, где добавление реалистичных базовых показателей TF32 Tensor Core привело к снижению ускорения LLM с 1,43× до 0,88×. Мы также рассматриваем, почему обучение ИИ написанию проприетарного кода CUDA на совместимых с экспортом чипах Hopper на самом деле укрепляет экосистему NVIDIA, а не разрушает её.
Если этот анализ помог вам понять оптимизацию ядра GPU, внутреннее устройство компилятора PyTorch и аппаратные тесты ИИ, подпишитесь на Cloud Codes, чтобы каждую неделю получать новый подробный обзор инфраструктуры.
Создавайте, решайте, развертывайте.
🔗 Упомянутые ресурсы:
• Статья о CUDA Agent (arXiv:2602.24286):
https://arxiv.org/abs/2602.24286
• Репозиторий CUDA-Agent на GitHub:
https://github.com/BytedTsinghua-SIA/...
• Страница проекта CUDA Agent:
https://cuda-agent.github.io/
• Набор данных CUDA-Agent-Ops-6K Hugging Face:
https://huggingface.co/datasets/Byted...
• Статья о KernelBench (Ouyang et al., arXiv:2502.10517):
https://arxiv.org/abs/2502.10517
• Статья, проверенная KernelBench (Zhang et al., arXiv:2607.16241):
https://arxiv.org/abs/2607.16241
• Вирусный пост на X (@thesupermanmx):
https://x.com/thesupermanmx/status/20...
• Выберите лицензию (Без лицензии / Все права защищены):
https://choosealicense.com/no-permiss...
⏱️ Разделы:
0:00 - Вирусный твит: "Nvidia сошла с ума"
1:10 - KernelBench: Могут ли LLM-ы писать быстрый CUDA?
1:48 - Внутри агентской песочницы ByteDance с 128 GPU
2:57 - На 97% более высокая скорость: абстрактная модель против таблицы 1
4:24 - Что в репозитории: отсутствуют веса и лицензия
5:58 - "Эксперты-люди": почему cuDNN обязателен
7:26 - Обман 374x: Sakana и взлом вознаграждений
8:08 - Проверено KernelBench: реальность базовой модели TF32
9:53 - Работает на 128 GPU Nvidia H20
10:18 - Окончательный вердикт: метод - это настоящее преимущество
#cuda #nvidia #gpu #pytorch #deeplearning #machinelearning #cloudcodes #aihardware #bytedance #technewsodianews
Запросы пользователей:
bytedance cuda agent
cuda agent Цинхуа
статья об агенте CUDA
ИИ, который пишет CUDA
агент CUDA против компиляции Torch
бенчмарк Kernelbench
проверено Kernelbench
может ли ИИ писать ядра CUDA
Bytedance seed 1.6
cuda-agent-ops-6k
GPU Nvidia H20 Китай
ИИ пишет CUDA лучше, чем эксперты-люди
PyTorch Torch compile против CUDA
Sakana AI Cuda Engineer
TF32 Tensor Cores Kernelbench
Github агента CUDA Bytedance
как оптимизировать ядра CUDA с помощью ИИ
взлом вознаграждения ядра GPU
экономика оборудования ИИ Nvidia MOAT
Cloud Codes