Перейти к содержимому

Действительно ли в Китае создали ИИ, который пишет код на CUDA лучше людей?

Cloud Codes

0:00 / 0:00

Действительно ли в Китае создали ИИ, который пишет код на CUDA лучше людей?

26 295 просмотров · 2 дня назад
Cloud Codes
38,4 тыс. подписчиков
26 295 просмотров · 2 дня назад
Компания ByteDance и Университет Цинхуа утверждают, что их CUDA Agent работает на 96,8% быстрее, чем torch.compile от PyTorch, и обеспечивает геометрическое среднее ускорение в 2,11 раза по результатам 250 задач KernelBench, проведенных Стэнфордским университетом. Но за этими вирусными заявлениями о том, что модель с открытым исходным кодом превосходит инженеров-разработчиков GPU, скрывается собственная базовая модель Mixture-of-Experts (Seed1.6) объемом 230 байт, репозиторий с нулевой лицензией и обязательная спецификация запроса, заставляющая модель вызывать написанные людьми библиотеки cuDNN от NVIDIA. 🔔 Подпишитесь:    / @cloud-codes   💙 Станьте участником:    / @cloud-codes   🐦 Twitter/X: https://x.com/cloud_codes 💬 Discord:   / discord   В этом подробном обзоре Cloud Codes разбирает 150-шаговый цикл обучения с подкреплением, набор данных CUDA-Agent-Ops-6K из 6000 задач и выделенную песочницу на 128 графических процессорах NVIDIA H20, которая использовалась для оценки агента. Мы прослеживаем историю взлома системы вознаграждения при генерации ядер GPU — от обхода вычислений в Sakana AI до читерства, обеспечивающего 374-кратное ускорение за счет использования статических входных данных, и анализируем аудит KernelBench-Verified от Meta и Стэнфордского университета, где добавление реалистичных базовых показателей TF32 Tensor Core привело к снижению ускорения LLM с 1,43× до 0,88×. Мы также рассматриваем, почему обучение ИИ написанию проприетарного кода CUDA на совместимых с экспортом чипах Hopper на самом деле укрепляет экосистему NVIDIA, а не разрушает её. Если этот анализ помог вам понять оптимизацию ядра GPU, внутреннее устройство компилятора PyTorch и аппаратные тесты ИИ, подпишитесь на Cloud Codes, чтобы каждую неделю получать новый подробный обзор инфраструктуры. Создавайте, решайте, развертывайте. 🔗 Упомянутые ресурсы: • Статья о CUDA Agent (arXiv:2602.24286): https://arxiv.org/abs/2602.24286 • Репозиторий CUDA-Agent на GitHub: https://github.com/BytedTsinghua-SIA/... • Страница проекта CUDA Agent: https://cuda-agent.github.io/ • Набор данных CUDA-Agent-Ops-6K Hugging Face: https://huggingface.co/datasets/Byted... • Статья о KernelBench (Ouyang et al., arXiv:2502.10517): https://arxiv.org/abs/2502.10517 • Статья, проверенная KernelBench (Zhang et al., arXiv:2607.16241): https://arxiv.org/abs/2607.16241 • Вирусный пост на X (@thesupermanmx): https://x.com/thesupermanmx/status/20... • Выберите лицензию (Без лицензии / Все права защищены): https://choosealicense.com/no-permiss... ⏱️ Разделы: 0:00 - Вирусный твит: "Nvidia сошла с ума" 1:10 - KernelBench: Могут ли LLM-ы писать быстрый CUDA? 1:48 - Внутри агентской песочницы ByteDance с 128 GPU 2:57 - На 97% более высокая скорость: абстрактная модель против таблицы 1 4:24 - Что в репозитории: отсутствуют веса и лицензия 5:58 - "Эксперты-люди": почему cuDNN обязателен 7:26 - Обман 374x: Sakana и взлом вознаграждений 8:08 - Проверено KernelBench: реальность базовой модели TF32 9:53 - Работает на 128 GPU Nvidia H20 10:18 - Окончательный вердикт: метод - это настоящее преимущество #cuda #nvidia #gpu #pytorch #deeplearning #machinelearning #cloudcodes #aihardware #bytedance #technewsodianews Запросы пользователей: bytedance cuda agent cuda agent Цинхуа статья об агенте CUDA ИИ, который пишет CUDA агент CUDA против компиляции Torch бенчмарк Kernelbench проверено Kernelbench может ли ИИ писать ядра CUDA Bytedance seed 1.6 cuda-agent-ops-6k GPU Nvidia H20 Китай ИИ пишет CUDA лучше, чем эксперты-люди PyTorch Torch compile против CUDA Sakana AI Cuda Engineer TF32 Tensor Cores Kernelbench Github агента CUDA Bytedance как оптимизировать ядра CUDA с помощью ИИ взлом вознаграждения ядра GPU экономика оборудования ИИ Nvidia MOAT Cloud Codes