Перейти к содержимому

Почему ИИ заставляет нас вернуться к языку C (и пытается его уничтожить)

Under the Lid

0:00 / 0:00

Почему ИИ заставляет нас вернуться к языку C (и пытается его уничтожить)

8 686 просмотров · 17 ч назад
Under the Lid
72 подписчика
8 686 просмотров · 17 ч назад
Почему ИИ заставляет программистов возвращаться к C? Python — это язык ИИ, но самый быстрый код ИИ работает на C, C++ и CUDA. Мы прослеживаем код от Python до чипа: почему Python медленный и что он делает «под капотом», как C появился в Bell Labs, почему перемещение данных обходится дороже, чем математические вычисления, как FlashAttention ускорил ИИ с помощью одного написанного вручную ядра для GPU, как llama.cpp запускал LLaMA на MacBook, как llm.c обучал GPT-2 примерно за 20 долларов, и почему DeepSeek перешел с CUDA на PTX. А затем неожиданный поворот: тот же ИИ используется для перевода C на Rust. СМОТРЕТЬ ДАЛЕЕ Как на самом деле работает ЦП (ему приходится угадывать будущее)    • How a CPU Really Works (It Has to Guess th...   Внутри чипа ИИ: каждое слово осушает водонапорную башню    • Inside an AI Chip: Every Word Drains a Wat...   Как учится ИИ? (Сначала всё идёт не так)    • How Does AI Learn? (It Gets Everything Wro...   РАЗДЕЛЫ 00:00 llama.cpp: взломан за один вечер 00:48 Python против C: официант и кухня 01:58 История C: пятьдесят лет в машинном отделе 02:58 Почему скорость важна: каждый процент стоит миллионы 04:00 llama.cpp: ноутбук, который не должен работать 05:17 llm.c: тысяча строк кода на C 06:10 CUDA и PTX: под полом 07:19 Безопасность памяти: язык, от которого все хотят избавиться 08:36 Возвращаемся к машине ИСТОЧНИКИ Энергоэффективность в языках программирования (Pereira et al., SLE 2017) FlashAttention (Dao et al., NeurIPS 2022) llama.cpp и ggml (Георги Герганов, 2023) llm.c и «Воспроизведение GPT-2 (124 МБ) в llm.c» (Андрей Карпати, 2024) Технический отчет DeepSeek-V3 (2024) Индекс TIOBE, октябрь 2026 г. Возвращение к базовым компонентам (Управление по информационным технологиям Белого дома, февраль 2024 г.) Объявление о программе DARPA TRACTOR (июль 2024 г.) ПРИМЕЧАНИЯ Анимации являются иллюстрациями; логотипы продуктов или языков не используются. Показатель «примерно в 70 раз медленнее» взят из одного исследования 2017 года, метод которого обсуждался. TIOBE измеряет результаты веб-поиска, а не строки кода. Данные о стоимости обучения являются опубликованными оценками. Цель Microsoft 2030 была описана автором как исследовательский проект. Информация по состоянию на 31 октября 2026 г. Оригинальная анимация, музыка и звуковое сопровождение от Under the Lid. #Программирование #ИскусственныйИнтеллект #ПрограммированиеНаCмашине