Claude за три дня преодолел 20-летний барьер CUDA от NVIDIA? Anthropic заставил Mythos самостоятельно портировать базовый код GPU

Движение Beating AI сообщает, что Claude Mythos Preview всего за 3 дня позволил модели Claude успешно выполнять ключевые вычисления на GPU AMD. Большинство необходимых ядер GPU было портировано или написано самим Claude, с минимальным вмешательством человека. Ранее подключение новых чипов обычно требовало десятков инженеров и занимало от 6 до 12 месяцев.

Одним из самых трудно заменяемых преимуществ является CUDA.

CUDA — это платформа вычислений на GPU, представленная в 2006 году. К 2018 году такие основные фреймворки глубокого обучения, как PyTorch и TensorFlow, широко использовали CUDA и сопутствующие вычислительные библиотеки. Также были постепенно улучшены инструменты для многокартной связи, отладки и оптимизации производительности. Разработчики могут эффективно использовать GPU, не переписывая с нуля множество низкоуровневых программ.

С увеличением числа программ для обучения и вывода ИИ, разработанных вокруг CUDA, накопилось множество готового кода и инструментов. Выбор разработчиков часто обусловлен тем, что программное обеспечение уже адаптировано. Даже если AMD создает мощные GPU, клиентам, желающим перейти, придется столкнуться с проблемами миграции кода, тестирования совместимости и оптимизации производительности.

MI355X от AMD оснащен 288 ГБ высокоскоростной видеопамяти, его аппаратные характеристики не слабые. Проблема в том, что написанные для GPU ядра могут не работать сразу после перехода на AMD, даже если они запустятся, производительность может быть не идеальной. Инженерам придется адаптировать код в соответствии с архитектурой чипов AMD, многократно тестируя вычислительные результаты и скорость выполнения.

AMD уже выпустила инструменты ROCm и HIPIFY, чтобы помочь разработчикам мигрировать программы CUDA. Кроссплатформенные инструменты программирования, такие как Triton, также снижают сложность миграции, но сложные низкоуровневые вычисления все еще требуют значительной ручной оптимизации.

На этот раз Mythos взял на себя часть работы, самостоятельно портируя или переписывая ядра GPU. Согласно графикам на презентации, он достиг приемлемой производительности обработки подсказок модели Claude на AMD MI355X за 3 дня.

На самом деле, компания давно работает над снижением зависимости от одного производителя чипов. В проспекте IPO сообщается, что компания потратила годы на создание системы распределения вычислительных мощностей, охватывающей GPU, AMD GPU, Google TPU и Amazon Trainium, чтобы выбирать различные чипы в зависимости от цены и производительности.

В июле этого года также было достигнуто сотрудничество с AMD, планируя развертывание нового поколения GPU AMD с середины 2027 года, с максимальным масштабом до 2 ГВт. Обе стороны также будут использовать Claude для ускорения разработки ROCm и оптимизации производительности GPU, обещая в будущем инвестировать до 5 миллиардов долларов.

Инвестор Марсело П. Лима считает, что барьер CUDA уже исчез. Однако аналитик Бен Пуледиан высказал другое мнение: запуск части вычислений модели на AMD — это не то же самое, что обеспечить стабильную, экономически выгодную и конкурентоспособную производительность всей системы при масштабном развертывании.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.