ASUS анонсировала карты-ускорители искусственного интеллекта UGen Intel Arc Pro B70 32Gb
Обеспечение работы эры агентных компьютеров с помощью доступного по цене решения задач искусственного интеллекта с 32 ГБ памяти ECC.
- Ускоритель оснащен 32 ГБ памяти ECC GDDR6 для локального выполнения задач ИИ без снижения производительности при переносе в облако.
- Экономически эффективное локальное развертывание ИИ с энергопотреблением 310 Вт.
- В конфигурации с четырьмя платами объем видеопамяти увеличивается до 128 ГБ, что позволяет использовать ИИ на облачном уровне за гораздо меньшую стоимость.
Компания ASUS анонсировала видеокарту UGen Intel® Arc ™ Pro B70 32GB — экономичное решение, разработанное для быстрорастущего мира локального агентного ИИ. По мере того, как большие языковые модели (LLM) и многоагентные рабочие процессы ИИ распространяются из облака на настольные компьютеры и рабочие станции, ASUS UGen B70 отвечает на самый насущный спрос рынка: большой объем видеопамяти по доступной цене. Сочетание 32 ГБ памяти GDDR6 ECC с архитектурой, оптимизированной для инференции, обеспечивает оптимальный вариант развертывания для локального, частного и экономичного запуска ИИ.
Разработан для развития локального агентного ИИ
Современные задачи искусственного интеллекта могут потреблять много памяти. Рассуждения с использованием длинных контекстов значительно увеличивают использование кэша ключ-значение, а многоагентные развертывания запускают несколько моделей одновременно, многократно увеличивая требования к видеопамяти. Как только видеопамять заканчивается, данные выгружаются в память хоста, и производительность вывода может упасть до 90%. 32 ГБ памяти GDDR6 с защитой ECC этой карты могут быть достаточны для того, чтобы ресурсоемкие модели оставались полностью локальными. Одна карта ASUS UGen B70 поддерживает большинство моделей с количеством параметров менее 27 миллиардов и обеспечивает контекстное окно до 128 000 токенов с Llama 3.1 8B, масштабируясь до 64 ГБ в конфигурациях с двумя картами и до 128 ГБ в конфигурациях с четырьмя картами, чтобы удовлетворить потребности в развертывании ИИ для малых и средних предприятий и крупных компаний
Зрелая программная экосистема
Материнская плата ASUS UGen B70 поддерживается широким и быстро развивающимся стеком программного обеспечения для искусственного интеллекта, включая Intel LLM Scaler и vLLM XPU, llama.cpp (SYCL и Vulkan), Ollama, Intel OpenVINO и oneAPI, PyTorch XPU и ComfyUI для генерации изображений. Проверенные модели охватывают Llama 3.1/3.2 (8–70 бит), Qwen 3.x, DeepSeek-R1 Distill (7–70 бит), Mistral и Mixtral, OpenAI gpt-oss (20 и 120 бит), Whisper-large-v3 и InternVL3.5 — при этом конфигурации с двумя видеокартами доказали свою способность запускать модели класса 80 бит со скоростью 43,4 токена в секунду. Встроенная в LLM Scaler функция онлайн-квантования INT4/FP8 устраняет зависимость от внешних инструментов квантования на основе CUDA, а известные в настоящее время ограничения экосистемы не влияют на коммерческое внедрение в ближайшем будущем.
Разработан для внедрения ИИ в любом масштабе
Материнская плата ASUS UGen B70 ориентирована на три ключевых сегмента пользователей. Для профессиональных пользователей и независимых разработчиков ИИ одна карта на 32 ГБ преодолевает ограничение по ресурсам, которое накладывают стандартные карты на 16 ГБ в более крупных моделях. Для малых предприятий и творческих студий конфигурации с двумя картами по 64 ГБ поддерживают более крупные развертывания, сохраняя при этом конфиденциальные данные внутри компании. Для корпоративных команд, занимающихся разработкой ИИ, системы с несколькими картами по 128 ГБ значительно снижают долгосрочные затраты по сравнению с облачными API, одновременно удовлетворяя требованиям соответствия нормативным требованиям к данным в таких областях, как юриспруденция, медицина, государственное управление и финансы.
На всех уровнях именно эта масштабируемость делает ASUS UGen B70 базовым элементом агентского компьютера — системы, разработанной с нуля для локального запуска агентов искусственного интеллекта.