IT Home, 12 февруари — На 11 февруари Zhipu официално пусна своя голям модел от ново поколение GLM-5. Moore Threads завърши пълната адаптация и валидиране на процеса в деня на стартиране (Ден-0) за своя водещ GPU за обучение и изводи за AI, MTT S5000, базиран на рамката за изводи SGLang.
Възползвайки се от широкото операторско покритие и силната екосистемна съвместимост на своята архитектура MUSA, Moore Threads напълно активира тръбопровода за изводи от край до край за модела. Той отключи собственото FP8 ускорение на MTT S5000, поддържайки точността на модела, като същевременно значително намалява използването на видео памет, осигурявайки високопроизводителни изводи за GLM‑5.
Като най-нов крайъгълен камък в серията GLM, GLM‑5 е позициониран като модел за кодиране от най-високо ниво, с цялостна производителност, подобрена с 20% спрямо предишното поколение. Неговият ключов пробив се крие във възможностите за агентно инженерство: той не само превъзхожда генерирането на код, но също така се справя със сложно системно инженерство и дългосрочни агентски задачи, позволявайки цялостно развитие от изисквания до приложение.
MTT S5000 е пълнофункционален AI изчислителен графичен процесор, предназначен за обучение на големи модели, изводи и високопроизводителни изчисления, изграден върху архитектурата MUSA „Pinghu“ от 4-то поколение. Той осигурява до 1000 TFLOPS AI изчислителна мощност на карта, с 80 GB памет, 1,6 TB/s честотна лента на паметта и 784 GB/s честотна лента между картите, напълно поддържаща пълно прецизно изчисление от FP8 до FP64.
Източник: IT home
Source link
Like this:
Like Loading…
Източник https://bccci.net/bg/feed/