высокопроизводительная плата AI-ускорителя, построенная на передовой технологии «вычисления в памяти» (PIM). Она объединяет два чипа MOMAGIC M50 на одном компактном форм-факторе

Процессор 漫界 M50 (CIM Architecture) Chip: HOUMO 漫界 M50 (CIM / Compute-in-Memory architecture)

Производительность: до 320 TOPS (INT8) и 200 TFLOPS (bFP16).

Интерфейс: PCIe Gen4 ×8, форм-фактор M.2 M-Key (46 × 80 мм).

HOUMO SDK

  • aaryOPA
    link
    fedilink
    Русский
    arrow-up
    1
    ·
    edit-2
    17 days ago

    48GB LPDDR5 can run up to 27B dense models at INT4. MoE models like 35B-A3B (17.5GB total weights) fit comfortably.

    M.2 2280 form factor allows easy integration into mini PCs, laptops, and edge devices.
    обычно продается как ускоритель LQ50-24 Модуль оснащен 24 ГБ памяти LPDDR5X и обеспечивает высокую энергоэффективность

    HOUMO also offers LQ50 Duo (2x M50, 320 TOPS) for 14B/32B models, and LM5070 (4x M50, 640 TOPS) for larger deployments.

    https://llmdev.guide/device.html?file=houmo-lq50-48gb.md

    Houmo Manjie M50

    Houmo LQ50 — это компактный AI-акселератор на базе M.2 модуля от компании Houmo Intelligence, работающий на энергоэффективном чипе Manjie M50 с архитектурой совмещенных вычислений и памяти (Compute-in-Memory)