MIC-743-AT KI-Inferenzsystem

Das KI-Inferenzsystem MIC-743-AT von Advantech ist mit dem NVIDIA^® Jetson T5000™ ausgestattet und bietet bis zu 2070 TFLOPS (FP4). Dieses System umfasst eine 14-Core Arm^® Neoverse V3AE 64-Bit SMP CPU-Architektur, einen 128 GB LPDDR5X-Speicher und eine vorinstallierte SSD mit 1 TB. Das KI-Inferenzsystem MIC-743-AT hat 2560 NVIDIA^® CUDA^®-Cores und 96 Tensor-Cores der 5. Generation mit einer maximalen Taktfrequenz von 1,57 GHz. Dieses System unterstützt HDMI, USB 3.2 Gen 2, M.2 AEkey (Wi-Fi^®) und M.2 Bkey (LTE). Das KI-Inferenzsystem MIC-743-AT wird mit vorinstalliertem NVIDIA Jetpack™ 7.0 geliefert und unterstützt mehrere Anwendungsfälle für große KI-Modelle in generativen KI-Applikationen. Dieses System bewältigt anspruchsvolle KI-Workloads, darunter Large Language Models (LLMs), Vision-Language Models (VLMs) und Videoanalysen am Edge.