Универсальный ускоритель для высокоплотных вычислений LinQ HPS

LinQ HPS – это высокопроизводительный укоритель для инференса сложных нейронных сетей (CNN, Transformer и т. д.) в реальном времени. Он обеспечивает низкую задержку при обработке малых батчей, обладает пиковой производительностью до 960 TOPS (int8) и интегрируется в стандартные 19-дюймовые стойки. Ускоритель основан на оригинальной архитектуре LinQ H, не использует сторонние IP-ядра и поддерживает прямую интеграцию с экосистемой TensorFlow 2.x и PyTorch (через ONNX). Использование внутреннего компилятора LinQ Compiler с элементами ИИ обеспечивает глубокую оптимизацию вычислительных графов, что позволяет свести задержку инференса к минимуму.