Intel® FPGA AI Suite

Dowiedz się, w jaki sposób Intel® FPGA AI Suite może dodać FPGA AI do wbudowanych systemów i centrów przetwarzania danych.

"Łatwość użytkowania Intel® FPGA AI Suite i Dystrybucja Intel® zestawu narzędzi OpenVINO™ umożliwiły firmie Stryker* opracowanie zoptymalizowanego Intel® FPGA IP do wnioskowania głębokiego uczenia. Ip wnioskowania zostało pomyślnie zintegrowane z Intel® FPGA przy użyciu oprogramowania Intel® Quartus® Prime. Przykładowe projekty z pakietem umożliwiły zespołowi szybką ocenę różnych algorytmów pod kątem różnych źródeł obrazu. Intel® FPGA AI Suite a Intel® Distribution zestawu narzędzi OpenVINO umożliwiają badaczom danych i inżynierom FPGA bezproblemową współpracę nad opracowaniem zoptymalizowanego wnioskowania głębokiego uczenia do zastosowań medycznych".

— Zespół inżynieryjny Stryker

Przegląd

Intel® FPGAs umożliwić wnioskowanie głębokiego uczenia w czasie rzeczywistym, małe opóźnienia i niskiej mocy w połączeniu z następującymi zaletami:

  • Elastyczność we/wy
  • Rekonfiguracja
  • Łatwa integracja na niestandardowych platformach
  • Długi okres życia

Intel FPGA AI Suite został opracowany w oparciu o wizję łatwego wykorzystania wnioskowania sztucznej inteligencji (AI) na FPGAs Firmy Intel. Pakiet ten umożliwia projektantom FPGA, inżynierom uczenia maszynowego i programistom efektywne tworzenie zoptymalizowanych FPGA platform AI.

Narzędzia w Intel FPGA AI Suite przyspieszają FPGA opracowywanie wnioskowania AI przy użyciu znanych i popularnych struktur branżowych, takich jak TensorFlow* lub PyTorch* i zestaw narzędzi OpenVINO, jednocześnie wykorzystując solidne i sprawdzone przepływy programistyczne FPGA z oprogramowaniem Intel Quartus Prime.

Przepływ narzędzia Intel FPGA AI Suite współpracuje z zestawem narzędzi OpenVINO— projektem open source mającym na celu optymalizację wnioskowania w różnych architekturach sprzętowych. Zestaw narzędzi OpenVINO obejmuje modele głębokiego uczenia ze wszystkich głównych frameworków głębokiego uczenia (takich jak TensorFlow, PyTorch, Keras*) i optymalizuje je pod kątem wnioskowania w różnych architekturach sprzętowych, w tym różnych procesorach, cpu+GPU i FPGAs.

Dowiedz się, w jaki sposób Intel FPGA AI Suite może dodać FPGA AI do wbudowanych systemów i centrów przetwarzania danych.

Skontaktuj się z działem sprzedaży firmy Intel, aby uzyskać ceny i dostępność ›

Najważniejsze funkcje

Wysoka wydajność

Intel® Agilex™ FPGAs z serii M mogą osiągnąć maksymalną teoretyczną wydajność 38 INT8 TOPS lub 3679 Resnet-50 klatek na sekundę przy 90% FPGA wykorzystania.

Łatwa integracja systemu

Obsługa integracji z niestandardowym IP, takim jak ADC/DAC, wideo i Ethernet, umożliwia osiągnięcie najmniejszej przestrzeni i najniższego opóźnienia.

Niski całkowity koszt posiadania

Zminimalizuj całkowite koszt utrzymania dzięki wysoce skalowalnemu, konfigurowalneowi i precyzyjnie szczegółowej inferencji SI w szerokiej gamie wydajności i rozmiarach partii.

Proste i standardowe przepływy

Twórz i dodaj IP wnioskowania AI do obecnych lub nowych projektów FPGA za pomocą oprogramowania Intel Quartus prime lub projektanta platform.

Obsługa AI z przodu

Skorzystaj z ulubionych rozwiązań AI z przodu, takich jak TensorFlow, Caffe, Pytorch, MXNet, Keras i ONNX.

Optymalizacja OpenVINO

zestaw OpenVINO Toolkit optymalizuje wydajność i moc przy jednoczesnym zminimalizowaniu śladu logicznego i pamięci.

Pokaż więcej Pokaż mniej

FPGA przepływ rozwoju wnioskowania AI

Przepływ rozwoju wnioskowania AI pokazano na Rys. 1. Przepływ płynnie łączy przepływ pracy w zakresie sprzętu i oprogramowania w ogólnej, kompleksowej organizacji zadań związanych z AI. Czynności są następujące:

1. Optymalizator modelu w zestawie narzędzi OpenVINO tworzy pliki sieciowe pośredniej reprezentacji (.xml) oraz wagi i pliki uprzedzeń (.bin).

2. Intel FPGA AI Suite kompilator służy do:

  • Podaj szacowany obszar lub wskaźniki wydajności dla danego pliku architektury lub stworzyć plik zoptymalizowanej architektury. (Architektura odnosi się do parametrów IP wnioskowania, takich jak rozmiar macierzy PE, precyzje, funkcje aktywacji, szerokość interfejsu, rozmiary okien itp.)
  • Kompiluj pliki sieciowe do pliku .bin z partycjami sieciowymi w celu FPGA i procesora (lub obu tych plików) wraz z ciężarkami i uprzedzeniami.

3. Skompilowany plik .bin jest importowany przez aplikację wnioskowania użytkownika w czasie wykonywania.

  • Interfejsy programowania aplikacji uruchomieniowych (API) obejmują API aparatu wnioskowania (procesor partycji uruchomieniowej i FPGA, wnioskowanie harmonogramu) oraz FPGA SI (pamięć DDR, FPGA bloki sprzętowe).
  • Projekty referencyjne pokazują podstawowe operacje importowania .bin i uruchamiania wnioskowania na FPGA z obsługującymi procesory hosta (procesory x86 i Arm*).

Rys. 1: przepływ Intel FPGA AI Suite programistyczny

Notatki:

Obsługiwane urządzenia: Intel® Agilex™ FPGA, Intel® Cyclone® 10 GX FPGA, Intel® Arria® 10 FPGA

Przetestowane sieci i funkcje aktywacji1:

  • ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET
  • ReLU, 2D Conv, BatchNorm, TronicWise Mult, w pełni podłączony, zacisk, pReLU, SoftMax

Architektury na poziomie systemu

Intel FPGA AI Suite jest elastyczna i konfigurowalna dla różnych przypadków użytkowania na poziomie systemu. Typowe sposoby włączenia FPGA IP pakietu AI do systemu podano na rys. 2. Przypadki użycia obejmują różne branże, od zoptymalizowanych platform wbudowanych, począwszy od aplikacji z hostowymi procesorami (Intel® Core™ procesorami, procesorami Arm) po środowiska centrów danych z procesorami Intel® Xeon®, a także aplikacje bez hostów (lub procesory programowe, takie jak procesory Nios® V).

Rys. 2: Typowe topologie systemów Intel FPGA AI Suite

Odciążenie procesora

Akcelerator SI

Wielozadaniowe odciążenie procesora

Akcelerator SI + dodatkowa funkcja sprzętowa

Pożądanie / przetwarzanie wbudowane + AI

Akcelerator AI + bezpośrednie przetwarzanie i streamowanie danych

Wbudowany układ SoC FPGA + SI

Akcelerator AI + bezpośrednie przetwarzanie i przesyłanie danych + funkcja sprzętowa +

Procesory wbudowane arm lub Nios® II lub Nios V

Pokaż więcej Pokaż mniej

Filmy

Przegląd Intel FPGA AI Suite

Obejrzyj ten film, aby zapoznać się z procesem projektowania Intel FPGA AI Suite.

Film prezentujący instalację Intel® FPGA AI Suite

Instalacja Intel FPGA AI Suite jest łatwa. Obejrzyj ten film, aby uzyskać prezentację instalacji.

Film prezentujący kompilację Intel® FPGA AI Suite

Obejrzyj krótką prezentację Intel FPGA AI Suite kompilowania wstępnie przeszkolonego modelu RESNET-50 i wyników wnioskowania wyjściowego.

Intel FPGA AI Suite jest już dostępna w zakresie cen i oceny


Projekty referencyjne ze wstępnie zbudowanymi przykładami FPGA dostępnymi do wstępnej oceny na płycie programistycznej Terasic DE10-Agilex Development Board i zestawie programistycznym Intel Arria 10 SoC oraz do dalszego rozwoju niestandardowych projektów systemowych.

Skontaktuj się z działem sprzedaży firmy Intel

Informacje o produktach i wydajności

1Skontaktuj się z działem sprzedaży firmy Intel, aby uzyskać więcej informacji na temat sieci i funkcji nie wymienionych na liście

Materiały zawarte na tej stronie są tłumaczeniem z języka angielskiego, wykonanym częściowo przez człowieka, a częściowo automatycznie. Materiały te są udostępnione dla Twojej wygody i należy je traktować jedynie jako ogólne źródło informacji. Nie ma jednak gwarancji, że są one kompletne bądź poprawne. Jeśli istnieje jakakolwiek rozbieżność między wersją angielską tej strony a jej tłumaczeniem, wersja angielska jest wersją obowiązującą i ma rozstrzygające znaczenie. Wyświetl anglojęzyczną wersję tej strony.