Edge Computing und Edge KI werden in der Industrie häufig gemeinsam betrachtet. Beide Ansätze bringen Rechenleistung näher an Maschinen, Anlagen und Datenquellen. Die Aufgaben unterscheiden sich jedoch deutlich.
Edge Computing verarbeitet Daten dort, wo sie entstehen. Edge KI ergänzt diese Verarbeitung um die Ausführung von KI Modellen am Edge.
Für Maschinenbauer, Systemintegratoren und produzierende Unternehmen ist diese Unterscheidung wichtig. Datenerfassung, Maschinenkommunikation oder Vorverarbeitung benötigen nicht automatisch einen KI Beschleuniger. Machine Vision, mehrere Kamerastreams oder anspruchsvolle KI Modelle können dagegen deutlich höhere Anforderungen an die Rechnerplattform stellen.
Die entscheidende Frage lautet deshalb nicht Edge Computing oder Edge KI, sondern:
Welche Aufgaben muss das System tatsächlich übernehmen?
Was ist Edge Computing?
Beim Edge Computing werden Daten nahe an ihrer Quelle verarbeitet, beispielsweise direkt an einer Maschine, einer Fertigungszelle oder innerhalb einer Produktionslinie.
- Erfassung von Maschinen und Sensordaten
- Vorverarbeitung und Filterung von Daten
- Kommunikation mit Maschinen und Steuerungen
- Protokollumsetzung
- Datenspeicherung
- Condition Monitoring
- Gateway Funktionen
- Anbindung an übergeordnete Systeme
Statt sämtliche Rohdaten an einen zentralen Server oder in die Cloud zu übertragen, können Daten bereits am Edge verarbeitet und nur die benötigten Informationen weitergegeben werden.
Für viele dieser Aufgaben ist keine spezielle KI Hardware erforderlich. Ein passend ausgelegter Embedded Computer oder Industrie PC kann dafür ausreichen.
Was ist Edge KI?
Bei Edge KI werden trainierte KI Modelle auf einem Rechner nahe an der Datenquelle ausgeführt.
- Machine Vision
- automatische optische Inspektion
- Objekterkennung
- Anomalieerkennung
- Predictive Maintenance
- Robotik
- KI gestützte Prozessüberwachung
Die KI Inferenz erfolgt am Edge. Eine permanente Verbindung zur Cloud ist dafür nicht grundsätzlich erforderlich. Zentrale Server oder Cloud Systeme können weiterhin für Training, Verwaltung oder langfristige Auswertung genutzt werden.
Wie viel Rechenleistung benötigt wird, hängt vom KI Modell, der Datenmenge, der geforderten Reaktionszeit und der Verarbeitungsgeschwindigkeit ab.
Edge Computing und Edge KI im Vergleich
| Kriterium | Edge Computing | Edge KI |
|---|---|---|
| Verarbeitung nahe der Datenquelle | ja | ja |
| KI Modell erforderlich | nein | ja |
| Typische Daten | Maschinen, Sensor und Prozessdaten | Bild, Video, Sensor und Prozessdaten |
| Typische Aufgaben | Datenerfassung, Monitoring, Kommunikation, Gateway Funktionen | Machine Vision, Inspektion, Anomalieerkennung, Predictive Maintenance, Robotik |
| CPU | häufig ausreichend | abhängig vom Workload |
| GPU, NPU oder KI Beschleuniger | meist nicht erforderlich | abhängig vom Workload |
| Permanente Cloud Verbindung | nein | nein |
Edge KI ersetzt Edge Computing nicht. Sie erweitert die Datenverarbeitung am Edge um KI Inferenz.
Benötigt Edge KI immer eine GPU?
Nein.
Kleinere KI Modelle können je nach Anwendung auf einer CPU oder einem Prozessor mit integrierter NPU ausgeführt werden. Dedizierte KI Beschleuniger und Plattformen auf Basis von NVIDIA Jetson bieten weitere Möglichkeiten für kompakte Edge KI Systeme.
Anspruchsvolle Machine Vision Anwendungen, mehrere parallele Kamerastreams oder rechenintensive KI Modelle können dagegen eine leistungsfähigere GPU erfordern.
Die Hardwareauswahl sollte deshalb nicht mit der Frage beginnen:
Welche GPU brauchen wir?
Zuerst müssen Daten, KI Modell, Verarbeitungsgeschwindigkeit und Schnittstellen feststehen. Daraus ergibt sich die erforderliche Rechnerarchitektur.
IPC2U bietet dafür Edge KI Systeme in unterschiedlichen Leistungs und Architekturklassen.
Vier Fragen vor der Auswahl der Hardware
1. Welche Daten werden verarbeitet?
Maschinen und Sensordaten stellen andere Anforderungen an die Hardware als hochauflösende Bilder oder Videostreams.
Für Maschinenkommunikation, Datenerfassung und Vorverarbeitung kann ein Industrie PC ausreichen. Machine Vision und KI Inferenz benötigen abhängig von Modellkomplexität, Datenmenge und Verarbeitungsgeschwindigkeit zusätzliche Rechenleistung.
2. Wie anspruchsvoll ist der KI Workload?
Ein einzelnes Modell zur Anomalieerkennung stellt andere Anforderungen als die parallele Verarbeitung mehrerer Kamerastreams.
- KI Modell
- Datenmenge
- erforderliche Inferenzgeschwindigkeit
- Anzahl parallel ausgeführter Workloads
Erst daraus lässt sich ableiten, ob die CPU ausreicht oder zusätzliche KI Beschleunigung benötigt wird.
3. Welche Geräte müssen angebunden werden?
Bei Machine Vision und Edge KI ist die Rechenleistung nur ein Teil der Systemauslegung. Kamera und Sensordaten müssen auch mit der erforderlichen Geschwindigkeit zum Rechner gelangen.
- Anzahl der Kameras
- Auflösung und Bildrate
- Ethernet Schnittstellen
- USB Schnittstellen
- weitere Sensoren
- Kommunikation mit Maschinen und Steuerungen
Eine leistungsfähige GPU hilft nicht, wenn die erforderlichen Schnittstellen fehlen.
4. Muss das System später erweitert werden?
Für eine klar definierte Aufgabe kann eine kompakte Plattform mit integrierter Rechenleistung ausreichend sein.
Sollen später zusätzliche Kameras, Netzwerkschnittstellen, Storage oder weitere Beschleuniger hinzukommen, werden Erweiterungsmöglichkeiten wichtiger. PCIe Ressourcen, verfügbarer Bauraum, Stromversorgung und Kühlung sollten deshalb bereits bei der Systemauswahl berücksichtigt werden.
Welche Plattform passt zu welcher Aufgabe?
| Anwendung | Mögliche Rechnerplattform |
|---|---|
| Maschinenkommunikation und Gateway | Embedded Computer oder Industrie PC |
| Datenerfassung und Monitoring | Embedded Computer oder Industrie PC |
| KI Inferenz mit geringem Rechenbedarf | CPU, NPU oder KI Beschleuniger |
| Kompakte Edge KI Anwendung | NVIDIA Jetson oder vergleichbare KI Plattform |
| Industrielle Machine Vision | Jetson System oder Industrie PC mit GPU |
| Hohe GPU Leistung bei kompakter Bauform | Industrie PC mit MXM GPU |
| Mehrere Kameras und anspruchsvolle KI Modelle | leistungsfähiger Industrie PC mit GPU |
| Hoher Erweiterungsbedarf | modularer Industrie PC |
Die Tabelle dient als erste Orientierung. Rechenleistung, Schnittstellen, Bauform, Erweiterbarkeit und Einsatzbedingungen müssen gemeinsam betrachtet werden.
Erfordert Edge KI immer einen neuen Industrie PC?
Nicht unbedingt.
Je nach vorhandenem System kann zusätzliche KI Rechenleistung nachgerüstet werden. Sind geeignete M.2 oder PCIe Schnittstellen vorhanden, können beispielsweise ein KI Beschleuniger oder eine GPU infrage kommen.
Ein freier Steckplatz allein reicht jedoch nicht aus. Stromversorgung, Kühlung, CPU Leistung, verfügbarer Bauraum und die erforderliche Inferenzleistung müssen ebenfalls berücksichtigt werden.
Je nach bestehender Hardware kann eine Erweiterung technisch und wirtschaftlich sinnvoll sein. Bei höheren Anforderungen ist eine neue Rechnerplattform häufig die bessere Grundlage.
Drei Rechnerarchitekturen für unterschiedliche Anforderungen
Edge KI Hardware reicht von kompakten Embedded Plattformen bis zu erweiterbaren Industrie PCs. Drei unterschiedliche Konzepte zeigen die Bandbreite.
Kompakte Edge KI mit NVIDIA Jetson
Wenn KI Inferenz bei begrenztem Bauraum ausgeführt werden soll, bieten NVIDIA Jetson Plattformen CPU und GPU Ressourcen in einer kompakten Architektur.
IPC2U bietet in dieser Systemklasse verschiedene Edge KI Computer mit NVIDIA Jetson für unterschiedliche Leistungsanforderungen. Je nach Plattform stehen Ethernet, USB, Kamera und weitere industrielle Schnittstellen zur Verfügung.
Diese Architektur eignet sich besonders, wenn kompakte Abmessungen und integrierte KI Beschleunigung wichtiger sind als umfangreiche PCIe Erweiterungsmöglichkeiten.
Kompaktes x86 Edge KI System mit MXM GPU
Andere Anwendungen benötigen eine x86 Plattform mit dedizierter NVIDIA GPU Leistung, gleichzeitig steht jedoch nur begrenzter Bauraum zur Verfügung.
IPC2U bietet dafür Edge KI Computer mit MXM GPU mit unterschiedlichen CPU und GPU Konfigurationen sowie Schnittstellen für Maschinen, Kameras und weitere Peripherie.
MXM ermöglicht dedizierte GPU Leistung bei kompakter Bauform, ohne eine klassische PCIe Grafikkarte einsetzen zu müssen.
Erweiterbarer Industrie PC für GPU und PCIe Karten
Werden neben der Rechenleistung zusätzliche Netzwerk, I/O oder Beschleunigerkarten benötigt, ist eine erweiterbare Industrie PC Plattform sinnvoll.
Für höhere GPU Leistung und umfangreichere Erweiterungsmöglichkeiten stehen bei IPC2U auch Edge KI Computer mit GPU zur Verfügung.
Entscheidend ist hier nicht allein die GPU Leistung, sondern das Zusammenspiel aus CPU, Erweiterungsmöglichkeiten, Schnittstellen, Storage, Stromversorgung und Kühlung.
Welche Angaben werden für die Hardwareauswahl benötigt?
Für eine erste Systemauswahl reichen meist einige technische Eckdaten:
- zu verarbeitende Daten und Workloads
- KI Modell, falls bereits definiert
- Anzahl der Kameras und Sensoren
- benötigte Schnittstellen
- erforderliche Verarbeitung oder Inferenzleistung
- Bauraum und Einsatzbedingungen
- geplanter Erweiterungsbedarf
Anhand dieser Angaben lässt sich beurteilen, ob ein Industrie PC ausreicht oder eine Plattform mit NPU, NVIDIA Jetson, MXM GPU oder leistungsfähiger diskreter GPU erforderlich ist.
Welche Hardware passt zur Anwendung?
Senden Sie uns Ihre technischen Anforderungen. Wir helfen Ihnen bei der Auswahl der passenden Rechnerplattform für Ihre Anwendung.
