Edge-KI/AI bedeutet, dass die Algorithmen entweder direkt auf dem Gerät oder auf einem gerätenahen Server ausgeführt werden, erläutert Dr. Andreas Weder, Gruppenleiter Modulintegration am Fraunhofer IPMS. Dazu werden die Daten genutzt, die direkt vom Gerät erfasst werden – und zwar ohne dass eine Verbindung zur Cloud hergestellt werden muss. Nur die Ergebnisse der Verarbeitung werden dann in die Cloud gespeist. Damit können die Geräte innerhalb von Millisekunden mittels KI autark Entscheidungen treffen.
Für Applikationen mit niedrigen Latenzzeiten
Um die Daten verarbeiten zu können, werden sogenannte Maschine-Learning-Modelle verwendet. Ein solches Modell wird auf der Basis von Datensätzen trainiert, um Muster zu erkennen – zunächst am Trainingsdatensatz und später mit echten Daten, beispielsweise von Sensoren. So kann es neue Fakten aus bereits bestehenden Daten ableiten und für einen bestimmten Kontext anwenden, um daraus Vorhersagen abzuleiten.
Anwendungen mit Anforderungen an niedrige Latenzzeiten können von dieser Art der Verarbeitung profitieren, da keine Verzögerungen durch die Übermittlung in die Cloud entstehen. Zudem ist das System auch bei instabilen Internetverbindungen arbeitsfähig und nicht auf die Verarbeitung der Daten in der Cloud angewiesen. Ein großer Vorteil für mobile oder autarke Anwendungen und für Orte mit instabiler Datenverbindung.
Skalierbarkeit und Datensicherheit
Da die Anzahl an IoT-Geräten weltweit enorm steigt und immer mehr Daten in die Cloud gesendet werden, spielt auch die Skalierbarkeit des Systems eine große Rolle. Des Weiteren ist natürlich die Datensicherheit heutzutage von hohem Interesse. Je mehr Daten drahtlos in die Cloud gesendet werden müssen, umso mehr Angriffspunkte liefert ein IoT-System. Die Nutzung eines Edge-Systems erschwert den Angriff von außen, da die Verarbeitung der Daten lokal in einem geschlossenen Netzwerk erfolgt. Mit der Portierung von Tensorflow Lite auf den EMSA5-RISC-V-Prozessor können Anwender können nun einfach Edge-KI-Anwendungen wie Sensordatenanalyse, Gestenerkennung oder Vibrationsanalyse umsetzen.
Prozessorkern mit vielen Möglichkeiten
Der EMSA5-Prozessor-Core des Fraunhofer IPMS kann für beliebige FPGA-Plattformen zur Verfügung gestellt werden. Die Integration in kundenspezifische ASICs für beliebige Foundry Technologien ist ebenso möglich. Entwickler, die den Prozessorkern verwenden, können Open-Source-RISC-V-Entwicklungsumgebungen, Testwerkzeuge und Bibliotheken, einschließlich der GNU-Toolchain und der umfassenden Eclipse-IDE mit OpenOCD-Debug-Unterstützung nutzen. Das Fraunhofer IPMS arbeitet auch mit Drittanbietern zusammen, um die Softwareentwicklung im Kontext der Funktionalen Sicherheit zu ermöglichen.
