Elosztott AI modell-inferencia device–edge–cloud környezetben

Témavezető:	Sidló Csaba
	SZTAKI
email:	sidlo@sztaki.hu

Projekt leírás

A modern autonóm járművek és UxV rendszerek egyre összetettebb, elsősorban képi adatokon működő mesterséges intelligencia modelleket alkalmaznak, miközben a rendelkezésre álló számítási kapacitás és kommunikációs sávszélesség korlátozott. A feladat különböző inferencia (modell kiértékelés)-stratégiák vizsgálata device–edge–cloud környezetben; például

• teljes modellek különböző szinteken történő futtatása, kommunikáció optimalizálása
• modellek rétegek szerinti felosztása
• illetve kisebb modellek alkalmazása az eszközön az adatok előszűrésére vagy tömörítésére.

Cél ilyen stratégiák és módszerek szakirodalmi áttekintése, kiválasztott módszerek implementálása és kísérleti összehasonlítása. A vizsgálat során olyan szempontok modellezhetők és optimalizálhatók, mint az inferencia késleltetése, kommunikációs költsége, számítási igénye, energiafelhasználása és a predikció pontossága, kapcsolódó kutatás-fejlesztési feladat mentén, rendelkezésre álló kísérleti infrastruktúra használatával.

Előfeltételek

• Szükséges nyelvtudás: angol
• Programozási ismeretek: Python

Hivatkozások

• Matsubara, Yoshitomo, Marco Levorato, and Francesco Restuccia. "Split computing and early exiting for deep learning applications: Survey and research challenges." ACM Computing Surveys 55.5 (2022): 1-30.
• Zhang, Xichen, et al. "A survey on deep learning in edge–cloud collaboration: Model partitioning, privacy preservation, and prospects." Knowledge-Based Systems 310 (2025): 112965.