Depth Estimation AI Inferencing Comparison Of Jetson Xavier NX And Coral Dev Board - Khachatryan, T. B.; Davtyan, D. F. («Պոլիտեխնիկ» տպ.)
AI inferencing, especially the real time processing of neural networks may require excessive calculation power in terms of speed and memory, thus opening a big area for research and design of new devices intended for AI acceleration. Examples of such devices are Nvidia’s Jetson series, Google’s Coral. Also, there are FPGA solutions such as Xilinx’s AI applicable FPGA. Depending on application requirements it could be difficult to choose between these devices, as in most cases, speed and accuracy are the most important factors, while there are also applications which require low power and low cost. Thus, investigation and comparison of these inferencing devices in terms of speed, memory, power and cost for the chosen field of subject may be useful for choosing the right device for the given task. We have done such an analysis for the depth estimation task using Jetson Xavier NX and Coral Dev Board as inferencing devices. Արհեստական բանականության (ԱԲ) տրամաբանական եզրակացությունը, մասնավորապես՝ նեյրոնային ցանցերի իրական ժամանակում մշակումը, կարող են պահանջել չափազանց մեծ հաշվարկային հզորություններ, այդպիսով բացելով մեծ դաշտ ԱԲ արագացման համար նախատեսված նոր սարքերի հետազոտման և նախագծման համար։ Այդպիսի սարքերի օրինակներ են Nvidia-ի Jetson շարքը, Google-ի Coral-ը։ Կան նաև FPGA լուծումներ, ինչպիսին է Xilinx-ի ԱԲ կիրառելի FPGA-ը։ Կախված հավելվածի պահանջներից՝ կարող է դժվար լինել ընտրության կատարումը այս սարքերի միջև, քանի որ հիմնականում ամենակարևոր գործոնները արագությունն ու ճշգրտությունն են, մինչդեռ կան նաև հավելվածներ, որոնք պահանջում են ցածր հզորություն և գին։ Այս եզրակացության սարքերի հետազոտումն ու համեմատումը, ընտրված ոլորտի համար արագության, հիշողության, ծախսած հզորության և գնի տեսանկյունից, կարող են օգտակար լինել տրված խնդրի համար ճիշտ սարք ընտրելու գործում։ Կատարվել է այսպիսի վերլուծություն պատկերի խորության գնահատման խնդրի համար՝ որպես եզրակացության սարքեր օգտագործելով։ Логический вывод искусственного интеллекта (ИИ), в частности - обработка нейронных сетей в реальном времени, требует чрезмерно больших вычислительных мощностей, тем самым открывая большую область для исследования и проектирования новых устройств ускорения ИИ. Примерами таких устройств являются Nvidia Jetson, Google Coral. Имеются также решения FPGA, такие как FPGA Xilinx, для применения ИИ. В зависимости от требований приложения, выбор этих устройств может быть трудным, так как самыми главными факторами в основном являются скорость и точность, но имеются приложения, которые требуют низких мощностей и цен. Таким образом, исследование и сравнение этих устройств применения, с точки зрения скорости, памяти, потраченной мощности и цены для выбранной сферы, позволят выбрать правильное устройство для поставленной задачи. Проведен анализ для задачи оценки глубины изображения, используя в качестве устройств применения Jetson Xavier NX и Coral Dev Board.
Keywords: Computer science; Informatics