|
|
EDA365欢迎您登录!
您需要 登录 才可以下载或查看,没有帐号?注册
x
本帖最后由 Heaven_1 于 2022-1-26 11:16 编辑
" t7 H& W/ F# N0 g9 Y7 h7 `& J" K
% j1 h0 x' G# S% ~机器学习的本质是让计算机能够更有效率的模仿人类的行为,特别在图像分类、图像识别、语音识别等领域,机器学习能够在分秒之间,集中处理数以百万计的计算。过去在合理的成本下,这样的处理能力是无法想象的,直到最近几年才能够实现。这主要是因为,如若这些处理不在边缘实现,就要放到云端来进行。数据要被上传到云端,这样的话,我们就会担心谁会看到这些数据。我们相信云端服务期的运营商和负责人吗?显然答案是否定的,因此在本地进行边缘计算,用户隐私就能够更好的被保护,响应速度也会更快,可靠性也会更强,因为即便服务器断电,本地设备依然可以稳定工作,甚至设备可以在没有网络的偏远地区正常工作。* f9 C) \2 L& p: [9 W" g; y% v5 N- c
+ Z# z/ i7 P- y; R+ ^8 O: S( Q
, u1 a3 F9 ?7 M
8 ]9 ]/ W; a& p& G1 p- L8 `- \8 w2 x$ d" _0 c! S
& ~7 D& U# W8 x! C9 M9 [0 D
: f. j- {! N: a/ U; b4 [, W0 i+ Q3 V3 ~
% G5 [' n/ G; k c![]() [backcolor=rgba(18, 18, 18, 0.5)]
3 M/ |0 E7 @; U0 ?
: y) j: B) x* W( J 1 v( e% A6 P3 {: A! s% w
; I* d* e! O% k; w* c8 w
编辑切换为居中
9 b7 w- r3 s l5 f# y1 c/ I& {" M8 ]: m2 d8 L& f! m
0 `2 J' a3 O+ l3 ^2 H) D* Y' ?/ n. k8 U, {9 e& a
" K& R( W2 `# K5 ?. F
添加图片注释,不超过 140 字(可选)5 r8 ^( \- H$ f Q! ~
; ]8 P u. [$ E1 j* B7 Q: ~$ \( X r5 z$ X
; F( v0 T0 ?! p, U4 P4 u
0 |* E0 Z9 U! ]( I
' _* Z1 p3 b" W( {: ~$ \& ^
+ R3 x: W$ h* {3 b% J; yi.MX8M Plus 应用处理器
. I G4 p' B. X( Z( |3 V" L5 ^$ B+ l3 C, d9 M; ^3 t
& X' f9 v- p* m6 x, B1 }
* U- o( r& n0 ]! o9 t+ ^
通过i.MX8M Plus ,NXP将机器学习带到了边缘设备中,这款产品不仅仅是达到了2万亿次每秒这样的强大计算能力。只是做到这样的计算性能并不困难,但NXP所实现的是带来了模型压缩的优化以及针对稀疏性的优化,稀疏指的是机器学习算法参数或者数据中有大量权重为0,进而能够避免在推理时支付这些模型系数的存储费用,计算效率将会大大增加。模型压缩同样也很重要,鉴于计算过程中存在大量的数据交换,如果足够压缩,那么对于系统内存的占用就会降到最低。另外同样牵涉到系统内存的一点是i.MX8M Plus 搭载 DRAM 控制器能够进行每秒4G 处理,是 NXP有史以来 DRAM 速度之最。
+ N" y1 n# `& z5 w3 S( |" ~# `7 d
1 l. N* a/ C' t1 [; C" y8 h' f $ r) ?4 l% x. K! g7 E7 L% k
, R2 R4 W5 M T! t
i.MX8M Plus 与机器学习、机器视觉
1 \( w d. \( Z7 s' C3 Q) J" `1 e( y7 v! e
* D9 t5 ^0 J8 _! [8 W3 s) w/ D
8 V2 g* S" v; E7 Z7 O机器学习是基于图像数据的,数据的来源通常是一个系统中的摄像头模块,而摄像头模块需要一个图像处理单元,也就是ISP。谈到 i.MX8M Plus 的ISP 单元,在很多系统中,摄像头可能距离目标非常远,为了得到你需要的细节,其分辨率必须足够高,比如4K分辨率,也就是800万像素。
5 `7 N+ t) ?! w I
& x8 U9 E/ N' Z2 a! x4 @5 K/ y
5 ~* L; N d1 B1 z( K4 d) r5 [& K- b2 W' V
: T |$ D. y) F$ t8 v7 d, L
5 |+ ~. r, b: R. b9 c
8 H# F( {+ {/ Q% c% E# k8 D5 @6 O% P
![]() [backcolor=rgba(18, 18, 18, 0.5)]
" H; S1 u# }% C* g2 Z; F) |8 O* l1 P' `/ F5 C V' F
- [6 S: Q& Y% h/ l
+ q6 @ @* |: K; t: n0 t2 k& m' \
编辑切换为居中, V, i, k8 T3 w: _5 o( q
; e3 X7 |! ?0 S1 c
# k; v6 y8 H$ ~) z6 o' h3 J$ V7 A0 r) Z/ `
/ T2 S" ?5 T& W/ t, S& {
添加图片注释,不超过 140 字(可选)
. G0 f: F9 R% H
; q8 D N' Y' ]) u* i; a1 @1 T
6 J0 a! G* y; ^; u- F, b5 L. ~' J- w# v9 Y& e
/ q: [- Y* z* q3 N1 U2 _- B0 g9 ^5 a
3 S$ k9 J& `5 o0 R3 F
8 C, W+ r. J6 H4 y处理如此高清的影像数据,就需要ISP 的协助。可能对于低分辨率的视频,ISP 并非必需,在很多系统中,用户可能并没有意识到,摄像模块是否集成ISP。但在高分辨率下,就需要 ISP 被集成在处理器中,就像i.MX8M Plus 这样。有趣的是,NXP i.MX8MPlus 中实际上集成了两个 ISP,两路摄像头输入。因而在大多数的应用场景下,将会获得更立体的图像,就像人的两只眼睛一样,可以感知图像的深度。另外一个应用是两路摄像头,其一作为广角或者鱼眼视角,另一路则聚焦某一场景的特写。除此之外,还有其它的应用需要用到这样的功能。; S2 ~, m4 D5 }# Z5 M
0 F @0 E$ v: O! F! }: i5 t3 D/ q8 M图像处理需要很强的计算能力,ISP的功能理论上也可以由 CPU 或 GPU 来实现,但要将这样的计算量,将这些数据转化为系统可识别的形式和参数再进行计算和处理,涉及到的工作量太大了。因此在这样的系统下,必须使用一个专门处理图像任务的单元,也就是 ISP,就像 i.MX8M Plus所做的那样。
) \# G0 d5 s' x2 o/ Y( W* C' t+ g* M. S9 |& l) c# ~
' A( i2 h5 M( Y d5 t
- e# e. h z# t! D6 _4 S! J& R
i.MX8M Plus 高动态范围(HDR)支持0 M% F6 @$ q* B0 [, R @: b1 \- A
# u) n; d- A: a' i
9 V3 V' G, t- {1 x
. b, B. {8 {- A; W0 I i.MX8MPlus还有一个重点是HDR,也就是高动态范围,你可能在很多手机上看到过这个词,但在嵌入式应用以及消费类产品甚至工业应用中HDR 都非常重要。HDR 主要是融合多重曝光的图像,具体表现为拍摄亮度不同的两张图像,一张是长曝光,一张是短曝光,其中一张能够帮助获得更好的高光部分的细节,另一张则获得更好的低亮度区域的细节。甚至可以拍三张或者更多,来融合成为一张图像。这样高光和暗部的细节都可以保留,这在某些特定场景中非常重要,比如在家里,窗户边很亮,有的地方却很暗,有了 HDR,所有的细节你都可以看清楚。
0 n# ^) G( e, |" l9 Q# l* t0 Z; ~2 m4 }# D
- |- ^" w5 g4 s* U
/ f' N9 ]0 t+ n2 {
+ w+ \7 z- F; ?/ v
) v& F( f0 U+ E9 y6 z
( [; L: [" @1 s
1 x* \* t" [# ]' B; N& X4 a) X2 s![]() [backcolor=rgba(18, 18, 18, 0.5)] & ] p( ]8 v0 e- r+ }* F! M
/ [: k+ D; r3 q* j% T J/ Y( D4 X- I
( f# m( a3 X! c' ~/ ?! o. c5 G
1 L* u" b# H! |编辑切换为居中
+ W; x/ |( a( h3 O1 W# p% i4 K8 g# B1 v1 q e- f( W; c! g1 T. X
5 ^) K3 k/ N5 f; d, y, F1 y ^5 C4 _4 [
5 f( B4 V2 {- L& x/ U
添加图片注释,不超过 140 字(可选)
0 x1 Z! M4 F5 y6 h( l5 ]& }: X* |( c& d, v' ~
5 C. _$ x1 W5 u0 w# q$ G; f" e3 i2 y+ g+ G) |! S- X! J
8 q9 m+ }/ c4 k) {
; @: \5 K, D1 G$ }3 t4 O; o3 X+ k+ Z0 [& C4 j* I2 u; o% W
扭曲矫正带来更好的图像
, o' p! e5 G4 A# X7 O% n6 |9 X1 n2 A/ m
5 ?7 p0 [3 I' _+ k9 ~1 T
, r0 t/ x: I. m" z8 s7 y4 j" A在摄像头相关应用中,扭曲矫正是一个非常重要的功能。摄像头接收到的图像可能是扭曲的,类似观看鱼缸的场景。你可以看到很多的东西,但它们都是扭曲的。扭曲矫正,可以将图像恢复为人类、机器学习可以识别的正常形状,直线曲线区别分明,也没有倒置的现象,这就是扭曲矫正引擎所负责的。但引擎能做的不仅仅是这些,除了能够矫正这些意外的干扰,同时它也可以矫正由于摄像头问题导致的图像不清晰、变形等。1 a! s, G2 b9 p6 k
2 @4 a+ V5 K" {
引擎同样可以对像素进行处理,获得更好的图像质量。针对i.MX8MPlus 的 ISP 架构我们的设计保证了所有的处理都以流的形式进行,也就是说ISP直接从摄像头接收图像进行处理,将它们输出到系统内存。ISP 几乎不需要从系统重新构建图像再进行处理输出,这样就可以带来非常低的延迟表现,以及非常高效的针对图像的处理表现。iSP 针对图像增强,进行了非常多的处理,比如降噪处理,这在暗光环境中非常重要。在这样的环境下,很多像素都会被进行涂抹,但你不能对太多区域都进行涂抹,否则你的图像将会变得非常模糊。所以你必须使用 ISP 来分辨,哪里是可以进行涂抹处理的,哪里则是需要清晰呈现的内容。其它的处理任务包括,检测图像传感器的坏点,确保正常工作,以及白平衡的调节,分辨出不同的光照环境,例如日光、灯光等等。还有提供信息,帮助自动曝光以及对焦,所有的这些都是由ISP 来完成的。
/ Q Q8 K; [2 \0 D' M$ C/ q4 J7 J1 N3 X5 p. O$ N) V# a7 ]* @% P
6 R( a. } ^. F- I; I2 t) Z# l
; {* k t% y8 s8 @5 L3 v* C
H.265视频编码
( P) K7 M) G" H- V3 ]/ C4 H) b, L* R+ g" p' F
4 s6 K. K; Y9 b: I- X9 a8 S2 O4 @$ P2 R
在许多应用中,摄像头接入系统,数据被送入机器学习算法或是直接被存储在网络中。不管图像被送入何处,它们还是需要被存储在某些地方,比如服务器或者是本地设备。你不可能直接保存原始文件,因为原始的文件实在是太大了,因此必须对数据进行编码,i.MX8M plus 的视频编码是非常高效的。我们支持 h.265编码算法,比起业内广泛使用的 h.264更加先进和高效。* N$ M2 i2 G q. ^* i; P* A
/ ^0 @- \% Z* u: K. U- C) R% U
; C* n p. y) e0 N
( z% q: _9 H2 a% Q! w8 E1 c8 ]: A' P
; {' M( h( W, X* R
5 g' u. u. a5 M' E
$ U: {3 B" ]3 g! {" O![]() [backcolor=rgba(18, 18, 18, 0.5)] 5 }0 E0 m+ Y" i
5 U% G D6 `: u6 U 4 P# c M1 b- |( x& [2 S
" }* |# L C c. a1 h8 a编辑切换为居中
8 E' ~3 \" O) p. H% s- d! y% n9 [9 s7 Z6 p
, d3 l( Z$ G( a. D# z2 q I- }: h4 _! s. q
- r# G8 n5 T0 i1 K添加图片注释,不超过 140 字(可选)6 i$ c0 }8 ]$ ?- F! H m$ U q
0 r) z( T% {; X( G, L& }/ l1 V
; Y8 R; }. J/ E7 `; R$ E% r* d; X' M& {
; Q3 F3 ]8 F" d ! {( {# U1 x9 Y5 K5 I
: C" i+ z; w8 ?5 C4 |iMX8M Plus在工业应用中的特色
X4 `3 }" b6 z- D% a6 U7 Q. m! C( m
) ~8 W" i. \. z* P. `9 |+ M7 d$ Y/ z2 w, H2 G) c
6 g' b2 \" t- _3 g) x. l9 Li.MX8M Plus有一些针对工业应用的特色,其一就是 ECC,也就是错误纠正代码。用来在用户无需感知的情况下,检测出内存的错误,甚至进行修复。$ d% R0 P# g1 q Z( [
& o/ t" s2 w c0 S
这异常的重要,因为在某些应用中内存的错误会带来严重的后果,虽然不会导致硬件的永久损坏,但当读取内存的软件和程序时有可能会崩溃。
) Q; R& `- w0 H- Q% g. [4 B/ E. ?: m- O' L& u) y" i3 h
为了避免这些情况的发生,你就需要ECC 来进行检测和修复,这样软件的错误率,也就是我们常说的 SER将会大大降低。i.MX8M Plus在缓存和片上RAM 中都带有ECC,而DRAM 总线还支持在线 ECC,它不需要存储任何额外的位,就能够将ECC 算法与主数据同时发送出去。0 M, i# H- m6 _5 K! ]- v3 o
1 \% j/ E2 j5 ?" p/ @- H/ |; `, i
8 G8 j9 m# N/ S4 y7 h3 O0 Y# T- v. t) v- K. z6 o
TSN也是 i.MX8M plus 中的亮点,tsn 指的是时间敏感网络。在工业应用中你希望可以确保能够在对的时间点将数据发送出去,而通常以太网中任何人在任何时间都有可能正在发送数据。可能会造成拥堵,可能你需要晚一些再发一次,在工业应用中,这无疑是会带来问题的。而 TSN 则能够很好的解决这样的困扰。i.MX8M Plus同样也支持一些工业级的外设,我们甚至集成了800MHz的 Cortex-M7协处理器来协助组合。组合运行操作系统,M7内核同时可以进行一些实时性的控制,来确保低延迟。我们还有两路 CANFD用于本地与系统或是与网络低延迟的通信。0 [) z# d( b( l- ?$ i* T
: ~8 a6 T; I2 `5 ui.MX8M Plus所提供的所有的这些特性和外设,能够助力工业及应用的设计为工业应用带来无限的可能。
# K% @' R# L+ f( }# T- h
6 I9 l1 A& O% X( D( ]/ v9 j9 R
3 B) Y& m& w" |
! U/ ] k$ p# d: i如何测评 i.MX8MPlus7 m' Z. C; \ p( r+ [! ?. q
1 |+ f2 U, Q3 e# i. ~ j; {
?& M v9 N# r {* N) G
6 K) J# _; l' `% J作为NXP官方金牌合作伙伴,飞凌嵌入式与NXP深入合作,推出了基于i.MX 8M Plus处理器的开发套件OKMX8MP-C开发板与FETMX8MP-C核心板,除了继承了上述CPU能力外,飞凌嵌入式在iMX8MPlus核心板上还集成了LPDDR4、eMMC、PMIC等关键元器件,形成了可以独立运行的最小系统;同时,考虑低成本基础应用以及高端NPU应用的不同需求,DDR可选择2GB、4GB、6GB、8GB多种版本;这款核心板的优势不仅仅在于性能上,其功能也是十分的丰富,双千兆以太网、双CAN-FD、2个USB3.0、PCIe3.0、LVDS、HDMI、MIPI-DSI、MIPI-CSI等接口面面俱到。- @5 J d1 R8 k' }' U
) H9 B3 Y! n4 d2 H. U8 {
原文链接:NXP(恩智浦)iMX8M Plus 处理器介绍 完整版
& l4 P% `! s3 L$ ~) a
! _4 v2 d7 j+ E7 e4 E2 v8 c7 d/ Y9 w% j; w$ h) W
|
|