??? ??? ?? ????(Nvidia)? ??? 5? 9? ?? 291??? ??? 52? ???? ????. ???? ??? 2021? 1? ??? ???(355??)? ????, 1? ???? 53.57%? ?? ???. ??? 21? 1? ???? ??? ?? 22? 1?? 122.08???? ??????, 1? ?? ?? ???? ??? ???. 21? ????? ??? ???? ??? ?? ??? ?? ?? ??? ?????, GPU? ??? ??? ?? ??? GPU ??? ????? ??? ?? ????. ??? ??? ?? ??? ??? ?? ??? ?? ? ???? ???? ?? ?? ????.
GPU, ? ???? ??? ???? ????
???? ??? ???? ???? ????. ??=????
????? ???? ?? ??? ???? ??? ??? ??? ??? ??? GPU(Graphics Processing Unit)? ???? ??? ??? ?????. GPU? ??? ???? ?? ?? ??? ??? ????, ?? ???? ??? ??? ??? ???? ????. 2010? ???? ?? GPU? ??? ??? ??? ?? ???? ???? , 2006? ???? CPU? ?? ???? ??? GPU? ?? ?? ??? ???? GPGPU(General-Purpose computing on Graphics Processing Units, GPU ?? ?? ??) ??? ????? ???? ???? ????.
???? A2 ?? ?? GPU. ??=????
????? GPGPU? ??? ??? ? 17?? ?? ?? GPU? ???? ??? ?? ??? ?? ????, ??? 11? ?? AI? ?GPT? ????? ? ? ? ??? ????. ?? ??, ?? ?? ???? ??? ???? ???? ??? ???? ??? ????? ??? ???, ?? ???? ??AI?? ??? ?? ????? ?? ?GPT? ???? ?? ??? ???? ????? ?? ??? ??? ??? ????.
??AI? ?? ??? ??? ????? ??? ? ??? ?? ????? ???? ??? ???? ????, ???? ??? ??? GPU? ?? ???? ????. ?? ??? ????? AMD? ??, ???? ?? GPU ??? ???? ??? ?? ???. ??? GPU? ?? ????? ??? ???? ? ????.
??? ?? GPU, ?? ??? ??? ??? ??
GPU? ???? ??? ???? ??? ?? ??? ???? ? ??? ??????. ???? ??? ????? ?? ?? ?? ?? ??? ??? ??. CPU? ??? ?? ?? ???? ??? ?? ?? ???? ??????. ??? GPU? ?? ??? ???? ???? ? ??? ???? ???? ??? ??? ???. ???? GPU? ?? ?? ??? ???. ?? 3? ????? ??? 8? GPU ???? DGX H100? ????.
??? ?????? ?? ???? ? ?? ???? GPU? ???? ??. ??=??BP
???? DGX H100? ??? ????? ?? ?????? ??? ?? ?? ? ??? ?? ??? ????, ????? ??? ????? ?????? ??? ?? ?? ???? ???. ?? ???? ‘???(Scissero)’? ?? ??? GPT ?? ?? ??? ?? ??, ??? ???? ?? ??(DeepL)? ??? DGX H100? ??? ?? ??? ???? ????. ???? ????? ??? ?? ??, ?? ? ?? ????? DGX H100 ???? ??? ????.
NPU, ???? ??? ?? ?? ?? ???
???? AI? ???? ??? ???, ???(Warboy). ??=???? AI
??? ??? ? ???? ??? ??? ???, ?? ?? ??(Neural Processing Unit, ?? NPU)?. NPU? GPU? ????? ?? ??? ???? ??? ?????, ????? ????? ??? ?? ? ?? ?? ?? ??? ?? ?? ???? ?? ?? ???? ?? ??, ?? ?? ????? ????? ???? ??. ??? GPU? ??? ???? ??? ??? ?, GPU ?? ?? ??? ?? ? ?? ???? ????.
???? AI? ???? ?? ??? ??? ???? A2 ?? ?? GPU? ??? ?? ????? ?? ??? ????. ??=???? AI
?? 1?? ??? ??? ???? AI? NPU, ‘???(Warboy)’? ??? ? ?? ??? ?? ‘???? A2 ?? ?? GPU’? ??? ??? ????. AI ???? ??? ??? ?? ???? MLPerf v2.0 ??? ? ‘???? ????? ?? ?? ???’ ??? ????, ???? A2? 4?856?? ??? ? ???? 8?762?? ????. ?? ?? ?? ?? ?? ??? ???? ???? ?? ?? ??? ? ? ?? ??.
???? AI ???? "???? A2? ? ? ??? ??? ???? ?, ???? 5?542?? ??? ??? ???? ??? ? ??. ?? ???? ?? 8.9MWh (??? 2KW ?? ?? ??)? ?? ? ??, ???? ??? ? ????? ?? 1?700??? ?? ? ??”? ????.
??? ??? ?? ???? ?? ?? ???? GPU? ??? ??? ??? ???? ??. ??=???? AI
???? ??? ???? ??? ??? NPU? ????. ? ? ??? ???? ??? ??? ??? ???? ???? ?????, ?? ?? ? ?? ???? ???? ?? ??? ???? ??. ?? ? ?? ??? ??? ?? ??? ???, ??? ?? ??? ? ??? ???? ????. ??? GPU? ?? ??? ??? ??? ????? ???? ??? ??, NPU? ????? ??? ????? ????. ???? A100? 1??? 2.1?, ???? A2? 5.8?? ???? ??? ?, ???? 1??? 8.5?? ???? ??? ? ??.
‘?? ?? ??’ ?????? NPU ?? ?? ? ?
????? DGX H100 ???, ???? ??? ????? ??? ?? ??? ??? ????. ??=????
GPU? ????? ??? ? ?? ???? ?? ??? ? ???, ??? ??? ??? ??? ??? ?? ??. ???? DGX H100 ? GPU ?? ??? ?? ???? ???, ?? ?? ??? 3? 7? ??(?? ? 4?900? ??) ??? ???. ????? ???? ?? ???? H100 ? ??? ????? 3? 6? ??(? 4?700? ??) ????? ?? 4? 5???(? 6?? ??)?? ????. ??? ???? ??? GPU ??? ???? ???, ??? ???? GPU? ??? ?? ?? ??? ??? ?? ??? ?? ???.
??? NPU? ???? ??? ???? ??? ??? ???, ??? GPU?? ?? ??? ??, ?? ??? ???? ????. ?????? ??? ??? ?? ??? ??? GPU? ??, ??? ?? ??? ???? ?? ?????? ????. ?? ?? ? ? ???? ? GPU? ??? ?? ? ???? ??? ? ?? ???, ??? ?? ???? GPU? ??? ??? ???? ??? ????.
???? IT?? ??? ?? (sh@itdonga.com)