??? ????AI ?? "AI ???, ????? ??? ?? ??"

????
?? 2023? 11? 16? 17? 51?

???: ?

???: ?

11? 16?, ??? ??? ???? ?? Arm? ?????? ?? ??? ???? ‘Arm ?? ????(Tech symposia)’ ??? ????. ?? ??? Arm? ??? ??? ???? ??? ??? ??? ??? ??? ??? ????? ???? ?? ????.

??? ?? ???(Ian Smythe) Arm ???? ??? ???? ????? ???? ??? ????AI ??, ??? ?? ????? CEO? ???? ???? ????, ??? ? Arm ????? ??? GTM(Go-To-Market) ???? ??? ???? ?? ??? ????.

11? 16?, ?????? ?? ??? ???? Arm ?? ???? ??? ??? / ??=IT??

??? Arm, LG??, MDS ??, ????, ??? ? ?? ??? ???? ?? ??? ?????, ????, MDS??, ???, ??AI, ???, GUC, ??????, ????, ????, ????, ????? ?? ??? ????. ??? Arm? ???????, ?????? ???? ‘Arm ???? ???’ ?? ???? ??? ???? ??? ???.

??? ????AI ?? “??? ??, ?????? ?? ??”

??? ???? AI ??? NPU? ?? ?? ??? ???? ?? / ??=IT??

????AI? ???? ??????? ????? ???? ?? ?????? AI ???? ???? ??? ????. ??? ??? ‘?GPT? ?? ??????? ??? ???·??? AI ?? ?’? ??? ??? ????. ??? ??(?? ? ??)? “GPT ?? ???? ??? ????? 96?? ????? ???? 1? ??? 5? ??? ??? ???? ????. ??? ? ??? ???? ??? ??? ???? ??? ?? ??? ?????? ??? ??”?? ??? ????.

? ??? ????? ? ???, ??? ??, ??? ?? ? ?? ??? ???? ??? / ??=IT??

? ??? “??? AI ???? ? ??? ??? ?? ???? ????, ?? ???? ???? ????? ??? ? ??? ???? ??. ????AI? ??? ??? ??? ?? ????? ? ??? ??, ??? ??? ??, ??? ???? ? ????? ????? ??? ?? ? ?? ??? ????? ?? ?? ??? ??”?? ???.

????AI? ?? 1?? ?? ???? ???? ??, ?? 2??? 2?? ?? ?????? ???? / ??=IT??

?? ???? ???? ??? ????? ???(NPU)? ????, ?? 2??? ??? ? 2?? ?? ?????? ??? ????. ? ??? “1?? ?? ??? ?? ???? ???? ? ??? ??, 2?? ?? AI ??? ?? ??? ? ??. ?????? ????? AI ????? ? ? ?? HBM3 ?? ?????, ??????? ??? AI? ?? ?? ?? ???? ??? ??? ? ?”??? ????.

NPU? ???·??? ? ?? ?

? ??? ??? 2?? ? ?????? ?? ?? ???, ?????? ???? ??? ???? ??? BF16 ?? 256??????, FP8 ?? 512????? ????. ???? ?? 1.5TB ???? HBM3 48GB? ????, ????? 150W ????. ?? ??? TPU? AWS? ????? 2? ???? ?? ??? ? ????, ????? ? ?? ????.

2?? ? ????? ? ?????-S? ?? AI ????? ?? ?? / ??=IT??

?? ??? ?? ???? H100? ?? ??????? ??? ?? ?? ???, ?? ??? 350W? ??. ??? H100? ?? ??? 6~7? ??? ???? ?? ???? ?? ????? ? ??? ? ? ??.

????AI? ???? ?? ??? ?????? ??? ???? ??. ? ??? “?? ?? ?????? ??? ???? ??, ?? ????? ???? 2.0? ??? ? ???? ??? ????, ???? ????? ?? ???? ?? ???? ??? ???? ???? ???? ??? ???”?? ????. ??? ????AI? 1?? ???? ????? ?? ??(SDK)? ???? ???, ?? AI ??? ?? ???, ????? ??? ????.

????? ??? ??? “AI ??? ????? ?? ? ??, ? ?? ??? ??? ?? ??? ?? ???? ?? ??? ???? ??. ?????? Arm? ???? ??? ?????(CSS) ??? ? ?? ?? ??? ??? CPU? NPU? ??? ????? ?? ? ???? ??”?? ????.

Arm, ?? ???? AI ?? ??? ?? ??

?? ???(Ian Smythe) Arm ???? ??? ???? ???? GH ???? ?? ???? Arm? ???? ??? ?????? ???? ????? ???? ?? / ??=IT??

??? ??? ??? ??? ??? ????? ??????, ???? ??? ????? ?? ???? ??? ???? ?? ?? ??? ????? ???. ?? 6? ??? ????? GH200 ???? ?? ???? Arm? ???? ??? ?????? ? ?? ?? ??, ????? GPU? ??? ?? ??? ?????.

?? ????? ?? ??? ?????? ?? ??? ??? ??? ??? ??? ??? ??? ?????? ? ??. ????AI? CSS? ??? ??? ??? ? ??? ???, ? ??? ????? ??? ??? ???? ?? ??? ?????? ??? ? ?? ???.

Arm ?? ???? ??? 16?? ????, ?? ?? ??, ???, ????? ??? ?? ????. Arm ?? ????? ?? ??? ??? Arm ????? ?? ??? ? ??.

???? IT?? ??? ?? (sh@itdonga.com)