???? ????, ???? ??·AMD... '??? 1nm ????'

?? 3? ??? ????? GPU ?? ???? ‘GTC 2024’?? ?? ? ???? ?????? “?? ???? ???? ????, ?? ???? ??? ????. ??? ??? ????? ?? ??? ???? ????(AI)? ??? ? ??? ???? ???? ??? ???? ????”?? ????. ???? “?? ???? ?? ???? ?? ???? ??? ???? ??? ????”?? ???? ????.


?? ???? ??? ???? ??? ??? ??? ?? ??? ????? ????. ?? ?? ???? ??? ??? ?? ????, ?????? ?? ??? ??? ??, ????? ? ?????? ???? ??? ??? ? ?? ??. AI ??? GPU? ??? ??? GPU? ??? ??? ???? ??? ??? ? ????.

??? ?? ???? ? ?? ???? ??? ???? ????? ??? ?? ??? ???? ???, ?? ??? AMD ?? ?? ???? ???? ?? ??? ??? ??. ????? ??? ???? ??? AMD, ??? ? ?? ???? ??? ?? ??? ????? ?? ??? ????.

????, ???? ?? ??? ??? ?? ?? ???

????? 2? ? ??? ?? ????? ??? AI ??? ???? ???? ??? ???. ??? GPU ??? AI ??? ?? ??? ?? ? ????? ??? ???? ????? ??? ??? ?? ??? ????? ??? ??. ?? ??? ????? ?? ??? ????? ?? ???? ??? ??? ?? ??? ??? ??.


????? GTC 2024? ?? ??? ??? ????? TSMC 4NP ???? ??? ? ?? ??? ????, B200 AI ???? ??? ? ? 2080? ?? ?????? ????. ? ? ? ?? ??? ?? 10TB? ?? 8?? ????? ???? ?? ???? ?? 2.5?, ????? ?? ? ?? ??? ????. ?? 192GB ??? HBM3e ???? ??? H100 ?? 30??? ??? ???.

???? 5?? NV??? ?? ?? 1.8TB? ?? ? ????, ???? CPU? ??? ???? GB200 ???? ??? ??? ??? ????. ? 8?? B200? ??? DGX B200 ???? ? 1440GB? GPU ???? 4TB ??? ???? ??? ? 72 ?????? ?? ??? 144?????? ?? ??? ????.


?? ?? ?? ???? ??? ???. ?? ?? GPU ????? 90? ?? GPT-MoE-1.8T ??? ????? ? 8000?? GPU? 15????? ??? ?????, ??? GPU? 2000?? ??? 4????? ??? ?? ?? ???? 75%?? ?? ? ??. 72?? GPU? ???? NVL72 ???? ? ??? ???? AI ??? 30? ????, ?? ? ???? 25? ????.

AMD MI300X/A? ??, ROCm ??? ???

AMD ?? ??? 12? ???? MI300A ? MI300X ???? ???? ?? ??? ????? ?? ??? ??. MI300 ???? 304?? CDNA3 ???? ??? GPU ??? ??? 192GB HBM3 ???, ?? ?? 5.3TB? ??? ???? ?? ?? ?? MI250 ?? ?? ??? ?? 6.8? ????. 8?? MI300X ???? ? 1.5TB? HBM3 ???? ?? 42.4TB? ??? ???? ???.


2048?? ?? ?? ? 128?? ?? ??? ??? Llama-70B ?? ????? MI300X? ???? H100? ??? vLLM ?? FP16 ???? ?? 2.1? ?? ??? ?????. AMD ???? MI300 ???? ?, ??? ? ?? ???? ???? ????, ???????? ???? ?? ????? MI300 ??? ?? ??? ????.

?? AMD? ??? ? ?? ????? ?? ?????? ??. ????? ??? ??? ??? ? ??? ???? ?? ??? ??(CUDA) ??? ?? ?? ????. ??? AMD? 2016?? ?? ??? ROCm? ???, 2023? 7?? ???? ???? ???? ? ?? ??? ???. ??? AMD? ??? AI ???? ??? ??? ????, ????? AI ??? ??? ??? ??? ???? ?? ??? ????.

??? AMD? 2023? 4?? ????? ?? ??? 22? 8200? ??(? 3? 1600? ?), ?? ??? 6? 6600? ??(? 9158? ?)? ????. ?? ??? ?? ?? ?? 38% ??? ????, AMD ???? GPU ? 4?? AMD ?? CPU ?? ??? ???. AMD AI ??? ??? ??? ??? ? ???, ??? ???? ????.

?? ??? 3, ???? ???? ???? ?


??? ?? 4? 9? ??? ‘?? ??’ ???? ??? 2? ?? ??? ??? 3 AI ???? ????. ??? 3? ? ?? ?? BF16(16?? ?????) AI ????? 4?, ??? ????? 1.5?, ??? ??? ??? ?? ???? ???? 2? ????, LLM ? ???? ????? AI ?? ??? ?? ?????. ????? 64?? AI? ?? ???? ??(TPC)? 8?? ?? ?? ??(MME)?? ????, ???? 128GB? HBM2e?? ? 3.7TB? ??? ???? ???.

?? ????? ???? H100 ?? Llama 2-70B ? 130B, GPT-3 ?? ??? 50% ???, Llama 2 700B ???? 50% ? ?? ??? 40% ??? ?? ?? ???? ???. ?? ?? ??? 3? H100?? ? ?? ??? ???? ? ????? ??? ???? H100? ??? ?? ???? ??? ? ??? ?? ??.

????? ??? ????? ‘?? ????’? ??

????? ?? 2?? ? H200 GPU? ????, ?? ???? GH200 ???? ?? ????? ????. ??? ? 2025??? ??? ??? B200 GPU? GB200 ???? ??? ????? ?????. ??? ?? AI ???? ??? 3? AMD MI300X? ?? ? H100? ???? ???? ???? ? ? ?? ?? ??? ???. ? ??? ???? ???? ??? ????.


??? ????? AMD? ??? ??? ??, ??? ?? ??? ????? ???. ???? ?? ???? ???? ?? ????? ????, ?? ??? ??? ???? ???? ?? ?? ??. ?? ??? IDM 2.0 ??? ?? ???? ??? ??? ????, ?? 4? 17?(?? ??)?? 2025? ? ??-NA EUV(? ??? ???? ???)? ??? ?? 14A(????, ? 1.4???? ??) ?? ??? ?????? ???.


?? NA EUV? ???? ?? EUV?? 1.7? ? ???? ??? ? ??, 2D ??? ?? ??? ??? 2.9??? ???. ??? ?? ???? 0.33? EUV? 0.55? ??-NA EUV? ?? ??? ????. ???? ???? ??? ?????? ?? ??? ????, ??? ?? ??? ????. ??? ??? ??? 3? ?? ???? TSMC? ?? ???? ???, ?? ?? AI ???? ?? ??? ????? ???? ?? ??? ?? ??? ???, ?? ?? ?? ??? ?? ???? ???? ???.


?? ???? GPU? ???? ?? ???? ?? ?? ???? ????, ??, AMD? ??? ???? ??. ??? AMD? ? ?? ??? ???? ?????, ??? ?? ?? ???? ???? ????. ???? ?? ??? ??? ????, ????? ??? ???? ???? ??? AMD??? ??? ?? ? ??. ?? TSMC? ??? ?? ????? ???? ??? ?? ??? ?? ???.

?? ??? ??? ?? ???? ?? ??? ???. ??? AI PC? LLM? ??? ??? ??? ??????, AI ???? ??? ????? ??? ?? ????. ?? ???? GPU? ?? ??? ?? ????? ?? ??? ?? ???? ?? ??? ??. ??? ????? ??? ?? ??? ??? ???, ?????? ??? AMD? ??? ??? ???? ???? ??? ??? ??? ???.

IT?? ??? ?? (sh@itdonga.com)