?? ?????? ??????? TSMC ??? ??? ?30? ?? ?? ????(TSMC Tech Symposium 24)?? ?? AI ??? ?? ????AI? 2?? NPU(??? ?? ??) ?????(?? RNGD)? ??? ???? ????. RNGD? 1?? NPU ???(WARBOY)? ?? ? ??? ???? ????, TSMC 5???? ?? ??? HBM3 ???? ??? ??? ??? ??? AI ???? ???? ??? ????.
??? ????AI ??? TSMC ?? ???? 24 ???? 2?? ??? ?????? ???? ?? / ??=????AI
??? ????AI ??? ??? AI ? ???? ?? ???? ???? ?? ?? ?? ??? ????? ???? ???, ??? ??, ??? ?? ??? ???? ?? ??? ??. ? ???? ? ??? “?GPT? ??? ? ????? HBM3? ??? ??? AI ??? ??? ????, ?? TSMC, ??? ???(GUC) ? ??? ?????? ?? ? ??? ?? RNGD? ??? ? ???”???, “????? ??? AI ??? ??? ???? ??, ?? ??? ????? ??? ?”??? ???.
??? AI ??? ??? ?? ? ????AI? RNGD
????AI? 2?? ??? ?????(RNGD)? SoC(??? ? ?) / ??=????AI????AI? ??? RNGD? ?? ? ?? ? 5.5cm? 400? ? ??? ?????? ???? ???, TSMC CoWoS(? ? ??? ? ???????) ???? ????. CoWoS ???? ????? A100, H100 ? ??? GPU ??? ???? TSMC? 2.5?? ??? ?? ????. ???? ?? 256MB ? 2?? 48GB HBM3 ???? ??? ?? 1.5?????? ???? ????.
?? ?? ?????? PCIe 5?? 16???? ????, ?? 64GB? ?? ??? ???. ?? ??? ?? ?? ??? BF16(16?? ?? ???)?? 256?????, FP8(8?? ?? ???)?? 512?????, INT8(8?? ?? ??)? INT4(4?? ?? ??)? ?? 512 TOPS ? 1024TOPS?.
????AI? 2?? ??? RNGD? ???? ?? ? ??????? ??? ??? ??? ???? ??. ??? ?? 9? ? ?? ????, ?? ??? ?? MLPerf ?? ?? ??? ??? ?? ??? ????.
2?? ??? ??? ??··· ???? ??? ? ??
????AI ???? HBM3? ??? RNGD ? ??? ???? ?? / ??=????AI??? AI ??? ??? ??? ???? ?? ????AI ?? ?? ??? ?? ??? ??. ??? ????AI? AI ?? ??? ?? ?? ???(elice)? AI ??? ?? ?? ?? ????(MOU)? ??? ? ??, ?? 1??? ??????????? ???? ??????, ????? ??? AI ? AI ??? ?? ?? ??, ?? ???? ?? ? ??, ?? ?? ?? ? ??? ? AI ??? ??? ????? ??.
?? ?? 2??? ??? ??? ???? ???? ????(ASUS)? ?? ??? ??????? ?? ????????? 2024(MWC 2024)?? 1?? ??? ??? ??? ?? ??? ????, 2?? RND ?? ?? ??? ????. ????AI? ??? ???? ??? RNGD ?? ??? ?? ??? ????.
???? IT?? ??? ?? (sh@itdonga.com)
[??★???] ??????? ?? ‘???’???!
??? ??? ??? ??
