????

?????, ?? AI ??? ?? ??··· '??? ?? ??'

????

?? 2024-07-22 18:46:00 ?? 2024-07-22 18:47:57

|
??
|
????
|

??

???? | 
  • ????
  • ???
  • ??????
  • ??
  • ??
???? AI ??? ???? ????, ?????? ?? 18?, ?? ??? ?? ???(RISC-V) ??? AI ??? ‘??(Wormhole)’? ?? ??? ????. ?????? ?? 2016? ??? ???? ??? ??? ???? ??????, 2021?? ?? ???? ???? ??? ? ??? ???????? ???? ??? ???. ? ??? 2023? ?????? ???? ?? ?????? ??? ??.

?????? ??? 2021? ??? ‘?????’? ? ?? ??? ????, RISC-V? ???? ??. RISC-V? ????????? ???, ??? ?? ?????? ?? ? ??, ??? ? ?? ???? ????. ??? ? ? ?? ?? Arm, MIPS ?????? ? ??? ???? ??? ? ??, ??? ??? ??? ?? ?? ??? ? ???? ?? ???? ??.

?????? ??? ?? RISC-V ?? AI ??? / ??=?????


??? ????? ???? RISC-V? ???? ?? ??? ?? ????, ???? ?? ? ??? ???? ?? ??? ?? ????. ?? Arm ?? ???? ?? ??? ???? ???? ???? ??, ??? ??? ???? ???, ?? ?? ??? ?? ??? ???? ?? ??. ??? ?????? ??? ? ???? ???? ??? ???? ???? ??? ??? ??? ??? ??.

????? ‘??’? ?? ????

??? ??? ??? ????? 72?? ??? ??? ?? ?? n150, 128?? ??? ?? ?? n300 AI ??? ??? ????, ??? ? ?? n300? ??? TT-?????(LoudBox), TT-??????(QuietBox)? ??? ??? ????. n150, n300? ????(????)? GPU? ???? ??? ????, TT-??(Buda) ? TT-???(Metallium)? ?? ??? AI ????? ????.

?? n150s? ?? ???, ???? GPU? ?? ????? ??? ??? 2? ?? ??? ?? ?? ??? ????? / ??=?????


????? x86 ???? ?? ????? ????, PCIe 4.0x16 ???? ????. ???? n150? 12GB GDDR6, n300? 24GB GDDR6 ???? ????, ?? ??? FP8 ?? 262 ?????, 466 ??????. ????? 160?? ? 300???. ?????? 4?? ?? n300 ??? ????, ??????? ?? ??? ?? ??? ? ???.

???? ???? ?? n150 ? n300, TT-????? ? TT-?????? ?? ?? / ??=?????


??? ?? n150? 999??(? 138? ?), n300? 1399??(? 194? ?)?. ?????? 12000??(? 1667? ??), ??????? 15000??(? 2083? ??)? ????. ?????? ?? ????? ??? ??? ?? ???? ?????, ??? ?? 2??? ?? 10? ?? ?? ????.

???? ???? ??? ?? ???

?? ???? ? ? ?? n150 ? n300? ??? ?? ??. n300? ?? ??? 300W ???? ?? FP8? 466 ??????. ???? H100? 300W? FP8?? 1670 ?????? ? ? ?? ?? ??. ??? ??? n300? 1399??, H100? ??? ???? 3?~4? 5000??(? 4000? ?~6000? ??)? ?? 30?? ?? ??. H100? ??? ? ??? ?? ????? ?????, ???? ?????? ??? ?? ???? ?? ???.

????? ?? n300? FP8? ???? ???? H100?? ?? ?? / ??=IT??


AI ???? ??? ??? ?? ? ????. ??? AI ??? ???? ????? ???? ????, ?? ?? ???? ????? ???? ??? ? ???. ????? ??? ?? ???? ?? 2006??? ?? ??? ??? ????, GPU? GPGPU? ???? ??? ???? ? 20? ?? ?? ???? ????. ??? ????? ?? ?? ??? ? ???? ?? ???? ????. ?? ??? ???? ??? ??? ?? ???? ??.

?????? ?????? ?? GPU ?? ??? 653? ??(? 90? 5000? ?)? ????, ??? 33.2%? ??? 2029?? 2742? ??(? 380? ?)?? ??? ??? ??. ? ?? ???? ?? 70~95% ???? ?? ????? ??? ?????, 0.2%? ???? 1800? ?? ??? ??? ??? ? ??.

?????? ????? ??? ???? ??? ??, ?? ???? ??? ??? ????? ??. ?????? ?? ?? ??? ?? ??? ????, ????AI? 9? ? 2?? ??? ?? ??? ? ??? ????. ????? ?? ??? ?????, ??? ?? ??? ??? ????? ?? ?? ?? ??. ?? ??? ????? ?? ??? ???? ? ????.

IT?? ??? ?? (sh@itdonga.com)
????
???? | 
  • ????
  • ???
  • ??????
  • ??
  • ??
????

???? 2016 ???? ??. ??? ??? ???. ??? ????? ??? ????.

  • ??? ???? ????? ??? ??????? ???? ??. ????? ??????

  • ????

    ??? ?? ??? ?? ??

  • ????

    ????? ?? ??? ???? ??

  • ???? ????

  • ????

    ??? ??? ? ??? ??? ?? ????? ?? ???!

?? ? ??

??

??

??

??

???

??

??? ?? ??