???, ?? ???? lab | up > /conf/4 ??··· ‘AI ?? ??? ??’

????
?? 2024? 9? 24? 17? 22?

???: ?

???: ?

AI ?? ??? ?? ???(Lablup)? 9? 24?, ?? aT???? ‘lab | up 〉 /conf/4’ ?? ??? ????. ??? ????? ??? 4? ??, 3? ?? ?? ?? ??? ? ? ???. ??? ? ??? AI ??? ? ????? ?? ?? ???? ??? AI? ??? ?? ?? ????. ??? ??? ??? ??? ‘?AI??’? ????, ????, ???????????, ????, KT???? ? ??? ?? AI ???? ????.

“AI ????? ?? AI ??? ?? ???”

AI ?? ??? ?? ???? ‘lab|up 〉 /conf/4’? ?? AI ??? ? ??? ???? / ??=IT??

??? ??? ??? “2023? ???? ??? AI ???????. ??????? ??? ???? ?? ?? ?? ?? ??? ???? ????? ????. AI? ?? ??? ??? ?? ????, ??? ??? ???? ???? ?? ????”???, “???? ??? ??? AI ?????(Make AI Scailable)”??? ??? ????.

?? “AI ???? ???? ???? ?? ??????? ?? ??? ?? ?? AI ??? ????? ??, ?? ?? GPU? AI ?? ??? ???? ??. AI? ??? ???? ????? ???, ?? ??? ???? ??. ??? ??? ?????, ?? ??? ??? ??? ???? ????. ? AI ?? ??? ??? ?? ???? ???”?? ???. ??? ???? ??? ????, ??? AI ??, ??? ?????? ? ??? ?? ??? ???.

???? ???? ????, ? ???? ?? ??

???? ??? ????? ??? ???, ?? ?? ?? ??? ???? ???? ??? ?? / ??=IT??

??? ??? ???? ???? ??? ????? ?? ????. ????? ??? ??? ? ??? ????? ??? ????? ? ??? ???. ??? ??? “???? ???? ????? ?? ?????, ???? ???? ?? ??? ??. ???? ???(Callosum), ???????(aiodocker), ????????(aiomonitor), ??????(aiotools)? ??, ?????(Raftify)?? ????? ????”?? ???.

????? ???? ??? ???? “?????? ???? ???? ????? ??? ??? ??. ??? ???? ???? ???? ???? ????, ? ?? ???? ????? ???? ??? ???? ??? ??”??? ???.

AI ???? ???, ? ?? ??? ? ?? ???? ?? ???? / ??=IT??

??? ???? ??? ??? AI CLI ????, ????(bndev)? ????. ??? AI CLI ????? ??? ?? ?? ???? ??? AI ???? ????, ????? ????. ?? ?? ??? ???? ??? AI? ???? ??? ? ??. ????? ?? ?? ??? ???? ????. ??? AI? ??? ?? ??? ?? ??? ??, ??? ??? ? ??? ????? ???? ??? ? ?? ???? ???? ????.

“??? AI, ???? ???, ???? RNGD ? ????”

??? AI? ?? 3?, 9?? ?? ??????, ?? 9? ? 24.09 ?? ????? ????. ?? ????? ???? AI ??? ?? ???? NIM? ?? ????, ?? ?????? ???? ??? ? ??. ???? ????? ???? ?? GH200, GB200? ?? ?? ??? 2, 3, ????AI RNGD, ???? ?? ?? AI ???? ?? ????.

???? ??? AI 24.09 ??? ?? ???? ??? ???? / ??=IT??

?? ??? ??? ??? ??? ?????, ? ?? ????? ?? ????. ?? ?? ??? ??????? ?? ???? ???? ?? GPU? ??? ??? ??? ????. ?? ?? GPU? ?? ???? ???, ??? ??, ?? ? ??? ?? ?? ??? ???? ? ??. ?????? ????? ??? ?? ?? ?????? ??? ??????? ?? ??? UI/UX? ?????.

???? ???? ??????? ???(Sokovan)? ???? ???? ?? ??? ?? ????? ????? ???? ??. ????? ???? ???? ??? ????? ??? ?? ? ??? ??? ??? ?? ??? ????, ? ????, ??, AMD ?? ????? ???????? ??? ? ??? ??.

?? ?? ?????? ?? ????

??? ??? “??? ??????? ??? AI? ?? ??? ???. AI ???? ?? ????? ??? AI? ???? ???? ? ???. ???? ??? ???? ?????? ?? ?? ?? ??? ??? ??? ? ? ??, ?? ??? ????? ??? ??? ???? ?? ???”?? ???.

?? ?? ????(Finetun.ing)??? ???? ????. ????? AI ??? ???? ????? ?? ? ???? ???? ??, ???? ????. ???? ????? ???? ????-4-340B LLM? ??? ???? ??? ?? ?? ????? ???? ??????. ?? ??? ????? ???? ??, ?? ???? ????? ??. ???? ??? ???? ??? ???? ?????? ?? ???? ?????.

??? ?? ??? ????? ‘??(PALI, Performant AI launcher for inference)’? ????. ??? ??? ?? ???? ?? ?? ??? ??? ?????. ??? ?? ???? ? ? ???, ???? NIM, ????? ??? ????? ??? ??? ???? ION? ????. ?? ?? ???? ??? ?? ????? ??????? ??? ??2(PALI2), ??? ? ?? ???? ??? ?? ??? ??? ? ??? ?? ??(PALANG) ?? ?? ????.

??? ??? “???? ????? ?? GH200? ??? ???? ??? ?? ???, 10? 1?? ??? ??? ????? ??? AI? ??? ???? AI ??? ??? ??”??? ??? ???.

??? ??? ??? ??, ??? AI ?? ?? ? ?

?? ???? ?? ??, ?? ???? ?? ???? ??? / ??=IT??

???? ‘???? NIM’? ??? ??? ?? ??? ?? ??? ????

???? ???? ??????? AI MVP? ??? ??? ??? ??? ??(KerasNLP)? Phi-3 LLM ???, ??? KT???? AI ???? ??? ??? AI ????, ??? ???? ??? ???? NIM ??, ??? ??????????? ???????? ?? AI?? ???? ???? ? ???? ??, ??? ???? ????? ????? ???? SDK ?? ? ??? ??? ????.

??? ??? “??? ??? ?? ????? ??, ?? ?? ?? ???? AI ??? ??. ???? AI ??? ?? ??? ?? ????, ??, AWS ?? ?? ???? ???? ???, ?? ???? ??? ???? ??? ??, ??? ????? ??? ??? ?? ??? ???”?? ???.

IT?? ??? ?? (sh@itdonga.com)