??? ??? ?? ???
《??? ? ??? ??AI ?????(CEO)? ???? ????? 5? ?? ??? ??? ? ?? ???? ???. ??AI? ???? ???? ? ??? ??? ?? ??? ???? ???. ??? ?? ??? ??? 11? 30? ?GPT(GPT 3.5??) ?? ?? ??AI? ? ??? ??? ???? ??? ?? ??? ????? ?? ?????. AI ??? ???? ???, ?? ??? ???? ???? ?? ??? ‘??(doomer·????)’ ? ‘??(boomer·????)’ ??? ??? ???.》
‘??? ??’??? ?? ‘?(doom)’?? ?? ‘??’? AI? ??? ??? ??? ??? ??? ??? ????. ?? ‘??’? ??? ‘?(boom)’?? ??? ???? ‘??’? AI? ‘??????? ?’??? ??. ?? ?? ??? ?? ?? ??? ??? ?? ??? ?? ??? ??? ???? AI? ?? ??? ??? ? ???? ????.
● “????? ??…?? ?? ??”
“GPT-4(??AI? ?? AI ??)? ???? AI ??? 6??? ???? ??.”
??? ?? ?????? ??? ?GPT? ?? ?? ? 3?, ?? ??? ??? ?????(CEO)? ??? ??? ??? ??? ?? ??? ??? ????. AI ???? ‘???????’? ??? ?? ?????. ??? CEO? ??? ??? ??? ??? ????? ??, AI ?? ???? ?? ??? ??????(UC???) ?? ?? ??? ? ??? ??? AI? ???? ??? ? ????. ???? ????? “AI ??? ??AI? ?? ??? ???????(MS)? ??? ??”?? ????.
2015? ??? ???????? ???? ?? ??? ???? ?? ?????. AI? ???? ??? ?????? ???? ????? ????? ‘??? ????(Effective Altruism·EA)’?? ??? ??. EA? ??? ??? ??? ??? ??? ???? ?? ?? ????.
20? ??? AI ?????? ???? ??? ??. ?? ??? ????? ???????(MIRI) ??? ???? ??????. ?? ??? ????? ??? ??? AI? ?? ??? ???? ?? ???? ??? ?????. 2005? ??? ??? ?? ?? ???? ????? ?? ?? ?? ???? MIRI? ????.
2010? ?????? ??? ??? ?? ??, ??? ????? ????. ??? AI?? ???? ‘????’(2014? ??? ??) ??????. ?????(NYT)? 2021? ???? “??? ???? ???? AI? ??? ????? ???”? ???.
2014? AI ??? ?????, EA? ?? ??? ? ??? ???. ?????? ??? ? ?? ????? ?? ? ????? ?? ‘???’? ??? ???. ????? ? ??? AI ??? ??? ? ‘???? ??’? ????. ?? ???? ????? ??? ?? AI? ??? ???? ?? ?? ?? ???? ? ? ?? ??? ???? ? ???? ??? ? ??. AI? ??? ?? ???? ??? ??? ? ? ??? ???.
???? ????? ???? ??? ??. ??AI ???? ?? ??? ??? ???? ??AI ?????? AI? ??? ???? ???? ??? ?? ?? ??? ‘??????(AGI)’? ???? ??? ???????(Super-Alignment·???)?? ?????.
???, ? ??? ??? ??? ????. ???? ??? ????? ??? 2014? ? ?????? “??? AI? ?? ??? ???? ??”? ??. ???? ???? ?? ??? ?, Y?????? ??? ???? ?? 2015? ?? ???? ???? ????. ?? ?? ‘??? ?? AI ??’? ??? ?? ????? ??AI? ?????.
?? ??AI? ??? ????. ????? ??? ????? ??AI? ???? ?? ????? ??? 2021? EA ?? ??? ???? AI ?? ????? ???. ??? ‘???? ??’? ??? ??? ?? ???? ??? ??? ?? ?? ???. “AI? ???? ???? ????”? 5? ???? ??? ?? ??? ?????? ????? “?????? ?? ??? ? ???? ?? ?? ?? ?? ??”? ??.
● “AI? ??? ??, ‘?’??”
?GPT ??? ?? ??? 2022? ?? ??, ??AI ???? ???? ??? ??? ????. ??? ??AI ?? ???? ??? ???. ???????(WSJ)? ??? ??? ???? ???? ?? ?? ???. ??AI? ??? AI? ??? ??? ??? ?? ???.
??AI? ?? ???? ???, ?? ??? ?? ???? ?? ???? ?? ???? ‘?? ?’?? ??? ?? ????? ????? ???? ???. ??? ?? ??? ??? ???, 2018? ???? ??AI? ????. ???? ??AI ??? ???? ?? ???? ????? ??? ???.
??AI? MS??? 100? ?? ??? ???? ? ????. ??AI ??? ?? ??? ?? ?? MS ?? ?????. ??? ???, ?? ??? ??AI ???????(CTO)? ??? ???. ? ????? ????? ??? ??? ???? ??? ??? ‘??’? ?? ??? ???? ???.
??? AI? ??? ??? ??? ? ?? ??? ???, ??? ??? ?? ??? ? ???? ?? ‘??’ ????. ??AI ????? ?? ???? ??? ?? ?? ???? AI ??? ?????. ???? ?? ???? ???? ?? ?? 2019? ??? ????? ???? ??? GPT? ?? ??? ???? ?? ???. ?? ??? ???? ????. ????? ??? AI? ??? ??? ????.
AI ???? ?? ??? ?? “?? ???? ??? ?? ???? ?? ??”??? ????. ‘AI 4? ??’?? ??? ?? ????? ? ?? ??? ??? ??? ? ????? ??? “AI? ?? ??? ????”? ??? ?? ??? ???? ??.
6? ????? ????? ?? ?????? ?? ????? ‘AI? ??? ?? ???’?? ??? “? ? ??? ??? AI? ???? ?? ??? ??? ???? ?”??? ????. ? AI? ???? ???? ??? ??? “??? ?? ‘AI ???’? ???? ?? ?????? ??? ???? ‘?????’? ??”? ???? ??? ??.
● ???? ? ??
???? ???? ????. ?? ?? ??? ??? ???? ?????? ???? ?? ???? ???? ??? ?????. ?? MS? ??? ?GPT ???? ???? ?? ???? ??? ? ??? ?? AI ???? ??? ??.
3? EA ???? ? ??? ???? WSJ? “???? ‘??? ????’? ‘??? ??’ ???? ? ???? ? ?? ??? ??”??? ???. ??? ???? ???? ??? ??? ???? ???, ?? ?? ??? ??? ??? ???.
AI ?? ?? ??? “???? ????? ????? AI ??? ??? ???? ??? ?? ?? ??? ???”? “??? ??????? ?? ?? ??? ‘??? ??? ??’? ???”? ???. ? ??? ??? ??? ??? ??? ??? ?? ?? ??? ??? ? ???? ??? ???.
??? ?? ??? kimhs@donga.com
[??★???] ??????? ?? ‘???’???!
??? ??? ??? ??
