인공지능: '우리는 폭탄을 가지고 노는 아이들과 같습니다'

옥스퍼드 철학자 닉 보스트롬(Nick Bostrom)에 따르면, 지각 있는 기계는 기후 변화보다 인류에 더 큰 위협이 됩니다.

옥스퍼드 중심부의 중세 뒷골목에 인류 미래 연구소(Future of Humanity Institute)가 있습니다. 이곳은 1005년부터 이 자리에 서 있던 St Ebbe 교회 옆과 4월에 개장한 Pure Gym 위에 있습니다. 옥스포드 대학의 연구 교수진인 이 연구소는 우리를 대신하여 가장 중요한 질문을 던지기 위해 10년 전에 설립되었습니다. 특히, 우리 종의 미래를 위협하는 "실존적 위험"은 정확히 무엇입니까? 어떻게 측정하나요? 이를 방지하려면 어떻게 해야 할까요? 또는 다르게 말하면, 두려움이 많은 세상에서 우리가 가장 두려워해야 할 것은 정확히 무엇입니까?

연구소장인 닉 보스트롬 교수를 만나러 도착하니 2층 사무실로 침대가 배달되고 있다. 실존 위험은 24시간 내내 진행되는 작업입니다. 혹시라도 잠을 잘 잔다.

43세의 스웨덴 태생 철학자 보스트롬(Bostrom)은 최근 우리 문명을 형성하기 위해 가장 많은 일을 하고 있는 실리콘 밸리의 기술 억만장자들 사이에서 운명의 예언자라는 지위를 획득했습니다. 그의 명성은 주로 작년에 New York Times의 놀라운 베스트셀러였던 그의 저서 Superintelligence: Paths, Dangers, Strategies에 달려 있습니다. 이 책은 Bill Gates와 Tesla의 Elon Musk가 추천한 필독서에 이어 이제 문고판으로 출간되었습니다. (최고의 문학 평론에서 머스크는 보스트롬 연구소에 100만 파운드를 제공하여 계속해서 조사를 진행하도록 했습니다.)

이 책은 Bostrom이 수년간의 계산과 논쟁 끝에 우리를 전멸시킬 가능성이 가장 높은 위협이라고 믿는 단일 위협에 대한 생생하고 추측적인 조사입니다. 이 위협은 기후 변화도, 전염병도, 핵겨울도 아닙니다. 그것은 우리 자신보다 더 큰 일반 기계 지능의 탄생이 임박했을 가능성이 있습니다.

보스트롬의 책 표지는 펜과 잉크로 그린 미친 눈의 부엉이 그림으로 가득 차 있습니다. 올빼미는 이 책의 시작 비유의 주제입니다. 참새 떼가 둥지를 짓고 있습니다. “우리는 모두 너무 작고 약해요.” 한 사람은 힘없이 트윗을 남겼습니다. "우리가 둥지를 짓는 데 도움을 줄 수 있는 올빼미가 있다면 삶이 얼마나 쉬울지 상상해 보세요!" 참새들 사이에는 어디에서나 일반적인 지저귀는 합의가 있습니다. 올빼미는 참새를 방어할 수 있었습니다! 그것은 그들의 늙은이와 젊은이들을 돌볼 수 있습니다! 그것은 그들이 여가와 번영의 삶을 살 수 있게 해줄 것입니다! 이러한 환상을 염두에 두고 참새들은 흥분을 억누르지 못하고 자신의 존재를 변화시킬 머리가 회전하는 구원자를 찾아 날아갑니다.

반대의 목소리는 단 하나뿐입니다. "불안한 기질을 지닌 외눈 참새인 스크롱크핑클은 이러한 노력의 지혜를 확신하지 못했습니다. 그는 이렇게 말했습니다. '이것은 분명히 우리의 파멸이 될 것입니다. 우리가 예술에 대해 조금 생각하지 말아야 할까요? 그런 생물을 우리 가운데로 데려오기 전에 부엉이를 길들이고 길들이는 일부터 먼저 해야 합니까?'" 그의 경고는 필연적으로 귀머거리 참새 귀에 들리게 됩니다. 올빼미를 길들이는 것은 복잡할 것입니다. 부엉이를 먼저 구하고 세부적인 부분은 나중에 해결해 보는 것이 어떨까요? 인공 지능의 더 어두운 의미에 대해 날카로운 경종을 울리는 Bostrom의 책은 Scronkfinkle에게 헌정되었습니다.

보스트롬은 적절하게 조바심을 내는 방식으로 자신의 경고를 분명히 표현합니다. 그는 강박관념과 일중독으로 유명합니다. 그는 날씬하고 창백하며 반야행성이어서 종종 이른 시간까지 사무실에 남아 있습니다. 아마도 57가지 종말의 상대적인 장점을 표현하는 공식으로 가득 찬 화이트보드로 하루를 지배하고 있는 사람에게 그는 가능한 한 운에 맡기는 일이 거의 없는 것처럼 보입니다. 식사 대신에 그는 야채, 과일, 귀리 우유, 유청 가루가 포함된 그린 스무디 엘릭서를 선호합니다. 다른 면접관들은 그가 감염을 예방하기 위해 악수를 피하는 것에 대해 언급했습니다. 그는 나에게 손을 내밀었지만 내가 갔을 때 소독을 위해 손을 따로 떼어 놓은 것 같은 느낌이 들었습니다. 그 결과 아마도 그에게는 약간의 조바심이 있어서 그는 그것을 저항하려고 열심히 노력합니다.