[도서] 일론 머스크(Elon Musk) 저서 중.

일론 머스크는 현재 세계에서 가장 영향력 있는 인물 중 한 명으로, 테슬라, 스페이스X, 뉴럴링크, 오픈AI 등 다양한 분야에서 혁신을 주도하고 있습니다. 그의 저서들은 이러한 그의 혁신적인 사고와 비전을 엿볼 수 있는 귀중한 자료입니다. 

연휴를 맞이하여 일론 머스크 저서를 읽고 이중 '인공지능'에 대한 내용을 그대로 적어 보려한다. 중요하니까..

도서명: 일론 머스크 Elon Musk

작가명: 월터 아이작슨

40장 인공지능(오픈AI, 2012 ~ 2015년)

 스페이스X에 투자한 페이팔의 공동창업자 피터 틸은 매년 자신의 파운더스 자금을 투자한 기업의 리더들과 함께 컨퍼런스를 개최한다. 2012년 모임에서 신경과학자이자 비디오 게임 설계자, 인공지능 연구자인 데미스 허체스 신동으로 통했던 허사비스는 체스, 포커, 마스터마인드 게임, 백개먼 등의 종목으로 구성되는 국제 마인드 스포츠 올림피아드에서 다섯 차례나 챔피언에 올랐다.

 그의 모던한 런던 사무실에는 앨런 튜링이 1950년에 발표해 후 세대에 중대한 영향을 미친 논문인 <컴퓨터 기계와 지능>의 원본이 보관되어 있다. 이 논문에서 튜링은 인간을 오늘날의 Chat GPT와 유사한 기계와 경쟁시키는 '이미테이션 게임imitation game'을 제안했다. 그는 이 실험에서 인간과 기계의 반응이 구별되지 않는 경우가 기계도 "생각할 수 있다"라고 말하는 것이 타당할 수 있다고 썼다. 튜링의 주장에 영향을 받은 허사비스는 인공일반지능을 구현할 수 있는 컴퓨터 기반 신경망을 설계하는 딥마인드(DeepMind)라는 회사를 공동 창업했다. 다시 말해서 인간처럼 생각하는 방법을 배울 수 있는 기계를 만들고자 한 것이다.

 "일론과 나는 만나자마자 서로 죽이 잘 맞았고, 얼마 후에 나는 그의 로켓 공장을 방문했습니다." 허사비스의 말이다. 조립라인이 훤히 내다보이는 구내 식당에 앉아 머스크는 자신이 화성에 갈 수 있는 로켓을 만들려는 이유가 세계 대전이나 소행성 충돌 등으로 문명의 붕괴 위기가 닥치는 경우 인간의 의식을 보존할 수 있는 방법이 될 수 있기 때문이라고 설명했다. 귀를 기울이던 허사비스는 또 하나의 잠재적 위협으로 인공지능을 거론했다. 기계가 초지능을 갖게 되어 유한하고 미력한 인간을 뛰어넘을 수도 있고, 심지어는 인간을 폐기 처분하기로 결정할 수 있다는 것이었다. 머스크는 거의 1분 동안 조용히 생각에 잠겨 그 가능성을 가늠해보았다. 그런 무아지경의 시간 동안 여러 다양한 요인이 수년에 걸쳐 어떻게 작용하게 될 지에 관한 시각적 시뮬레이션을 실행한다고 그는 말한다. 머스크는 AI의 위험성에 대한 허사비스의 우려가 옳을지도 모른다고 판단했고, 딥 마인드가 하는 일을 모니터링 하기 위한 방편으로 거기에 500만 달러를 투자했다. 

 허사비스와 대화를 나누고 몇 주 후, 머스크는 구글의 래리 페이지에게 딥 마인드가 어떤 일을 하고 있는지 설명했다. 두 사람은 10년 이상 알고 지낸 사 이였으며, 머스크는 종종 페이지의 펠로앨토 자택에 머물곤 했다. 인공지능의 잠재적 위험성은 둘이 밤늦게까지 대화하는 날이면 머스크가 거의 강박적으로 제기하는 주제가 되었다. 페이지는 이를 무시했다. 

 2013년 나파밸리에서 열린 머스크의 생일 파티에서 두 사람은 루크 노색과 리드호프먼을 비롯한 다른 손님들 앞에서 열띤 토론을 벌였다. 머스크는 우리 가 안전장치를 마련하지 않으면 인공지능 시스템이 인간을 대체하여 우리 종 을 무의미하게 만들거나 심지어 멸종 시킬 수도 있다고 주장했다.

페이지는 반발했다. 언젠가 기계가 지능 수준, 심지어 의식 수준에서 까지 인 간을 능가하게 된들 그게 무슨 문제가 되느냐는 것이 그의 반론이었다. 진화의 CEO 다음 단계일 뿐이지 않느냐는 것이었다.

 머스크는 인간의 의식은 우주의 소중한 불꽃이며, 그러므로 우리는 그것이 꺼지지 않게 해야 한다고 반박했다. 페이지는 그런 정서 자체가 의미 없는 것이라고 생각했다. 의식이 기계에 복제될 수 있다면, 그 역시 인간의 의식만큼 소중해지는 것이 아닌가? 그렇게 여기지 말아야 할 이유가 대체 무엇인가? 언젠 가는 우리가 스스로의 의식을 기계에 업로드할 수 있게 될지도 모르는 것 아닌가? 그는 머스크가 자신의 종만 편향적으로 우월시하는 '종차별주의자'라고 비난했다. 머스크는 "음, 맞아요. 나는 친인간적이오"라고 답했다. "나는 정 말로 인류를 좋아한다오, 친구."

 이런 까닭에 머스크는 2013년 말 페이지와 구글이 딥마인드를 인수할 계획 이라는 소식을 들었을 때 경악하지 않을 수 없었다. 머스크와 그의 친구 루크 노섹은 그 거래를 막기 위해 자금을 모아보기로 했다. 로스앤젤레스의 한 파티 에서 그들은 위층 옷방으로 가서 허사비스와 1시간 동안 스카이프로 영상 통 화를 했다. 머스크는 허사비스에게 말했다. "AI의 미래를 페이지가 통제하게해서는 안 된다는 말이오." 

 그들의 노력은 실패로 돌아갔고, 2014년 1월 구글의 딥마인드 인수가 발표 되었다. 페이지는 세간의 우려를 의식한 듯 처음에는 머스크도 위원으로 참여 하는 '안전위원회'를 구성하는 데 동의했다. 첫 번째이자 유일한 회의는 스페 이스X에서 열렸다. 구글의 페이지와 허사비스, 에릭 슈미트 회장, 그리고 리드 호프먼 등 몇몇 사람들이 자리를 함께했다. "일본이 내린 결론은 위원회가 기본적으로 허튼 수작이라는 것이었습니다. 당시 그의 참모장 역할을 하던 샘 델러는 말한다. "구글 사람들은 AI의 안전에 초점을 맞추거나 그들의 힘을 제 한하는 어떤 일도 할 의향이 없었습니다." 

 머스크는 그 위험성을 공개적으로 경고하기 시작했다. 그는 2014년 MIT에 서 열린 심포지엄에서 이렇게 말했다. "우리가 직면한 가장 큰 실존적 위협은 아마도 인공지능일 것입니다." 그해 아마존이 챗봇 디지털 비서인 알렉사를 발 표하고 구글도 비슷한 제품을 내놓자 머스크는 이들 시스템이 인간보다 더 똑 똑해지면 어떤 일이 벌어질지에 대해 경고하기 시작했다. 이들이 인간을 뛰어 넘어 우리를 애완동물 취급하기 시작할 수도 있었다. "내가 집 고양이가 된다 는 생각, 받아들일 수 있습니까?" 그는 말했다. 문제를 예방하는 가장 좋은 방 법은 AI가 인간과 긴밀하게 보조를 맞추고 파트너 관계를 유지하도록 강제하 는 것이었다. "인공지능이 인간의 의지와 분리될 때 위험해지는 겁니다." 

 그래서 머스크는 틸 및 호프먼을 비롯한 옛 페이팔 마피아들과 몇 차례 저 녁식사 모임을 하며 구글에 대응하고 AI의 안전을 도모할 수 있는 방안에 대 해 토론하기 시작했다. 심지어 그는 오바마 대통령에게 연락을 취했고, 대통령 은 2015년 5월에 일대일 면담 자리를 갖는 데 동의했다. 머스크는 인공지능의 위험성을 설명하고 규제 조치를 취해야 한다고 제안했다. "오바마 대통령은 내 말을 잘 이해했지요. 머스크는 말한다. 하지만 그가 진정 유의미한 수준으로 무언가를 할 것 같은 느낌은 들지 않더군요." 

 머스크는 이어서 소프트웨어 기업가이자 스포츠카 애호가이며 생존주의 자인 샘 올트먼을 만났다. 세련된 겉모습 뒤에 머스크와 같은 강렬함을 보유한 인물이었다. 몇 년 전에 머스크를 만난 적이 있었던 올트먼은 스페이스X를 방 문해 머스크와 함께 공장을 둘러보며 3시간 동안 대화를 나눴다. 올트먼은 말 한다. "엔지니어 중 일부가 일론이 오는 것을 보고 황급히 흩어지거나 시선을 피하는 모습이 재미있었습니다. 일론을 두려워하는 것 같았어요. 하지만 그가 로켓의 작은 부품 하나하나까지 얼마나 자세히 이해하고 있던지, 참 인상적이 었습니다." 

 팰로알토에서 가진 조촐한 저녁식사 자리에서 올트먼과 머스크는 비영리 인공지능연구소를 공동 설립하기로 결정하고, 이름은 오픈AlOpenAI로 정했 다. 이 연구소의 방침은 소프트웨어를 오픈소스로 공개하고 인공지능 분야에 서 점점 확대되는 구글의 지배력에 대항하기 위해 노력하는 것이었다. 틸과 호 프먼은 머스크의 기금 마련에 동참했다. "우리는 어느 한 개인이나 기업이 통 제하지 않는 리눅스 버전의 AI 같은 것을 만들고 싶었지요." 머스크는 말한다. "AI가 인류에게 도움이 되는 안전한 방식으로 발전하도록 그 가망성을 높이 는 것이 목표였어요." 

 그들의 저녁식사 자리에서는 한 가지 중요한 의문사항도 논의되었다. 대기 업들이 통제하는 소수의 AI 시스템과 독립적인 다수의 시스템 중 어느 쪽이 더 안전할 것인가? 그들은 서로 견제하며 균형을 이루는 경쟁적인 다수의 시 스템이 더 낫다는 결론을 내렸다. 사람들이 집단적으로 협력하여 악의적인 행 위자를 막는 것처럼, 다수의 독립적인 AI 봇들이 모여 나쁜 봇을 막게 될 터였 다. 머스크는 이것이 바로 많은 사람이 오픈AI의 소스 코드를 기반으로 시스 템을 구축할 수 있도록 완전히 개방해야 하는 이유라고 생각했다. "AI의 오용 에 대한 최선의 방어책은 가능한 한 많은 사람이 AI를 사용할 수 있게 하는 것 이라고 생각합니다." 당시에 그가 <와이어드>의 스티븐 레비와의 인터뷰에서 한 말이다. 

 머스크와 올트먼이 상세하게 논의한 한 가지 목표는 이른바 'AI 정렬시 alignment'이라는 것이었는데, 이 개념은 2023년 오픈AI가 챗GPT라는 챗봇을 출시한 후 뜨거운 화제로 떠올랐다. 이것의 목표는 아이작 아시모프가 자신의 소설 속 로봇이 인류를 해치지 않도록 규칙을 정한 것처럼 AI 시스템을 설계 자의 의도나 관심사에 맞게 조정할 수 있도록 하는 것, 즉 인간의 목표와 가치 에 부합하도록 정렬하는 것이다. 영화 <2001 스페이스 오디세이>에 나온 '할' 을 생각해보라. 미쳐 날뛰며 자신을 창조한 인간들과 맞서 싸우던 그 인공지능 컴퓨터 말이다. 인공지능 시스템을 인간의 이익에 부합하도록 만들기 위해 우 리는 어떤 안전장치를 설치할 수 있는가? 그리고 그러한 이익이 무엇인지 결정 할 권한은 우리 중 누가 가져야 하는가? 

 머스크는 봇을 인간과 긴밀하게 결합시키는 것이 AI 정렬을 보장하는 한가 지방법이라고 생각했다. 봇은 제멋대로 굴며 스스로의 목표와 의도를 발전시 킬 수 있는 시스템이 아니라 개인 의지의 연장선이 되어야 한다는 것이었다. 이 것이 바로 인간의 뇌를 컴퓨터에 직접 연결할 수 있는 칩을 개발하기 위해 그 가 창업하는 회사인 뉴럴링크 Neuralink 의 설립 근거중 하나였다. 

 또한 그는 인공지능 분야의 성공은 봇이 학습할 수 있는 방대한 양의 실제 데이터에 대한 액세스에 달려 있다는 사실을 깨달았다. 그는 당시 다양한 상황 에 대처하는 운전자의 모습을 매일 수백만 프레임의 비디오로 수집하던 테슬 라가 그러한 데이터의 보고 중 하나라는 사실을 깨달았다. "아마도 테슬라 가전 세계 그 어떤 회사보다 더 많은 실제 데이터를 보유하게 될 겁니다." 당시 그가 한 말이다. 나중에 그가 깨닫게 된 또 다른 데이터의 보고는 2023년 기 준 매일 5억 개의 게시물을 처리하고 있던 트위터였다. 

 머스크가 올트먼과 가진 일련의 저녁식사 자리에 함께한 인물 가운데는 구 글의 연구 엔지니어인 일리야 수츠케버도 있었다. 그들은 190만 달러의 연봉 과 입사 보너스를 제시하며 그를 새 연구소의 수석 과학자로 끌어들였다. 페이 지는 격노했다. 자신의 집에서 묵어가곤 하던 오랜 친구가 경쟁 연구소를 차린 것도 모자라 구글의 최고 과학자까지 빼돌린 것이었다. 2015년 말 오픈AI의 출시 이후 두 사람은 다시는 말을 섞지 않았다. "래리는 배신감을 느꼈고 일리 야를 몰래 채용한 것에 대해 정말 크게 화를 냈으며 이후로 나와 어울리기를거부했어요." 머스크는 말한다. "그래서 나도 이렇게 나갔지요. '래리, 당신이 Al 안전에 대해 그렇게까지 무신경하지만 않았어도 이렇게 대항 세력을 모을 필요조차 없었을 거 아니오." 

 인공지능에 대한 머스크의 관심은 다양한 관련 프로젝트의 출범으로 이어 졌다. 인간의 뇌에 마이크로칩을 심는 것을 목표로 하는 뉴럴링크, 인간을 닮 은 로봇인 옵티머스, 수백만 개의 영상으로 인공신경망을 훈련시켜 인간의 뇌 를 시뮬레이션할 수 있는 슈퍼컴퓨터 도조 등이 여기에 포함된다. 그는 또한 테 슬라 자동차의 자율주행 기능을 개발하는 데 집착하게 되었다. 처음에는 이러 한 노력들이 다소 독립적으로 진행되었지만, 결국 머스크는 인공일반지능이라 는 목표를 추구하기 위해 엑스닷에이아이x라는 새로운 챗봇 회사를 설립해 그 모든 것을 하나로 통합하기에 이른다. 

 자신의 회사에 인공지능 역량을 구축하겠다는 머스크의 결심은 2018년 오픈AI와 결별하는 원인이 되었다. 그는 구글에 뒤처지고 있다는 생각에 오픈AI 를 테슬라에 통합해야 한다고 올트먼을 설득하려 애썼지만, 오픈AI 팀은 이를 거부했다. 올트먼은 연구소의 사장으로 취임하여 주식으로 자금을 조달할 수 있는 영리 부서를 신설했다. 

 그래서 머스크는 테슬라 오토파일럿을 개발할 라이벌 AI 팀을 구축해 독자 적으로 치고 나가기로 결정했다. 네바다와 프리몬트의 생산량을 급증시켜야 하는 문제를 해결하느라 정신이 없는 와중에도 그는 오픈AI에서 딥러닝 및 컴 퓨터 비전 전문가 안드레이 카파시를 빼내와 테슬라의 인공지능 프로젝트를 이끌게 했다. "우리는 테슬라가 AI 회사가 될 것이며 같은 인재를 두고 우리와 경쟁하게 될 것이라는 사실을 깨달았습니다." 올트먼은 말한다. "우리 팀원 중 일부는 화를 냈지만 나는 무슨 일이 일어나고 있는지 완전히 이해가 되었습니다." 올트먼은 2023년 머스크 밑에서 일하다 지친 카파시를 다시 데려오면서 상황을 반전시켰다.

일론 머스크 Elon Musk