[You Tube 요약] Palantir CEO Alex Karp on AI, Regulation, and the World Order | Munich Security Conference
이 영상은 Munich Security Conference에서 열린 회의에서 Palantir CEO Alex Karp, Oracle, NXP Semiconductors, 및 Comisión Europea의 임원들간에 인공지능(AI) 및 규제에 대한 토론하는 내용을 다루고 있습니다.
링크: https://youtu.be/Jb2oh0kAKCA?si=8MYFuV4cbvL6AsLU
타임라인: 팔란티어 CEO 알렉스 카프가 말하는 AI, 규제, 세계 질서 | 뮌헨 보안 컨퍼런스
00:00:00 사이버 보안에서 정부와 기업 간의 역할에 관한 생각
00:02:05 시장 자율규제 vs 규제 지지, AI 발전을 중심으로 이야기.
00:03:16 인공지능 기술에 대한 국제적 협력 및 기술 활용에 대한 소개
00:04:40 중요한 것은 지금 대처하는 것이다
00:05:29 ️미국 기술 기업들의 인공지능 책임에 대한 생각
00:06:36 ️사이버 보안 중요성 강조
00:08:07 ️인프라 보안과 투명성은 중요, 규제는 고객의 신뢰를 위한 긍정적인 조치
00:09:09 AI와 데이터의 중요성
00:13:49 과 이전을 걱정하며, 규제가 개방을 유도한다는 점에 대해 이야기함.
00:15:03 미국의 군사적 이점은 최고의 소프트웨어 전문가를 보유하고 있으며, 소비자 분야에서의 기술 혁신을 활용해야 한다고 주장.
00:16:06 AI 기술의 미래, 클라우드는 성능은 좋지만 안정성과 개인정보 보호 문제가 있으며, 미국보다 유럽이 엣지 AI 분야에서 이점이 있다고 봄.
00:17:05 ️유럽에서의 경쟁과 디지털 서비스의 책임
00:21:36 정부는 기존 규제 체계의 한계를 인지하고, 기술 분야에 적합한 혁신적인 규제 방식을 구축해야 한다.
00:23:58 ️높은 위험과 책임은 적극적인 협력으로 나눠야 한다.
00:25:33 행성을 위협하는 현상에 대해 우려하고, 규제와 자발적 약속의 중요성을 강조함.
00:28:06 규제와 투명성을 지지하지만 적용이 필요함
00:30:34 경쟁력 확보를 위해 신뢰성을 갖춘 제품과 서비스를 제공하는 것은 중요하다.
00:31:26 현재 중국 소비자들의 생각을 모르지만, 세계에서는 신뢰성 있는 과학에 대한 필요성이 큽니다.
00:32:34 규제가 혁신의 방해가 되면 안되는데, AI 기술과 지속 가능한 혁신을 중요시 여기며 중국의 참여도 필요하다는 의견.
00:34:28 EU-중국 간 '디지털 다이얼로그' 덕분에 기술 분야에서도 협력 가능
00:35:45 타이차를 좋아하며, 미국 경제가 중국 경제에 지나치게 의존한다는 입장. 하지만 미국 언론에서는 그것이 잘못된 것이 아니라고 봄.
00:36:40 미국과 동맹국이 세계질서를 지배하게 해야함. 이를 위해 소수인종 포함한 문화적 융합이 필요하다.
00:37:34 ️미국과 중국 간의 대화와 문화 이해의 중요성에 주목하며, 기술 이전은 제한적으로 진행되어야 한다고 강조.
00:38:38 ️ AI 소비자 이용에 대한 규제 환경을 조율하는 중.
00:41:41 이스라엘과 우크라이나에 대한 입장을 밝히며, 국제 시민주의와 회사의 책임성을 강조함.
요약: 팔란티어 CEO 알렉스 카프가 말하는 AI, 규제, 세계 질서 | 뮌헨 보안 컨퍼런스
"Oracle"의 최고 임직원인 Safra Katz, "NXP Semiconductors"의 Kurt Sievers, "Palantir"의 Alex Karp, 그리고 "European Commission"의 Margaret Steyer가 존재하는 회의에서 각자의 생각을 공유했어요.
각자의 의견에는 사이버 보안 분야에서 기술 발전에 대한 견해가 상이하며, 생성적 AI의 발전으로 인해 이견이 더욱 심화된 것으로 전해졌어요.
또한 정부와 민간 섹터 간의 역할에 대해서도 의견 차이가 있었는데, 마지막 30년 동안의 공정한 접근이 충분히 안전하지 않은 생태계를 만든 점 때문에, 정부가 기술 발전의 규제에 더 큰 역할을 해야 한다는 주장도 있다고 해요.
일부 사람들은 개별적인 규제 모델을 지지하지만, 시장 자체를 규제하고, 규정기관의 구조가 혁신을 저해한다고 믿는 사람들도 있어요.
규제에 대한 논쟁이 매우 극명하지만, 어떤 사람들은 하이브리드 모델을 지지하며, AI 발전과 관련된 논의가 이루어졌죠.
최근 AI의 발전으로 인해 많은 변화가 있었고, AI 활용이 중요하다는 인식이 높아졌어요.
또한 AI에 대한 규정 조치가 오랫동안 논의되어 왔으며, AI법을 통해 조직을 운영하고 있어요.
유럽에서 2년 반 동안 인공지능 기술이 발전하면서 그 활용에 대한 새로운 기회와 법적 접근 방식이 필요하다는 생각을 하게 되었어요.
2021년 첫 테크 노동의 지능화 회의에서 미국과 EU간의 인공지능 접근 방식을 위해 위험을 기반으로 한 규제가 필요하다고 알려, 기술 자체보단 사용을 규제해야 한다고 언급하였어요.
또한 양쪽이 이 문제에 접근할 때, 혁신이나 연구에 규제를 두면 안되며 서로 상호 이해를 바탕으로 함께 접근해야 한다고 강조하였어요.
미국과 유럽연합은 일본의 지도 아래 G7에서 윤리강령 수립을 추진하고 있어요.
인공지능의 행위에 대한 대처책, 윤리강령, 정책 등을 세울 수 있지만, 지금 바로 조치를 취해야 해요.
인식(Perception)이 독재체제 이후 발전한 것처럼, 우리가 지금 조치를 취하지 않고 적극적으로 움직이면 민주주의에 대한 위협이 커질 거에요.
뮌헨 인공지능 합의에 대해 긍정적인 변화가 일어나는 것이 좋다고 생각해요.
G7 행동강령에 명시된 사항들이 대통령 명령서를 통해 실현되는지 지켜볼 가치가 있다고 생각해요.
모델 기반 언어와 생성 공학의 영향력이 증가함에 따라 테크 기업들이 책임을 져야 하는 중요성을 강조하고 있어요.
사프라 위원은, 리스크 접근 방식이 절대적으로 중요하다며 베스타거 부총재와 의견이 일치한다고 밝혔어요.
이를 통해 기술 기업들 및 공공시설 기업 및 인프라 제공업체가 역할을 충실히 수행하도록 보장한다고 생각해요.
지금은 위험한 시기이며, 사이버 보안과 정보는 무기 시스템이에요.
오래전부터 있었던 다양한 시스템 중 많은 시스템이 인터넷에서 사용될 것을 고려하여 제작이 되지 않았는데, 그것들이 보호 되어야 할 필요가 있어요.
더군다나, 인공 지능 발전에 따른 과거와 달리 AI 한정정책이 필요하며, 그렇게 하지 않으면, Monopoly와 같이 혁신을 저해하는 회사들이 있기 때문이죠.
기술을 발전시키는 것 뿐 아니라, 보안과 계속적인 이론적 개발을 함께해야 해요.
기술의 발전으로 인해 세월은 동안처럼 빠르게 흘러갈 뿐 아니라, 많은 것들은 돌이킬 수 없게 된다는 것에 동의해요.
특히, AI가 공격과 방어에 모두 사용된다는 점에서 중요한 인프라 보안에 대한 대비책이 절대적으로 필요해요.
더불어, 규제는 고객들이 신뢰할 수 있는 AI 사용 환경을 만들어 나가기 위해 필요한 긍정적인 조치라고 생각해요.
이때 필요한 것은 ‘투명성(Tansparenz), 보안(Sicherheit), 그리고 보호(Schutz)’입니다.
AI의 성능은 데이터의 가용성에 달려있어요.
미국과 유럽의 데이터 시퀘리티 시스템은 차이가 크기 때문에, 강력한 시스템으로 유럽과 미국 간의 데이터를 공유해야 한다고 생각합니다.
하지만 러시아, 중국, 이란은 규제에 대한 달성도가 떨어져 사이버 규정이 어려울 것이라는 우려가 있어요.
미국이 AI 분야에서 선두에 있다보니, 유럽 기술 업계가 따라 잡으려고 했을 때, 제한 조치를 취한다면 오히려 역효과를 낼 수 있다고 생각해요
유럽은 현재 경제성장이 좋지 않아요.
그렇기 때문에 미국과 유럽은 매우 다르며, 규제는 개방을 의미한다고 해요.
미국과 유럽을 모두 응원하는 입장에서도, 유럽의 위험성을 걱정하고 있어요.
또한, 사이버보안에 대한 대비를 모든 서비스 제공업체에 요구해야 한다는 견해를 동의한다고도 이야기 했습니다.
미국은 유럽 뿐만 아니라 소프트웨어 분야에서 최고의 선두 위치를 차지하고 있어서 군사적 이점을 가지고 있어요.
소비자 분야에서의 기술 혁신은 규제되어야 하지만, 위험 모델에 대한 우려가 있어도 그에 동의합니다.
그러나 군사 무기 분야의 임무 확장은 신뢰할 수 있는 기술에 초점을 맞추는 것이 좋아요.
어떠한 규정을 하더라도 기술적인 전문가의 지원과 적용이 필요하며, 이는 큰 도전이라는 것을 알 수 있어요.
최근에는 엣지 AI에 관한 이야기가 늘어나고 있지만, 미래 AI는 약 50%씩 섞여있을 것입니다.
클라우드 AI는 대규모 데이터 센터에서 처리되므로 개인정보 보호와 에너지 소모 문제가 있지만, 엣지 AI는 작은 기기들을 통해 분산되어 처리되므로 보안성과 에너지 소모 면에서 강점이 있습니다.
미국과 유럽은 클라우드와 엣지 시스템을 병행하며 협력하는 것이 중요합니다.
특히 클라우드는 미국, 엣지 AI는 유럽이 이점이 있다고 생각합니다.
유럽의 입법은 경쟁과 혁신을 촉진하는 마켓을 열었죠.
하지만 큰 기업들은 자신들에게 규칙이 적용되지 않는 것처럼 동작하고, 혁신자들이 어려움을 겪어요.
유럽은 테크 시장에 대한 우려가 있지만 독자적인 GDP 성장률을 보이고 있어요.
그래도 유럽과 미국 사이에서는 문제가 있는데, 그 중 하나는 기술적인 문제라고 해요.
앞으로 우리는 데이터와 소프트웨어를 공유해야 한다고 생각해요.
규제와 제한의 차이를 강조하며, 기술 산업은 빠르게 변화하기 때문에 시대에 맞지 않는 규제 체계를 적용하는 것은 어렵고 비효율적이에요.
정부와 규제 기관은 기술의 발전에 맞춰 신속하고 유연하게 대응할 수 있는 새로운 규제 방식을 설계해야 하죠.
이에 관련해 AI 국가 안보위원회에서도 기술의 빠른 발전을 인정하면서도, 보고서에는 생성 모델 관련 내용이 없는 등 규제와 기술 발전 속도의 불일치를 언급했습니다.
위험과 책임을 능력이 있는 사람들이 적극적으로 나눠야 하는데, 그렇지 않으면 무료라이딩과 같은 시장 힘 이슈가 발생할 수 있어요.
독점적 시장 문제 때문에 경악스럽게도 경쟁사와 대화할 수 없다는 조항이 포함된 계약을 제안받은적이 있다고해요.
고객은 항상 최고의 서비스를 원하기 때문에, 더 나은 제품이 있을 경우 대화하지 못하게 하는 것에 대하여 문제점을 제기합니다.
인텔리전스 기관이 경쟁사와 대화하지 못하게 막는 계약조항을 제안받은 경우가 있었는데, 이러한 것은 언제나 고객의 손해가 될 수 있기 때문에 충격을 받았어요.
행성을 위협하는 현상을 우려하며, 규제와 자발적 약속의 중요성을 강조합니다.
규제에 대해 긍정적인 입장을 취하며, 누구든 의견을 제시할 수 있도록 토론의 기회를 부여하고, 자발적 약속을 통한 규제 방안에 대한 생각을 공유합니다.
결과를 얻기 위해서는 법적 규제가 필요하다고 인식하며, 규제에 따른 부담을 최소화하여 비즈니스 커뮤니티에 더 가벼운 책임을 지게끔 하는 것이 필요하다 말합니다.
또한 규제 내용을 유연하게 조정할 수 있는 여지를 남겨두는 것이 좋다 생각합니다.
'규제가 강제로 시행되는 것'을 지지하지만 독일에서는 항상 공정하게 적용된다는 주장을 소문낸다고 이야기했어요.
'독일처럼, 덴마크와 같이 규제 규칙을 적당히 적용하는 것이 기업가 정신을 사귀어 테크 활성화에 이바지할 것'이라고 강조하면서 투명성과 규제의 필요성에는 동의하지만, 적용되어야 한다고 말해요.
그리고 규제가 실제로 실행되어야 합니다.
이를 위해서 '유연한 규제 실행 방법'을 참고하며, 덴마크를 멋진 규제 사례로 예시를 들어 말하였습니다.
정보보안에서의 협정을 들어 예시로 들었던데, 유럽에서는 산업계 주요 참가자들이 함께하는 '신뢰 협정(trust treaty)'이 있었어요.
이제 이 협정이 미국으로 이어지고 있으며, 신뢰 협정 인증서를 소지하는 제품은 보다 안전하다는 장점을 가지고 있어요.
소비자들은 안전한 제품을 원하는 경쟁력과 더불어 이러한 신뢰 협정이 제공하는 것에 대한 강한 요구를 가지고 있어요.
마찬가지로 과학 분야에서도 소비자들은 신뢰성이 요구되고, 현대인들은 그러한 요구와 이미 신뢰를 기반으로 제품을 찾고 있어요.
신뢰성은 서비스와 제품에서 경쟁력을 확보하는 중요한 요소에요.
세계에서는 신뢰성 있는 과학에 대한 수요가 크답니다.
법규제는 소비자의 이익을 위해 적용돼야하지만, 경쟁력에 대한 이익도 중요하죠.
공정적인 법의 적용이 필요하다는 것은 사실이지만, 이것이 제대로 이루어지지 않았다고해서 앞으로 시도하지 말아야 하는 것은 아닙니다.
우리가 공유하는 목표를 달성하기 위해 제도가 필요하며, 이를 공정하게 적용하기 위해 노력해야 한답니다.
규제가 혁신의 방해가 되면 안되는다고 생각하며, 경쟁적인 세계에서 혁신은 소비자의 이익을 위해 이루어져야 한다고 믿어요.
혁신에 대해 언급하면서 엣지 AI라는 개념을 소개했어요, 이는 이전에 논의한 몇 가지 우려 사항들을 해결하는 방법이에요.
현재 어느 통신사에서는 대역폭의 25%가 데이터 암호화와 복호화에만 사용되고 있다는 정보를 들었어요.
이는 핸드폰에서 데이터 센터로 데이터를 암호화, 복호화하여 전달하는 과정인데, 이는 내가 생각하기에 확장이 불가능하고 에너지 소비량도 많아요.
그래서 엣지 AI라는 개념에 집중해야 한다고 생각하는데, 이는 데이터 보호와 지속 가능성 관점에서 많은 장점을 가져다준다고 생각해요.
중국은 AI 분야의 규제법을 냈어요.
EU-중국은 '고수준 디지털 대화'를 통해 모든 종류의 기술을 포함한 협력을 하고 있어요.
경쟁관계에 있으며, 체제 차이로 대립하지만 기술 발전, 거버넌스, 시장에서의 규제와 가능한 요소 등 다양한 쟁점에서 협력해야 한다고 봐요.
우리는 기술 발전과 기후 변화 문제 해결을 위해 중국과 함께 일할 필요가 있어요.
여전히 공유 가능한 부분이 있어 서로 경험 교환 등 협력을 이어나가야 한다고 생각합니다.
저는 중국 문화를 존경하며 절반 이상의 시간을 타이차 연습에 쓰고 있습니다.
미국은 중국 경제에 너무 의존하고 있다고 생각하지만, 미국 언론에서는 굉장히 안심할만한 일이라고 말합니다.
미국과 중국, 그리고 그동안 동맹 관계였던 나라들이 상호 협력할 수 있는 관계를 맺을 수 있길 바라며, 이것이 가능해질 때까지는 아직 멀은 길이라고 생각합니다.
20년 전 그의 중국에 대한 무기 반입에 대한 주장은 열풍일 정도였지만, 현재에는 미국 내에서 매우 수용되는 견해가 되었습니다.
이는 기술력을 지닌 우크라이나, 이스라엘 등의 나라에게 필요한 기술을 충분히 제공해줄 필요가 있다고 주장하고 있습니다.
전세계질서를 지배할 기술과 무기의 제어권은 서양, 특히 미국과 동맹국에게 있어야 한다고 생각합니다.하지만, 제어를 위해 악의적인 태도, 소수인종에 대한 차별 등은 남용할 수 없다고 생각합니다.
또한, 서양의 핵심 가치 중 하나가 소수인종의 문화적 융합을 이루는 것이기 때문에 외국 유학생인 제가 이에 포함된다고 생각합니다.
미국이나 서양에서 만들어진 기술은 동맹국에만 팔리게 하고, 서양의 모든 정부가 이용할 수 있도록 만들어야 한다는 생각이 있지만, 그것이 쉽게 가능할지는 모르겠습니다.
경제적 안보와 신뢰할 수 있는 공급 업체를 위해 5G 도구상자를 사용하고 있고, 중국 리더와 정상회담을 갖는 것에 대해 찬성해요.
중국과 관련된 다양한 문제에 대해서는 전문가는 아니지만, 소프트웨어 기반 전쟁 무기와 인공지능을 활용한 개발에는 전문성이 있어요.
기술 이전은 불가능하다고 생각하면서, 그 외의 영역에서는 대화를 통해 상호 이해와 개발이 중요하다고 봤고, 이를 자깊게 이행해야 한대요.
중국 문화를 이해하는 것이 중요하고, 편견 없고 개방적인 방식으로 수행되어야 하지만, 기술의 분야에서는 굳은 한계를 두고 강제적으로 이행하려고 한대요.
AI의 소비자 이용과 관련된 규제 환경을 조율하는 것에 대해 확실히 찬성해요.
무기에만 집중하는 것이 아니며, 기술을 중국에 판매하는 것도 모두가 관심을 가지고 있는 거대한 시장이죠.
소비자 이용에 대한 규제 환경이 서구 세계가 합리적으로 여기는 것으로 중국과 조율되면 이에 해를 보는 것은 없다고 생각해요.
그것은 제품의 도착이 아니라 규제 환경을 이해하는 것이 중요해요.
중국과 경쟁하고 있는 나라에게 소비자로 보는 쌍목적 기술을 판매할 계획이 있음을 분명히 표현하는 것은 중요합니다.
이스라엘과 우크라이나에 대한 입장에서 오른쪽과 왼쪽의 차이를 보지 않고 테러리스트와 여성 학대를 행하는 회사를 거부해요.
회사는 다양한 관점을 가지지만 국제 시민주의로서 책임을 가진다고 강조하며, 세커리티 컨퍼런스 참석자들에게 감사하고 존경해요.
세커리티의 문제는 책임의 일부이며, 국제 시민주의도 존재한다고 말해요.
진실을 알고 살면 삶이 훨씬 편해진다고 덧붙이면서, 책임 있는 시민으로 성장하는 중요성을 강조해요.
다양한 영향력 있는 사회적 리더들이 이스라엘 문제에 대해 용기를 내며, 영웅 중 한 명으로 꼽히는 사우퍼에게 감사의 말을 전해줘요.
댓글
댓글 쓰기