@
AI 기업에 대한 역풍... 자초하고 있는 일
(아래 원문 발췌)
며칠 전 샘 올트먼 집 대문에 화염병 같은 게 날아들었다. 20세 용의자는 오픈AI 본사에서 체포됐다. 이틀 후 올트먼의 집은 총탄을 맞았다. 20대 용의자가 체포됐다. 인디애나폴리스 시의원 집도 총을 맞았다. AI 지원 데이터 센터 건설을 허용하는 용도 변경안에 찬성한 의원을 겨냥한 테러였다. 모두 역효과만 낳는 폭력 행위지만 AI 산업이 극도의 적대감과 불신을 촉발하고 있다는 신호이기도 하다.
올트먼은 블로그에 이 사건을 언급하는 글과 함께 남편과 자녀의 사진을 올리며 인류애를 호소했다. “우리는 과격한 언사와 전술을 자제해야 한다”라고 썼다. 그가 인정하지 않은 점은 AI에 대한 과장된 종말론적 수사의 상당 부분이 업계 내부에서, 심지어는 그의 입에서 나왔다는 사실이다. 2015년의 잊을 수 없는 한 구절만 인용하면, “AI가 세상의 종말을 초래할 가능성이 아주 높다고 생각하지만, 그동안 진지한 기계학습을 바탕으로 훌륭한 기업들이 탄생할 것이다.” 심지어 최근 블로그 글에서도 그는 “AI에 대한 두려움과 불안은 정당하다. 우리는 어쩌면 역사상 가장 큰 사회적 변화를 겪는 중인지 모른다”라고 썼다.
그렇다면 AI 히스테리를 부추긴 책임은 누구에게 있는 걸까? 사람들에게 자사 제품이 삶의 방식을 뒤집어 놓을 것이고, 일자리를 빼앗을 것이고, 심지어 인류에게 실존적 위협이 될 가능성이 매우 높다고 빈번하게 말한다면 사람들은 결국 그 말을 믿기 시작할지도 모른다. 최근 갤럽이 Z세대 대상으로 설문조사한 걸 보면, 응답자의 42%가 AI에 대해 불안을, 31%는 분노를 느꼈다.
AI 기업들은 항상 자기합리화의 역설에 의존해 왔다. 개발 중인 기술의 위험이 너무나 크기 때문에 대중의 유일한 선택은 소수의 불투명한 기업들을 믿는 거라고 했다. 내가 세상을 끝내지 않으면, 훨씬 더 위험한 누군가가 끝낼 것이라는 식이다. 이들의 기업적 책략이 우리 경제의 성장과 전쟁 수행 방식, 정치 메시지의 확산 방식에 영향을 미치고 있다는 사실이 점점 더 분명해지고 있는 상황에서 그들은 오직 자신이 정한 수준의 투명성 위에서 AI로 사회 변화를 주도할 생각을 하고 있다. ‘사실상의 세계 황제’가 되려 한다.
오픈AI는 AI 시대에 “사람을 최우선할 것”이라는 의지를 밝힌 산업 정책 계획을 발표했다. 이 문서의 어조는 기껏해야 위선적이며, 마치 이미 의도된 대로 진행되고 있는 게 아닌 듯, AI로 인한 경제적 이익이 “오픈AI와 같은 소수 기업에 집중될” 수 있다는 우려를 표하고 있다.
AI 혁명을 주도하는 이들에겐 끊임없는 과대망상이 존재한다. 올트먼은 블로그 글에서 AGI를 <반지의 제왕>에 나오는 절대 반지 같다고 썼다. 경쟁사인 앤트로픽은 업계에서 안전을 중시하는 ‘착한 기업’으로 자신을 홍보해 왔다. CEO인 아모데이는 AI 안전 문제로 오픈AI를 떠난 데 이어 최근엔 완전 자율 무기에 AI 사용하는 문제 두고 미 국방부와 결별했다. 하지만 앤트로픽은 오픈AI와 마찬가지로 천문학적인 규모의 기업공개를 앞두고 있어, 회사의 마케팅 과대광고와 진짜 안전 우려를 구분하기가 어렵다. 지난주 앤트로픽은 새 모델인 미토스가 너무 강력해 일반에 공개할 수 없다고 발표하면서 미 정부를 포함한 특정 기업 및 기관에만 조기 접근 권한을 부여해 사이버 보안 위협에 대비할 수 있게 했다.
현재 나오는 초기 테스트 결과는 앤트로픽의 경고를 뒷받침하는 듯하다. 영국 정부 산하 기관인 AI 보안 연구소는 미토스가 취약한 네트워크에 다단계 공격을 자율적으로 수행할 수 있으며, 이는 전문가가 며칠간 작업해야 할 분량에 해당한다고 밝혔다. 물론 AI 위협에 맞서는 유일한 방법은 더 많은 AI 활용이다. JP모건 시장 및 투자 전략 그룹 의장은 앤트로픽이 때때로 “소화기를 파는 방화범처럼 느껴진다”고 적었다.
아모데이가 클로드에 대해서도 비슷한 우려를 표명했지만 오픈AI가 챗GPT 출시한 후에야 이를 공개했던 점을 고려하면, 앤트로픽이 위험 모델 억제할 거라고 믿는 것은 미심쩍다. AI 개발은 경쟁이 신중함보다 우선시되는 통제 불능의 기업 간 군비 경쟁으로 바뀌었으며, 미국의 두 거대 기업은 서로간은 물론 급속도로 발전하는 중국 및 오픈소스 모델들과도 경쟁하고 있다.
AI 산업은 지금까지도 총기, 의약품, 환경 화학 물질 등 다른 위험 기술을 규제하는 어떤 규정도 적용받지 않고 있다. 이 기술은 규제 정책보다 더 빠르게 진화해 왔는데, 기업들이 규제 도입 지지하는 척하면서도 실제로는 무력화하기 위해 은밀히 움직여 왔기 때문이다. AI 기업들의 법적 책임을 면제해 주는 일리노이주 법안 제정을 지지한 것이 그 예다.
누가 억만장자 기술 기업 경영진을 선출되지 않은 사회 공익의 수호자로 신뢰할 수 있을까? 지난 10년 우리는 베조스가 워싱턴 포스트 인수 후에 정치화한 뒤 껍데기만 남게 만든 걸 지켜봤고, 머스크가 트위터를 인수해 중립적인 공론장 만든다는 명분으로 파괴하는 걸 목격했으며, 저커버그가 청소년 정신 건강 해치는 플랫폼을 고의로 조장하는 것 지켜봤다. 오픈AI도 순수 비영리 단체에서 세계에서 가장 가치 있는 영리 기업 하나로 변신했음에도 올트먼은 마치 독립 싱크탱크에서 일하는 것처럼 여전히 우리에게 ‘좋은 거버넌스’ 조언하고 있다.
이들은 커져가는 불안을 해소하기 위해선지 최근 더 고상한 모습을 보이려 다양한 노력을 기울이고 있다. 앤트로픽 선례를 따라 구글 딥마인드는 최근 사내 철학자를 채용했고, 앤트로픽은 자사 챗봇의 도덕적 방향성을 논의하기 위해 기독교 지도자 회의를 소집했다. 더 효과적인 전략은 AI 경영진이 스스로 안전의 유일한 심판자인양 자처하는 것 멈추고, 맹목적인 믿음 요구하는 것 그만두고, 대중의 의견과 참여를 반영한 외부 책임 체계를 구축하는 것이다.
정부 재편 방안을 제안하는 기술 기업들은 시민들 소외시키는 일종의 '기술 파시즘'을 보여주는 것이다. 만약 AI가 새로운 사회적 계약이나 정치적 위계 구조를 필요로 한다면 그 형태를 결정할 권한은 기업들에 있어선 안 된다. AI 창업자들 메시지 뒤엔 또 다른 우려스런 역설이 숨어 있다. 그들 주장대로 이 기술이 그토록 막강하다면 그들은 우리를 존재론적 재앙으로 이끌고 있는 셈이고, 과대광고만큼 혁신적이지 않아 가치가 떨어진다면 우리를 세계적 경제 재앙으로 내몰고 있는 것이다. 어느 시나리오도 우리에겐 그닥 매력적이지 않다.
