이광석 KS Lee

<AI 미디어 생태학>이 인쇄를 마치고 온라인서점에 오늘 9/25일(목) 등록됐습니다. 많은 관심 부탁드립니다. [알라딘서점] aladin.co.kr/shop/wproduct.… [예스24] yes24.com/product/goods/… [교보서점] product.kyobobook.co.kr/detail/S000217…

메타는 성과 평가용이 아니라고 선을 그었지만, 전문가들은 키 입력 기록이 근로자에 대한 고도의 감시를 강화할 것이라고 경고. 특히 유럽 GDPR 등 규정 위반 소지와 함께, 직원 제공 데이터가 결국 자신의 업무를 자동화해 일자리를 위협하는 역설적 상황 우려 확산. aipostkorea.com/news/articleVi…

여러모로 제 부족한 책이지만, 시간되는 분들은 함께 < AI 미디어 생태학>을 읽어요. 미래이후연구소가 2회차로 기획했습니다. 저자의 짧은 강연, 저자와 함께 하는 참석자 난상 토론으로 진행합니다. 시작 전 샌드위치가 제공됩니다. 큐알로 사전신청하세요. 인원 제한이 있습니다.

※ 구글폼 등록신청: forms.gle/tpxQfAnLopnJAc…

“숙련과 경험이 AI로 전환돼 생산성이 높아질 경우 그 이익을 어떤 방식으로 배분할지 사회적 합의가 없다” “막대한 노하우를 수집한 기업이 성과를 독점하게 되는 것 아니냐” “AI 도입은 일자리 축소와 직무 재편 같은 구조적 변화를 불러올 것”... khan.co.kr/article/202604…

[성명] 다누리콜센터 AI 전환에 깊은 우려를 표합니다 - AI만 도입하면 다 된다는 식의 정책, 근본적 해결책을 제시하라 최근 정부가 공공영역 AI 전환을 추진하며, 다문화가족 지원 상담 창구인 다누리콜센터에 AI 상담 시스템을 도입할 예정이라고 밝혔습니다. AI가 도입되면 야간이나 휴일처럼 인력이 부족한 시간대에 활용할 수 있어 부담이 덜 것이라는 기대도 나옵니다. 과연 그럴지 묻지 않을 수 없습니다. AI만 도입하면 다 된다는 식의 정책 설계는 아무것도 해결할 수 없습니다. AI 도입 전, 우리가 물어야 할 질문이 있습니다. 왜 다누리콜센터의 인력이 부족한지에 대한 문제입니다. 다누리콜센터는 이주여성을 돌보는 노동자들로 구성된 기관입니다. 우리 사회에서 돌봄 노동은 꾸준히 저평가 되어 왔고, 그 저평가의 결과는 다누리콜센터의 인력 부족으로 이어졌습니다. 과연 AI를 도입하기만 하면 이 문제가 나아지는지, 오히려 다누리콜센터 노동자가 AI에 의해 대체되는 것은 아닌지, 우리는 물어야 합니다. 다누리콜센터는 다문화가정의 폭력 피해 긴급 지원, 가족 상담, 생활 정보 제공 등 위기 상황에 놓인 시민을 만나는 최전선의 공공서비스입니다. 단순 번역이나 정보 전달을 넘어 복합적인 법률, 복지, 폭력 대응이 결합 된 고난도의 상담인 셈입니다. 13개 언어로 24시간 상담을 제공한다고 합니다. 그런 긴급한 상담을 연간 수십만 건이나 처리하는 이곳에 가장 중요한 것은 사람의 판단과 공감, 현장을 경험한 사람들에게서 나오는 전문성입니다. 그러니 보다 근본적인 해결이 필요합니다. 정부가 추진하는 AI 정책이 진정으로 이용자와 노동자 모두를 생각하고 있다면, 비용절감의 관점이 아닌 노동자와 이용자의 관점에서 설계되어야 합니다. 공공서비스 영역에서의 AI 도입에 대한 노동 영향 평가와 사회적 논의를 선행하고, 상담 노동자의 고용 안정과 서비스 품질을 보장하는 원칙을 분명히 마련해야 합니다. 디지털 전환에 따른 최소한의 사회적 안전망을 구축해 두어야 합니다. 노동자가 존중받지 못하는 전환은 결코 미래가 될 수 없습니다. 기술은 사람을 대체하기 위해 존재하는 것이 아니라 사람을 돕기 위해 존재해야 한다는 것을 분명히 말합니다. 공공서비스의 최전선에서 일하는 상담 노동자들을 실험 대상으로 삼는 AI 전환 말고, 노동과 시민 모두를 지키는 정의로운 AI 전환 정책을 강력히 촉구합니다. 2026년 4월 23일 권영국 서울시장 예비후보

이번 정부는 산 노동을 제공하는 인간을 짓뭉개는“역사의 수레” 쪽에 가담하고 있구나. labortoday.co.kr/news/articleVi…

제가 몸담고 있는 학과에서 박사 과정과 석박사통합 과정 학생을 모집합니다. 많은 관심바랍니다.

학교에서 미디어 리터러시(문해력) 교육을 평균보다 많이 받은 중·고등학생이 적게 받는 학생보다 ‘가짜뉴스’를 더 신뢰하는 경향을 보였다는 연구 결과가 나왔습니다. 학교에서 이뤄지는 미디어 리터러시 교육이 제 역할을 못하고 있다는 점이 드러난 것입니다. 남학생이 여학생보다 가짜뉴스를 더 신뢰하는 경향도 연구에서 확인됐습니다. hani.co.kr/arti/society/s…

Rejecting the use of GenAI for qualitative research on the grounds of ethical concerns/social and environmental justice (not just methodological concerns) is valid and important. That is why I like this letter written by qualitative researchers from 32 countries:

<테크노퓨달리즘> 저자 야니스 바루파키스가 팔란티어가 앞서 올린 요약 선언문을 항목별로 분석. ‘신자유주의의 종언과 테크영주지배체제Techlordism의 개막’을 알린 포고문이라고 해석.

레인 누니 지음. 헉 이게 나왔네. “개인용 컴퓨터가 촉발시킨 소프트웨어 중심 사회의 대전환! 상업적으로 가장 큰 성공을 거둔 최초의 '개인용 컴퓨터' 애플 II에서 시작된 소프트웨어 혁명과 기술 자본주의의 탄생을 추적해본다.” aladin.kr/p/hSltL

팔란티어 창업자 알렉스 카프와 동료가 쓴 책이 우리말로 <기술공화국 선언>이란 제목으로 번역되어 알라딘에선 ‘편집장의 선택’으로 추천까지 된 모양인데 저희들이 직접 요약문까지 올렸다. 읽어 보면 이들의 생각이 얼마나 기술 파시스트 제국주의+군국주의적이고 우월주의에 차 있는지 알 수 있다.

@LeftSentThis @agustin_ICIJ Here is the link to my article on technofascism link.springer.com/article/10.100… including the image

AI는 인간 같은 일반 지능 아닌 ‘들쭉날쭉 지능’ AI가 뛰어난 분야 일자리 타격도 먼저 올 것 (아래 원문 발췌) AI는 수학 분야에선 이미 스타 학생이다. 하지만 인간의 상식은 여전히 못 따라간다. 어떨 땐 천재 같다가도 다른 순간엔 멍청해 보이는 AI를 두고 ‘들쭉날쭉 지능jagged intelligence’이라고 부른다. 이걸로 AI가 수학이나 프로그래밍 같은 분야에선 비약적으로 발전하고 있는 반면, 다른 분야에선 여전히 별 진전 못 이루는 이유를 설명한다. 연구자들은 AI가 어떤 작업에선 인간보다 훨씬 뛰어나지만, 다른 작업에선 훨씬 못 미친다는 점에서 인간 지능과 완전히 다른 존재라고 주장한다. 강점과 약점을 이해하면 고용의 미래를 파악하는 데에도 도움될 수 있다. 예컨대, 초급 개발자들은 일자리 걱정할 이유가 있지만, 적어도 현재로선 다른 직종에 미칠 영향은 명확하지 않다. 하지만 AI가 급속한 발전을 시작하는 분야를 보면 어떤 직종이 크게 영향받을지 예측하는 데 도움될 수 있다. 들쭉날쭉 지능이란 말은 오픈AI 창립 연구원이자 주요 논평가인 안드레이 카르파티가 만든 것이다. 그는 2024년 소셜 미디어에 “(인간의 기준에서 볼 때) 어떤 것은 매우 잘 작동하는 반면, 어떤 것은 치명적인 실패를 겪는다”며, “어느 게 어느 건지 항상 명확한 건 아니다”라고 썼다. 그는 이게 인간의 뇌와는 다르다고 했다. “인간의 뇌는 많은 지식과 문제 해결 능력이 서로 높은 상관관계를 가지며, 출생부터 성인이 될 때까지 함께 선형적으로 향상된다.” OpenAI가 2022년 AI 붐을 일으킨 이후 기술업계 경영진들은 새 기술이 사무직에 치명적 영향을 미칠 수 있다고 경고하는가 하면, 고용에 대한 장기적 영향은 축소하는 태도를 오가며 줄타기를 해왔다. 기술 발전 속도를 감안하면 AI가 다른 직종 사무직을 대체하는 것은 ‘가능성’이 아닌 ‘시기’의 문제라고 주장한다. 하지만 노동을 대체하지 않고 업무 능력을 보완해 주는 기술의 선례는 이미 적지 않다. 지금 앤트로픽 클로드나 오픈AI 코덱스 같은 시스템도 코딩을 훨씬 더 빠르게 할 수 있지만 각 코드 조각이 더 큰 프로그램 내에서 어떻게 조화를 이루는지 잘 이해하지 못해 인간의 도움이 필요하다. 직업이 (대부분이 그렇듯) 다양한 업무로 구성돼 있다면 일부는 자동화되고 일부는 그렇지 않을 것이다. AI 시스템은 위키백과와 뉴스 기사, 컴퓨터 프로그램, 그리고 인터넷 곳곳에서 수집한 기타 텍스트를 포함한 디지털 데이터의 패턴을 파악함으로써 기술을 습득한다. 하지만 그것만으로는 한계가 있다. 인터넷은 인류 지식의 극히 일부만 담고 있다. 인터넷은 사람들이 디지털 세계에서 하는 일을 기록하지만, 물리적 세계에서 일어나는 일에 대한 정보는 비교적 적다. 이 시스템은 이메일을 작성하고, 질문에 답하고, 거의 모든 주제에 대해 즉흥적으로 이야기하고, 코딩도 할 수 있지만, 디지털 데이터에서 발견한 패턴을 재현할 뿐이어서, 미리 계획을 세우거나 새 아이디어를 창출하거나 이전에 본 적 없는 과제를 해결하는 데는 미숙하다. AI가 가진 것은 일반 지능이 아니라, 수많은 다양한 기술들이다. 현재 기업들은 강화 학습이라는 기법을 사용해 시스템에 추가 기술을 가르치고 있다. 이는 기업들이 올바른 행동과 잘못된 행동을 명확히 정의할 수 있는 수학이나 컴퓨터 프로그래밍 같은 분야에서 효과적이다. 수학 문제의 답은 맞거나 틀리거나, 컴퓨터 코드는 성능 테스트를 통과하거나 실패하거나 둘 중 하나다. 하지만 창의적 글쓰기나 철학, 심지어 일부 과학 분야처럼 옳고 그름의 경계를 명확히 구분하기 어려운 영역에서는 그다지 효과적이지 않다. 현재 모두가 열광하고 있는 코딩은 AI가 수행하는 모든 일을 대표하지는 않는다. 코딩은 피드백 루프를 활용해 무엇이 효과가 있고 없는지 파악하기가 훨씬 쉬운 일이다. 사용자 입장에선 AI가 무엇을 잘하고 못 하는지 구분하기 어려운 경우가 많다. 사람들이 마침내 시스템의 강점과 약점을 확실히 파악했을 때쯤이면 기술은 이미 변해 있다. 변수는 AI가 빠르게 발전하고 있다는 점이다. 기업들은 결함들을 발견할 테고 계속 수정해 나갈 것이다. nytimes.com/2026/04/15/tec…

"[단독] 간단한 콜만 가져간 AI···월급은 깎이고 악성민원·감정노동만 남았다[딸깍, 노동②] - 경향신문" khan.co.kr/article/202604…

AI 기업에 대한 역풍... 자초하고 있는 일 (아래 원문 발췌) 며칠 전 샘 올트먼 집 대문에 화염병 같은 게 날아들었다. 20세 용의자는 오픈AI 본사에서 체포됐다. 이틀 후 올트먼의 집은 총탄을 맞았다. 20대 용의자가 체포됐다. 인디애나폴리스 시의원 집도 총을 맞았다. AI 지원 데이터 센터 건설을 허용하는 용도 변경안에 찬성한 의원을 겨냥한 테러였다. 모두 역효과만 낳는 폭력 행위지만 AI 산업이 극도의 적대감과 불신을 촉발하고 있다는 신호이기도 하다. 올트먼은 블로그에 이 사건을 언급하는 글과 함께 남편과 자녀의 사진을 올리며 인류애를 호소했다. “우리는 과격한 언사와 전술을 자제해야 한다”라고 썼다. 그가 인정하지 않은 점은 AI에 대한 과장된 종말론적 수사의 상당 부분이 업계 내부에서, 심지어는 그의 입에서 나왔다는 사실이다. 2015년의 잊을 수 없는 한 구절만 인용하면, “AI가 세상의 종말을 초래할 가능성이 아주 높다고 생각하지만, 그동안 진지한 기계학습을 바탕으로 훌륭한 기업들이 탄생할 것이다.” 심지어 최근 블로그 글에서도 그는 “AI에 대한 두려움과 불안은 정당하다. 우리는 어쩌면 역사상 가장 큰 사회적 변화를 겪는 중인지 모른다”라고 썼다. 그렇다면 AI 히스테리를 부추긴 책임은 누구에게 있는 걸까? 사람들에게 자사 제품이 삶의 방식을 뒤집어 놓을 것이고, 일자리를 빼앗을 것이고, 심지어 인류에게 실존적 위협이 될 가능성이 매우 높다고 빈번하게 말한다면 사람들은 결국 그 말을 믿기 시작할지도 모른다. 최근 갤럽이 Z세대 대상으로 설문조사한 걸 보면, 응답자의 42%가 AI에 대해 불안을, 31%는 분노를 느꼈다. AI 기업들은 항상 자기합리화의 역설에 의존해 왔다. 개발 중인 기술의 위험이 너무나 크기 때문에 대중의 유일한 선택은 소수의 불투명한 기업들을 믿는 거라고 했다. 내가 세상을 끝내지 않으면, 훨씬 더 위험한 누군가가 끝낼 것이라는 식이다. 이들의 기업적 책략이 우리 경제의 성장과 전쟁 수행 방식, 정치 메시지의 확산 방식에 영향을 미치고 있다는 사실이 점점 더 분명해지고 있는 상황에서 그들은 오직 자신이 정한 수준의 투명성 위에서 AI로 사회 변화를 주도할 생각을 하고 있다. ‘사실상의 세계 황제’가 되려 한다. 오픈AI는 AI 시대에 “사람을 최우선할 것”이라는 의지를 밝힌 산업 정책 계획을 발표했다. 이 문서의 어조는 기껏해야 위선적이며, 마치 이미 의도된 대로 진행되고 있는 게 아닌 듯, AI로 인한 경제적 이익이 “오픈AI와 같은 소수 기업에 집중될” 수 있다는 우려를 표하고 있다. AI 혁명을 주도하는 이들에겐 끊임없는 과대망상이 존재한다. 올트먼은 블로그 글에서 AGI를 <반지의 제왕>에 나오는 절대 반지 같다고 썼다. 경쟁사인 앤트로픽은 업계에서 안전을 중시하는 ‘착한 기업’으로 자신을 홍보해 왔다. CEO인 아모데이는 AI 안전 문제로 오픈AI를 떠난 데 이어 최근엔 완전 자율 무기에 AI 사용하는 문제 두고 미 국방부와 결별했다. 하지만 앤트로픽은 오픈AI와 마찬가지로 천문학적인 규모의 기업공개를 앞두고 있어, 회사의 마케팅 과대광고와 진짜 안전 우려를 구분하기가 어렵다. 지난주 앤트로픽은 새 모델인 미토스가 너무 강력해 일반에 공개할 수 없다고 발표하면서 미 정부를 포함한 특정 기업 및 기관에만 조기 접근 권한을 부여해 사이버 보안 위협에 대비할 수 있게 했다. 현재 나오는 초기 테스트 결과는 앤트로픽의 경고를 뒷받침하는 듯하다. 영국 정부 산하 기관인 AI 보안 연구소는 미토스가 취약한 네트워크에 다단계 공격을 자율적으로 수행할 수 있으며, 이는 전문가가 며칠간 작업해야 할 분량에 해당한다고 밝혔다. 물론 AI 위협에 맞서는 유일한 방법은 더 많은 AI 활용이다. JP모건 시장 및 투자 전략 그룹 의장은 앤트로픽이 때때로 “소화기를 파는 방화범처럼 느껴진다”고 적었다. 아모데이가 클로드에 대해서도 비슷한 우려를 표명했지만 오픈AI가 챗GPT 출시한 후에야 이를 공개했던 점을 고려하면, 앤트로픽이 위험 모델 억제할 거라고 믿는 것은 미심쩍다. AI 개발은 경쟁이 신중함보다 우선시되는 통제 불능의 기업 간 군비 경쟁으로 바뀌었으며, 미국의 두 거대 기업은 서로간은 물론 급속도로 발전하는 중국 및 오픈소스 모델들과도 경쟁하고 있다. AI 산업은 지금까지도 총기, 의약품, 환경 화학 물질 등 다른 위험 기술을 규제하는 어떤 규정도 적용받지 않고 있다. 이 기술은 규제 정책보다 더 빠르게 진화해 왔는데, 기업들이 규제 도입 지지하는 척하면서도 실제로는 무력화하기 위해 은밀히 움직여 왔기 때문이다. AI 기업들의 법적 책임을 면제해 주는 일리노이주 법안 제정을 지지한 것이 그 예다. 누가 억만장자 기술 기업 경영진을 선출되지 않은 사회 공익의 수호자로 신뢰할 수 있을까? 지난 10년 우리는 베조스가 워싱턴 포스트 인수 후에 정치화한 뒤 껍데기만 남게 만든 걸 지켜봤고, 머스크가 트위터를 인수해 중립적인 공론장 만든다는 명분으로 파괴하는 걸 목격했으며, 저커버그가 청소년 정신 건강 해치는 플랫폼을 고의로 조장하는 것 지켜봤다. 오픈AI도 순수 비영리 단체에서 세계에서 가장 가치 있는 영리 기업 하나로 변신했음에도 올트먼은 마치 독립 싱크탱크에서 일하는 것처럼 여전히 우리에게 ‘좋은 거버넌스’ 조언하고 있다. 이들은 커져가는 불안을 해소하기 위해선지 최근 더 고상한 모습을 보이려 다양한 노력을 기울이고 있다. 앤트로픽 선례를 따라 구글 딥마인드는 최근 사내 철학자를 채용했고, 앤트로픽은 자사 챗봇의 도덕적 방향성을 논의하기 위해 기독교 지도자 회의를 소집했다. 더 효과적인 전략은 AI 경영진이 스스로 안전의 유일한 심판자인양 자처하는 것 멈추고, 맹목적인 믿음 요구하는 것 그만두고, 대중의 의견과 참여를 반영한 외부 책임 체계를 구축하는 것이다. 정부 재편 방안을 제안하는 기술 기업들은 시민들 소외시키는 일종의 '기술 파시즘'을 보여주는 것이다. 만약 AI가 새로운 사회적 계약이나 정치적 위계 구조를 필요로 한다면 그 형태를 결정할 권한은 기업들에 있어선 안 된다. AI 창업자들 메시지 뒤엔 또 다른 우려스런 역설이 숨어 있다. 그들 주장대로 이 기술이 그토록 막강하다면 그들은 우리를 존재론적 재앙으로 이끌고 있는 셈이고, 과대광고만큼 혁신적이지 않아 가치가 떨어진다면 우리를 세계적 경제 재앙으로 내몰고 있는 것이다. 어느 시나리오도 우리에겐 그닥 매력적이지 않다.

인공지능의 확산을 직접 목격하고 쓴 것 같은 마르크스의 글

빠름을 강요하고 새것만을 추구하는 사회에서 학계 역시 노회한 연구자의 ‘학문’을 뒷방 취급하는 정서가 지배적이다. 새로운 서구 이론을 들여와 소개하고 젊은 학문 에너지를 발산하는 이들의 작업만이 인문사회학계의 주된 흐름이 된 지 오래다. kyosu.net/news/articleVi…

다양성·평등·포용DEI 수혜자로 의심받는 것처럼 이제 AI로 인해 모두가 진정성을 믿기 어렵게 됐다 (아래 원문 발췌) 대학 교수로서 나는 우울한 전환점에 도달했다. 이제 학생이 훌륭한 에세이를 제출하더라도 학생 자신만의 주도성, 지성, 재능의 산물이라 확신할 수 없게 됐다. 물론 그런 에세이도 있겠지만 진실을 가려낼 방법은 없다. 기술이 허용하는 한 단지 '그럴 가능성이 높은' 것만을 판단할 수 있을 뿐이다. 또한 학생이 AI를 이용해 초안을 작성한 뒤 그걸 바탕으로 내용을 발전시켰다면 그 에세이를 독창적인 것으로 간주할 수 있을까? 이제부터 우리는 '독창성'과 '진정성'에 대한 개념을 재정의해야 할 것이다. 어디에 선을 그어야 할지 판단할 방법은 없다. 모든 에세이를 그런 식으로 평가하려는 교수도 거의 없을 것이다. 게다가 AI 덕분에 에세이를 처음부터 직접 쓸 필요가 없어진다는 점에는 또 다른 어두운 면이 있다. AI는 더 많은 사람들을 의심받는 처지에 빠뜨릴 것이다. 창작자의 예술적 지적 성취를 의심의 구름 속에 가둘 것이고, 모든 것을 스스로 해낸 것이 아니며 어쩌면 그럴 수도 없었을 것이라는 느낌을 심어줄 것이다. 이것은 DEI 정책이 종종 그 수혜자들에게 짊어지게 하는 부담과 같다. 다양성, 형평성, 포용성이라 부르든, 긍정적 차별 조치나 인종적 우대 정책이라 부르든, 이 정책의 취지는 백인 이성애자, 특히 남성들과의 경쟁 기회를 용이하게 하려는 데 있다. 특정 집단의 과거 불이익을 고려해 입학이나 채용 기준을 조정하는 것은 뚜렷한 도덕적 진보다. 하지만 부작용 때문에 가능한 한 일정 기간만 적용돼야 한다. 능력보다 정체성 자체를 기준으로 평가받는 정책 하에서 유색인종들은 종종 D.E.I. 수혜자로 의심받게 된다. D.E.I. 정책의 선의는 일종의 선의의 과잉이라는 대가를 수반한다, 불이익 보정책이 결국 역량 전반에 대한 의심을 사게 만들 수 있다. 이제 AI로 인해, 그동안 DEI 정책 하에서 이성애 백인 남성이 아닌 사람들에게만 집중되었던 날카로운 시선이 훨씬 더 많은 사람과 그들의 성취를 향하게 될 것이다. 우울한 일이다. 우리는 새로운 세상에 살고 있다. AI가 가져다주는 수많은 기적에도 불구하고, 우리는 사람들이 만들어낸 것들의 상당 부분을 상대 평가로만 채점해야 할지 고민하게 될 것이다. 많은 것들이 덜 인상적으로 보일 것이다. 경이와 놀라움은 예전보다 조금 더 멀어지고 말 것이다. 진보의 대가인가? 그렇더라도 맥 빠진다. nytimes.com/2026/04/09/opi…