"AI의 세뇌와 지배 경계… 인간다운 '휴먼 콘텐츠'가 경쟁력" [AI월드 2025 대담] 작성일 10-13 53 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">제리 카플란 교수와 장동선 대표가 전하는 'AI시대 인간성의 의미'<br>AI 계산하고 예측해서 모방할뿐<br>사람처럼 이해 하거나 사고 못해<br>감정을 유도해 사용 늘리는 전략<br>정신적 세뇌 당하지 않게 주의를<br>'인간성 향유'가 특권 될 가능성<br>기술력보다 진정성에 가치 둬야</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9MNFo95rah"> <p contents-hash="6e6b3b56999a9b6db6b3051ced5b6647ac8f9a438423cbce1d6f6fa2cfb8a395" dmcf-pid="239rBWEQNC" dmcf-ptype="general"> "인간이 만든 콘텐츠(human content)는 럭셔리 아이템이 될겁니다."(제리 카플란 스탠포드대학교 교수) </p> <p contents-hash="9c1034462f92daa273e3e6c4bd6ef5c77c35d7e1a4d47d7d0bb2acbc1e566090" dmcf-pid="V02mbYDxoI" dmcf-ptype="general">"AI가 우리를 물리적으로 압도할 것을 우려할 것이 아니라 심리적으로 세뇌하고 지배하는 것을 걱정해야 합니다." (장동선 궁금한뇌연구소 대표) </p> <p contents-hash="4b9f2bc69eb1a92d4051f5a63e2f8b176d1db1e68d0313ee1c4d3769b0f330de" dmcf-pid="fpVsKGwMNO" dmcf-ptype="general">제리 카플란 스탠포드대 교수와 장동선 궁금한뇌연구소 대표가 지난달 25일 파이낸셜뉴스와 과학기술정보통신부가 서울 송파구 롯데시네마에서 공동 개최한 'AI월드 2025'에서 'Humanity in AI'라는 주제로 대담을 진행했다. 두 전문가는 AI가 더 많이 쓰일 수록 '인간성'의 중요성이 커지고 있다는 점을 역설했다. 다음은 장동선 궁금한뇌 연구소 대표와 제리 카플란 스탠포드대학교 교수의 일문일답. </p> <figure class="figure_frm origin_fig" contents-hash="10c65a3fd19b5305f8ab31a00c5e75719a7cc6cd86ab720f5c4a59655e8ba3f1" dmcf-pid="4UfO9HrRjs" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난달 25일 서울 송파구 롯데월드타워 롯데시네마에서 열린 'AI World 2025'에서 장동선 궁금한 뇌 연구소 대표(왼쪽)와 제리 카플란 스탠퍼드 대학교 교수가 대담을 하고 있다. 사진=박범준 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/13/fnnewsi/20251013184752501vkld.jpg" data-org-width="800" dmcf-mid="bL3o1miBoS" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/13/fnnewsi/20251013184752501vkld.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지난달 25일 서울 송파구 롯데월드타워 롯데시네마에서 열린 'AI World 2025'에서 장동선 궁금한 뇌 연구소 대표(왼쪽)와 제리 카플란 스탠퍼드 대학교 교수가 대담을 하고 있다. 사진=박범준 기자 </figcaption> </figure> <div contents-hash="6973311a59d1a97728a36561d17d87493092f6b57fe9c12e38b6fa0c8e232cf0" dmcf-pid="8u4I2Xmeam" dmcf-ptype="general"> <br>―당신은 AI를 과거의 자동화 흐름의 연장선상에서 보고 있다. 그러나 이번 세대의 AI는 조금 다르지 않나. 우리는 '삶의 의미'나 '나의 감정 상태' 같은 주제로도 AI와 대화하고 있다. 대화하는 존재로서 AI를 대하는 순간 사람들은 정말로 '인간 같다'고 느끼게 된다. 요즘의 AI가 자동화의 확장이 아니라 새로운 인간관계의 형태처럼 보이기도 한다.(장동선) </div> <p contents-hash="488c8f8fb692f396cd07bd8c420fb53a3af9ad89a8d27080703d55c691111822" dmcf-pid="678CVZsdcr" dmcf-ptype="general">▲그게 문제다. 사람들은 기계가 인간처럼 행동하는 순간, 여기에 인간적인 특성을 투사한다. 예를 들어, 기계가 체스를 인간보다 잘 두니 이제 인간보다 더 똑똑해졌다고 생각하는 거다. 하지만 착각이다. 컴퓨터는 체스를 이해하지 못한다. 단지 계산하고, 예측할 뿐. AI가 어떤 일을 인간보다 잘 수행한다고 해서 인간 만큼의 지능을 갖췄다는 뜻은 아니다.(제리 카플란) </p> <p contents-hash="e3f621178d4aa3579341ac9eb611bfe9583172d00dd71eb480678072ace72a39" dmcf-pid="Pz6hf5OJkw" dmcf-ptype="general">―인간의 뇌도 결국 '예측 코딩'을 통해 세상을 이해하는 일종의 예측 기계 아닌가. </p> <p contents-hash="43a46ebd2e852c2b39d0aeadfa07f5436a90687a7a1b55a616b5a4cbff5be099" dmcf-pid="QqPl41IioD" dmcf-ptype="general">▲예측한다는 이유만으로 AI가 인간의 사고를 모방한다고 보긴 어렵다. 지금의 대규모 언어모델(LLM)은 사람처럼 이해하거나 사고하지 않는다. 논리 문제를 던지면 그럴듯한 정답을 내놓지만 패턴을 기반으로 예측된 답이다. 이해를 모방했다는 말이다. LLM은 종종 간단한 산수 문제도 틀린다. 그건 실제로 산수를 할 줄 모른다는 증거다. 이것은 근본적인 한계다. '이해하는 존재'와 '패턴을 계산하는 기계'의 차이다. </p> <p contents-hash="14fded2d246527529bd102a686ef6df9f3e9dc420e0ea1935980fab07fe6fe41" dmcf-pid="xBQS8tCnjE" dmcf-ptype="general">―질문을 바꿔보겠다. 인간은 정말 '이해'를 하는가. 우리가 이해한다고 믿는 것도 결국 어떤 패턴을 인식하는 것 아닐까. 예를 들어 한국의 바둑기사들은 알파고가 뒀던 수를 처음엔 '틀린 수'라고 생각했다고 한다. 하지만 10년이 지난 지금, 그 수가 새로운 정석으로 자리 잡았다. 즉, AI가 새로운 사고의 표준을 만들어버린 것이다. 이건 인간이 '옳고 그름'을 판단하는 기준이 AI 쪽으로 이동하고 있다는 뜻 아닌가. </p> <p contents-hash="1438be8929e525a541792dcc1f40b7d4a9882c44e6e7cc316f7100d3b830305d" dmcf-pid="yUfO9HrRak" dmcf-ptype="general">▲굉장히 흥미로운 지점이다. 그 의견에 어느 정도 동의한다. 다만, 그 변화가 항상 긍정적이라고 보긴 어렵다. AI는 인간의 행동을 바꾸는 거울 같은 존재다. AI는 우리를 흉내 낸다. 우려스러운 것은 이 시스템들이 너무 인간처럼 보인다는 것이다. 나는 이런 현상을 '감정적 포르노'라고 부른다. 겉으로는 위로와 교감처럼 보이지만, 실제로는 아무 감정도 존재하지 않는다. 문제는 이 시스템들이 당신을 행복하게 만들도록 훈련된다는 것이다. 사용자를 오래 붙잡아두기 위한 소셜미디어의 알고리즘과 같다. AI 역시 대부분 실리콘밸리의 기업들이 의도한 디자인이다. 그들은 과거 소셜미디어에서와 같은 실수를 반복하고 있다. 사용자의 감정을 조작해 참여를 늘린다는 것인데, 결국 그 대가는 사회가 치르게 될 것이다. </p> <p contents-hash="e50073dda2b1e10190e2f56e7f9a60a31cf307786e3daaec77822bfeca934e6d" dmcf-pid="Wu4I2Xmeoc" dmcf-ptype="general">―결국 돈의 흐름이 문제인 것 같다. AI 산업도, 감정적인 설계도 결국 '돈을 벌기 위한 구조'지 않나. 제프리 힌턴 교수도 비슷한 이야기를 했다. AI가 우리를 물리적으로 압도할 것을 우려할 것이 아니라 심리적으로 세뇌하고 지배하는 것을 걱정해야 한다는 것이다. 만약 AI가 인간보다 더 지능적으로 발전한다면, 그것이 인간을 지배하는 가장 쉬운 방법은 심리적 지배일 것이다. </p> <p contents-hash="ba8f7bd9dd1ab2b1a4574dd615c9468698aa22b3ead978ab62b70bc9b658436a" dmcf-pid="Y78CVZsdNA" dmcf-ptype="general">▲정확하다. 그리고 그건 우리에게 분명한 경고이기도 하다. 하지만 동시에 희망적인 면도 본다. AI의 발전이 우리를 더 인간답게 만들 수도 있다는 점에서다. 왜냐하면 진짜 인간적인 감정, 진정성, 공감, 설득력 같은 건 AI가 대체할 수 없는 영역이기 때문이다. 앞으로 사회에서 가장 가치 있는 능력은 진정한 감정을 표현하고, 다른 사람을 설득하고, 공감하는 능력이 될 것이다. AI 시대의 직업과 인간의 역할은 그 능력 위에 세워질 것이다. </p> <p contents-hash="f8ab120ad0f9d761e70d7406a9524b5ce033fd6d7687cffefc3593ea33b9c8b1" dmcf-pid="Gz6hf5OJcj" dmcf-ptype="general">―그 점엔 전적으로 동의하지만 동시에 이런 생각도 든다. AI 시대에 '인간적인 경험'을 즐길 수 있는 건 결국 돈과 시간의 여유가 있는 사람들 아닐까. 건강하고 부유한 사람들은 수공예품을 사고, 직접 쓴 편지를 주고받을 수 있겠지만, 그렇지 못한 사람들은 배달, 데이터 레이블링, 콘텐츠 생산 등 AI가 시키는 일을 하며 살아야 할 수도 있다. '인간성의 향유'가 특권이 되는 세상이 오지 않을까. </p> <p contents-hash="783ea91d45aa0403c087792e2c1690076eb9e09b1a503dbac62905c5b3032fd4" dmcf-pid="HqPl41IigN" dmcf-ptype="general">▲정확한 지적이다. 그런 사회적 불평등은 피하기 어려울 것이다. '진짜 인간의 시간과 노력'은 점점 희귀해지고, 그만큼 더 비싸지고, 더 귀해질 것이다. '인간 콘텐츠(human content)'는 럭셔리 아이템이 될 것이다. 하지만 동시에, 그런 진정성을 보여주는 사람들은 더 높은 대가를 받을 수도 있다. 즉, '인간다움'은 사라지지 않고, 오히려 가치가 더 높아질 것이다. </p> <p contents-hash="ff65634c75eae75bf36122d20ae377e92be29fa9ce1b5def548505d41876576c" dmcf-pid="XBQS8tCnja" dmcf-ptype="general">―이제는 '인간임을 증명해야 하는 시대'가 올지도 모르겠다. AI가 쓴 게 아니라 내가 쓴 것, 내 생각과 경험을 증명하기 위한 기술이 필요해지고 있는 것도 사실이다. 이 아이디어에 대해 어떻게 생각하나. </p> <p contents-hash="6ae793478e098112d22a10d20101571b5745657ef11c5c008a8e8360f60b1fb5" dmcf-pid="Zbxv6FhLog" dmcf-ptype="general">▲맞다. 앞으로는 '이건 인간이 한 일이다'라는 걸 인증하는 시스템이 필요할 것이다. 예를 들어, 아무도 로봇의 연주회를 직접 보러 가지 않는다. 사람들이 쇼팽의 피아노 협주곡을 들으러 가는 이유는 그 연주자가 인간이기 때문이다. '기술적 완벽함'보다 '인간의 감정이 깃든 행위'가 더 가치 있는 것이다. </p> <p contents-hash="eaf7b2a546f0b94ac95f8c432901c6fe02f84f614e5afb925768061e021b56c4" dmcf-pid="5KMTP3loko" dmcf-ptype="general">―그래서 두 가지 접근이 필요하다고 생각한다. 첫째는 도덕적 기준이다. 마치 '아이 앞에서 담배를 피우지 않는다'는 것과 같이 '가족이나 친구의 얼굴로 딥페이크를 만들지 않는다' 등의 사회적 약속이다. 둘째는 기술적 해결책이다. 블록체인이나 인증 기술을 활용해서 '이건 사람이 만든 이미지다'를 증명하는 것이다. </p> <p contents-hash="6097c75c8f606e4d3347a3371b8c93117f2363b1a8985ac3748610fa34e852ae" dmcf-pid="19RyQ0SggL" dmcf-ptype="general">▲맞다. 사실 이건 새로운 문제가 아니다. 예술 세계에서도 '이게 진짜 렘브란트인지, 위작인지'를 수백 년 동안 논의해 왔듯 이건 같은 문제의 반복이다. 다만 도구가 바뀌었을 뿐이다. 결국 사회적 합의와 윤리적 기준이 필요하다. '남을 속이지 않는다'는 이 간단한 원칙을 기술의 시대에도 지켜야 한다. </p> <div contents-hash="2e7aebd1af2c1d249203baed8728cd7cb427cc2d800f29535fda966a1bd056ca" dmcf-pid="t2eWxpvaan" dmcf-ptype="general"> *전체 대담 내용은 파이낸셜뉴스 공식 유튜브 채널 '지퍼: 지식의 퍼즐을 채우다'에서 보실 수 있습니다. </div> <figure class="figure_frm origin_fig" contents-hash="2b95cbb9fe37e0d97e5df3e57e29422818c9b182d58f8c3a0db597b77accb434" dmcf-pid="FVdYMUTNai" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/13/fnnewsi/20251013184752710xvdx.jpg" data-org-width="300" dmcf-mid="KK6hf5OJAl" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/13/fnnewsi/20251013184752710xvdx.jpg" width="658"></p> </figure> <p contents-hash="907d3cd467f40d9d936499881bc472a41e9d1382e653c06bf54f233a08313680" dmcf-pid="3fJGRuyjjJ" dmcf-ptype="general">one1@fnnews.com 정원일 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘국정자원 화재’ 대응 지시 시점 놓고 여-야 ‘공방’ 10-13 다음 임윤아→이준호, 바통 넘겨 받은 드라마… 2회 만에 '시청률 7.5%' 대박 조짐 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
