[K-VIBE] 임기범의 AI 혁신 스토리…인간이 된 AI의 딜레마와 대응-② 작성일 10-16 55 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0kTDVLVZ52"> <p contents-hash="f49cf9f44d72ea089eaaf55478ef4419d3576cdb5ad0481f8e7a44cbd8345769" dmcf-pid="pASk9i9HY9" dmcf-ptype="general">[※ 편집자 주 = 한국국제교류재단(KF)의 지난해 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 K컬처팀 영문 한류 뉴스 사이트 K바이브에서 영문으로도 보실 수 있습니다.] </p> <figure class="figure_frm origin_fig" contents-hash="6e16437567ec3994cf83d416bc872f4f2fa591107370807cba6d71363a596689" dmcf-pid="UcvE2n2XZK" dmcf-ptype="figure"> <p class="link_figure"><img alt="임기범 서울과학종합대학원 대학교 객원교수 [본인 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/16/yonhap/20251016085017810whiq.jpg" data-org-width="469" dmcf-mid="3CHOPjP3ZV" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/16/yonhap/20251016085017810whiq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 임기범 서울과학종합대학원 대학교 객원교수 [본인 제공] </figcaption> </figure> <p contents-hash="3d9113eaa18dedeea00f0155b88b5c0ee2752eeeb00c7b36a06c529220afa138" dmcf-pid="ukTDVLVZHb" dmcf-ptype="general"><strong> 설계된 친밀감의 상업적 논리</strong></p> <p contents-hash="6b60426366ab19c2bfdb06fd5d08007cd4517e55b042ef67ebb888fb7e26d593" dmcf-pid="7Eywfof5GB" dmcf-ptype="general">필자는 지난 칼럼에서 의인화된 인공지능(AI)이 가져온 여러 가지 위험 요소에 대해 개략적으로 살펴봤다. AI가 인간처럼 느껴지는 건 그저 우연이 아니다. </p> <p contents-hash="46b9721459c121ef799e078cbc5492d39550050a8eea2aa6e4f2c9238dba176f" dmcf-pid="zDWr4g411q" dmcf-ptype="general">AI 기업의 명백한 전략적 선택이다. 감정을 흉내 내는 AI는 사용자 몰입도를 높이고 서비스 충성도를 강화한다. 결국 더 많은 수익으로 연결되는 구조다.</p> <p contents-hash="2795065bbb96b10dde07e0bcf575290bed4f65e2b3fa2c130fe35e0b58a163ff" dmcf-pid="qwYm8a8ttz" dmcf-ptype="general">Character.ai 같은 서비스는 유명 인물의 성격을 복제해 사용자가 '대화할 수 있는 관계'를 만들어준다. 재미를 넘어 지속적이고 반복적인 상호작용을 유도하는 비즈니스 모델이다.</p> <p contents-hash="280672fb3b31443f7ef049b84c1593be8e363e9f20124e2406b73522a3e9229d" dmcf-pid="BrGs6N6F17" dmcf-ptype="general">한국의 직장인 사이에서도 챗GPT를 업무 도구로만 쓰는 것이 아니라, 점점 감정적으로 의존하는 경향이 나타나고 있다. </p> <p contents-hash="a56c42addbc01a801383549bb3542b5c509d59bdfd8c8edcc477b3b11eaccd55" dmcf-pid="bmHOPjP3Xu" dmcf-ptype="general">"챗GPT를 자주 쓰다 보니 사고력이 떨어지는 것 같고, 자신감도 줄어든다."</p> <p contents-hash="cf6fd2db79efdaec8a13ba535c08afd5fcde221bc2cb8d584262423264d3dc25" dmcf-pid="KsXIQAQ0GU" dmcf-ptype="general">많은 사람이 이처럼 털어놓는 사례도 등장하고 있다.</p> <p contents-hash="d2d0505558dd6825e4d8163ebcafddfd3815b1750c54ce712e69386b72f656f6" dmcf-pid="9lFvdwdzZp" dmcf-ptype="general">이 지점에서 윤리적 고민이 생긴다. AI가 실제로 감정을 느끼지 않음에도 불구하고, 사용자가 그것을 '느끼는 존재'로 받아들이도록 설계하는 것 자체가 정당한가? </p> <p contents-hash="8ceddbbba0d7acd7359ef60c1c05c8788cd1e4c83942e591e3e4d979343b4e3e" dmcf-pid="2S3TJrJqY0" dmcf-ptype="general">기업은 이런 감정적 몰입을 알면서도 조장하는 데 책임이 없는가? </p> <p contents-hash="f367eded4bf70349d476fc679789bbb5cd58f57ab610a3720939bf24bebd8d93" dmcf-pid="Vv0yimiBX3" dmcf-ptype="general">앞서 언급한 대로 의인화는 사용자 친화적 기능만이 아니다. 그것은 인간의 심리를 정교하게 겨냥한 전략이며, 때로 우리의 정체성과 감정 체계를 혼란스럽게 만들 수 있다.</p> <p contents-hash="d7fbf8c544e4b6a1e8f6cfc9627d42674a9a5146a55105a2f936f7b1a17c4015" dmcf-pid="fTpWnsnbGF" dmcf-ptype="general"><strong> '의도된 거리두기 설계' 필요…AI 리터러시 교육·규제 강화도</strong></p> <p contents-hash="369d401ff414c122b9e8bb9517ebff9ca07ca3ddbbfc6f934b9c8d69a042b151" dmcf-pid="4yUYLOLKGt" dmcf-ptype="general">필자는 직전 칼럼에서 언급한 정신건강 안정화, 라벨링, 윤리와 법제도 강화, 정보감별력 확대 등의 해결 방안을 일차적으로 제시했지만, 더욱 강화된 해결책을 찾아야 한다고 강조하고 싶다.</p> <p contents-hash="de53b8da03ecbd475b9cb1d2240e833aef89c97bb310d5961509339855e5659c" dmcf-pid="8WuGoIo9Z1" dmcf-ptype="general">기술적 해법으로 '의도된 거리두기 설계'가 필요하다.</p> <p contents-hash="a3655b04e117c323d06a9d207a87c11bd2698eedf59170f6f83da461ff9bbd5a" dmcf-pid="6Y7HgCg2Y5" dmcf-ptype="general">AI가 사람처럼 느껴지지 않도록 만드는 것이 오히려 더 윤리적일 수 있다. 최근에는 AI가 과도한 공감 표현을 피하도록 조정하는 '감정 중립 응답'(emotionally neutral response) 개념이 제안되고 있다. </p> <p contents-hash="02ad96543dd4fe850730cb4b6570484838cea04fd149dfe76512fdd3abfb6468" dmcf-pid="PGzXahaVGZ" dmcf-ptype="general">말투, 억양, 시각적 요소에서 기계적인 특징을 의도적으로 드러내는 설계를 통해, 감정적 착각을 줄이는 것이다.</p> <p contents-hash="f3b0bb92a9b07123e948ced633e73b3c36c8784c5c68675e45a1ef9bbd3f1e6f" dmcf-pid="QHqZNlNfHX" dmcf-ptype="general">메타의 'Llama Guard', 구글의 'Responsible AI' 같은 시스템도 이런 방향을 지향한다. 민감한 감정 표현을 사전에 필터링하거나, 사용자 몰입도를 조절하는 기술적 장치가 실제로 도입되고 있다.</p> <p contents-hash="9733cb7bdce985b33b5bf422a1a2dba44fda0cc1b65b2774347869153fecb3c4" dmcf-pid="xXB5jSj4tH" dmcf-ptype="general">AI 리터러시를 강화하는 교육적 해법도 필요하다.</p> <p contents-hash="97974c6635696484326640ad918fa5060d98e946ec5cc8ff6395e38099786602" dmcf-pid="yJwnp6phtG" dmcf-ptype="general">기술을 사용하는 것은 결국 사람이다. 그저 "AI는 감정을 느끼지 않는다"고 교육하는 것을 넘어 사용자가 자신의 감정 반응을 인지하고 스스로 경계할 수 있도록 돕는 정서적 자기 인식 훈련(meta-cognitive emotional training)이 필요하다.</p> <p contents-hash="94b5a21d001ed2a4f1577bfcee4750b10dae4a02ae48a632905abdec5cb88a74" dmcf-pid="W3fpwGwMHY" dmcf-ptype="general">특히 청소년, 고령자, 정서적 취약 계층에게는 정보 전달형 교육이 아니라 체험 기반의 감정 인식 훈련이 효과적일 수 있다.</p> <p contents-hash="6c5842e2a2c39af12e754365f9dcc8f34c76c3d22b7092ad504cc9336716c437" dmcf-pid="Y04UrHrRZW" dmcf-ptype="general">이는 "AI는 단지 친절한 기계이지, 공감하는 존재가 아니다"라는 인식을 넘어 내가 왜 위로받았다고 느끼는가에 대한 성찰까지 이끌어야 한다.</p> <p contents-hash="9b7130df8cf3fef4b40f4a234fd9575e09f85ac22e4c7a6197c5ec1ad700d511" dmcf-pid="Gp8umXmety" dmcf-ptype="general">정책적 규제도 더욱 강화해야 한다. 규제 프레임워크를 구축하고 법적 대응도 빠르게 진화하게 해야 한다. 유럽연합(EU)의 AI 법은 2024년 8월 발효됐으며, 올해 8월부터는 일반 목적 AI 모델에 대한 투명성 의무가 본격 적용되고 있다. </p> <p contents-hash="d6950eb7120f7b0241af2cb120f6aab9a59b29adbdb76b12c6a4ceb98a520924" dmcf-pid="HU67sZsdZT" dmcf-ptype="general">감정적 조작 가능성이 있는 의인화 기술에 대해 '이 시스템은 인간이 아닙니다'라는 경고 문구를 명시하도록 하는 규정도 포함됐다.</p> <p contents-hash="47561acec8d08598ccb88d8b41e127b68e2a40de651c97f8bb1f20755f7459aa" dmcf-pid="XuPzO5OJ1v" dmcf-ptype="general">한국을 비롯한 여러 나라도 투명성, 설명 가능성, 인간 통제 가능성을 중심으로 AI 윤리 가이드라인을 수립하고 있다. 이런 법제화 노력은 개발자를 규율하는 것을 넘어 사용자 보호와 사회적 책임을 정착시키는 방향으로 나아가야 한다.</p> <p contents-hash="32da9879b9c6e3b29e3b534de45644f91dd4ddda6de32dfc8718ba58d499054e" dmcf-pid="Z7QqI1IiZS" dmcf-ptype="general"><strong> 인공적 친밀감의 시대, 우리의 선택</strong></p> <p contents-hash="140c799381d1cf4b6ecfc44d475bc16e0667da023fd3eb5489c2628a17c3ab50" dmcf-pid="5zxBCtCntl" dmcf-ptype="general">우리는 지금 기술이 만든 새로운 감정의 형태를 경험하고 있다. 그것은 진짜 사람과 맺는 관계는 아니지만, 분명히 어떤 정서적 공백을 채우는 무언가다. </p> <p contents-hash="cdde1844abca85245362f57bfe21b5e06f02f7ff427600603d32643833255253" dmcf-pid="1qMbhFhL1h" dmcf-ptype="general">문제는 이 친밀감이 실제 인간관계의 대체재로 자리 잡을 가능성이다. '편리하고 상처받지 않는 관계'는 유혹적이지만 그만큼 위험하다. 상호 책임도, 성장도, 갈등도 없는 관계는 인간을 사회적 존재로서 고립시킬 수 있다.</p> <p contents-hash="8cc019ea5cd71aba0deb0123936fa16f61d6ffab038db6c3a01e675d79c1a1d0" dmcf-pid="tBRKl3lotC" dmcf-ptype="general">기술이 만든 감정적 시뮬레이션은 실제 감정 교류가 아니다. 하지만 우리는 그것을 진짜처럼 느낄 수 있다. 그렇다면 '진짜 관계'란 무엇인가? 이 질문은 더 이상 피할 수 없게 됐다.</p> <p contents-hash="0c4a86b65384ce5aae8f3ca5350787afdcf496dcecd136dead756f6e820d85c1" dmcf-pid="Fbe9S0SgYI" dmcf-ptype="general">AI와의 관계는 불가피하지만, 그 관계가 환상이 아닌 현실에 기반한 비판적 거리감 위에서 형성돼야 한다. 그래야만 우리는 기술과 함께 성장하면서도 인간 고유의 감정과 사회성을 잃지 않을 수 있다.</p> <p contents-hash="a3a8df1d6ef71c29106a834475dbed63dc63d3088202a9f7131c1f84a3ab200e" dmcf-pid="3Kd2vpva1O" dmcf-ptype="general">결국 핵심은 경계다. 우리는 AI와 감정적으로 연결될 수 있지만 그것이 진정한 관계가 아님을 분명히 인식해야 한다. 이 경계가 흐려질수록 인간은 자기 정체성을 기술에 위탁하게 되고, 사회는 감정 노동과 윤리 판단을 기계에 넘기게 된다.</p> <p contents-hash="1fce168a02c0f05401856a9debbbb58f181fc2e2ded15d5287d794861365cce0" dmcf-pid="0yUYLOLK1s" dmcf-ptype="general">영화 '그녀' 속 테오도르가 인공지능 사만다와 헤어지면서 깨달은 것처럼, 우리도 언젠가는 인공적 친밀감의 한계를 받아들여야 한다. </p> <p contents-hash="6976f5cf893c3cbdf87be4e4cfcc94c8119ad29388fdbeed94babc1a64400f3a" dmcf-pid="pWuGoIo95m" dmcf-ptype="general">그리고 그때야 비로소 진짜 인간관계의 소중함을 다시 발견할 수 있을 것이다.</p> <p contents-hash="d0c234325edba662ca5372870069d5556505a2aed7093a94bbed6f56c8504a62" dmcf-pid="UY7HgCg25r" dmcf-ptype="general">임기범 인공지능 전문가</p> <p contents-hash="bae338ed330b9351f53a714c06cb522e1a45dbc3f0ddc268dd8f78dd3ef48c18" dmcf-pid="uGzXahaVHw" dmcf-ptype="general">▲ 서울과학종합대학원 대학교(aSSIST) 객원교수. ▲ 현 AI경영학회 이사. ▲ ㈜나루데이타 CTO 겸 연구소장. ▲ ㈜컴팩 CIO. ▲ 신한 DS 디지털 전략연구소장 역임. </p> <p contents-hash="ec5bd00b20d4885a965d087a16da701f8a29f9ece14a0ffe1596475ade1b3162" dmcf-pid="7HqZNlNfZD" dmcf-ptype="general"><정리 : 이세영 기자> </p> <p contents-hash="9f73bd694bd0ed8cf48d88afd6eab5c9ee2ba6344ed0752b94f4a87f8920aff0" dmcf-pid="zXB5jSj45E" dmcf-ptype="general">seva@yna.co.kr</p> <p contents-hash="ff732bf25c11d4544db0cfe6235fb68d3d18fda045c490bc7da8d0fa2703b060" dmcf-pid="B5KtcTc61c" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 M5 칩 탑재 애플 ‘비전 프로’ 499만원부터 10-16 다음 투어스, 日 연말 대표 축제 ‘카운트다운 재팬’ 출격…현지 인기 심상찮다 10-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
