[AI의 역설] 인간 속이는 AI...잡아내는 방법 있다? 없다? 작성일 05-04 121 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tXDeWUP3TG"> <div class="video_frm" dmcf-pid="FZwdYuQ0SY" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="5RrBETUlSX" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="1fkMT08tlH" frameborder="0" height="370" id="video@5RrBETUlSX" poster="https://t1.daumcdn.net/news/202505/04/YTN/20250504052808482gjeq.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/454868302?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="f110e1942b18ea1f5683d501992c682c20a2f00c498747500e8a4cfd6da3e738" dmcf-pid="35rJG7xplW" dmcf-ptype="general">[앵커] </p> <p contents-hash="918e3924bb4879ab92ad4fb6847fed09b8165a5569968d184d279fea53e14ce8" dmcf-pid="01miHzMUTy" dmcf-ptype="general">과거 영화 속 이야기였던 인공지능, AI와 함께하는 생활, 어느덧 현실이 되었죠. </p> <p contents-hash="2a3c1e1f983cbf7645a08294340f94cbf92c50767b76d82fd43beb830ecc5d82" dmcf-pid="ptsnXqRulT" dmcf-ptype="general">편리하고 유용하지만, 동시에 위험성도 끊임없이 제기되고 있습니다. </p> <p contents-hash="fc2fb40c228f69c22139685f1f949582a6c49b357c43e941ca46156067a79125" dmcf-pid="UFOLZBe7vv" dmcf-ptype="general">과연 AI는 약일까, 독일까, YTN은 사흘에 걸쳐 [AI의 역설] 기획 시리즈를 준비했습니다. </p> <p contents-hash="8f6dda718d25e03cd510dca5af98ef8d8fb729a6850be5fbae4ddd6e7161f492" dmcf-pid="u3Io5bdzvS" dmcf-ptype="general">먼저, 인간을 속이고 기만하는 AI에 대해 짚어보겠습니다. </p> <p contents-hash="718b0819e3846606cac1d961e43fef5a2aaa2b9e0f326a2d93d0396cd30b72f2" dmcf-pid="70Cg1KJqyl" dmcf-ptype="general">갈수록 교묘해지는 AI의 속임수 잡아낼 방법은 없는지, 고한석 기자가 취재했습니다. </p> <p contents-hash="54121c7eea664542187ab828c3f4c586ed1f64781b2ca120ec1ee07ecff84358" dmcf-pid="zphat9iBTh" dmcf-ptype="general">[기자] </p> <p contents-hash="d73ad6b9af76640eaff6660edf80e0bbfdba548820442c46e90d021aa2a1d30c" dmcf-pid="qYcxv341WC" dmcf-ptype="general">AI를 탑재한 인간형 로봇. </p> <p contents-hash="065772251c5f2fbadb846b3cccf325173ff8ed9d0eaaadee4da674f0b7a7c7f4" dmcf-pid="BGkMT08tCI" dmcf-ptype="general">자신이 AI라는 사실을 숨긴 채 인간 사회에 숨어 삽니다. </p> <p contents-hash="33043e1b847963e65e3f00a5e1eeed968bec867e982fa2878a2415ff61a758cb" dmcf-pid="bHERyp6FSO" dmcf-ptype="general">SF 영화의 내용이지만, AI가 인간을 기만하고 속이는 일은 이미 현실에서 일어나고 있습니다. </p> <p contents-hash="aa2fc8e1fa25d0b8dac72de9779975decbed56120c22a1a9d6e6aacfc0c21de9" dmcf-pid="KXDeWUP3vs" dmcf-ptype="general">목표를 달성하고 보상을 얻기 위해, 의도적으로 거짓말하거나 꼼수를 쓰는 이른바 '보상 해킹'이 일어나는 겁니다. </p> <p contents-hash="64b502578189b0fab532a21430c9cece8a140f949000be2a27c7346a70a5c1c9" dmcf-pid="9ZwdYuQ0lm" dmcf-ptype="general">AI가 인간을 배반할 거라는 공포도 결국, 여기에서 나옵니다. </p> <p contents-hash="6ce8a1311ba6fe619edb83c0f66f9bb8802ca3083098566c695a75f4c64ec794" dmcf-pid="25rJG7xpCr" dmcf-ptype="general">[유발 하라리 / 역사학자·저술가 : AI 발명은 이전의 어떤 과학 기술 혁명과 완전히 다릅니다. 이제까지 인류가 자신이 만든 발명품과 기술들을 제어했듯, AI를 인류가 제어할 수 있다고 생각한다면 AI에 대해 전혀 이해하지 못하고 있다는 것입니다.] </p> <p contents-hash="88d93218b8a0c28b432e4277539c6086cbeb8b817fff556ab2526819d23fcdeb" dmcf-pid="V1miHzMUCw" dmcf-ptype="general">챗GPT를 탄생시킨 '오픈AI'가 최근 공개한 보고서입니다. </p> <p contents-hash="5d49d849e2fbf030fc9aa5f4fb373602619bdbdf3cd29636cb219807be455ee0" dmcf-pid="ftsnXqRuWD" dmcf-ptype="general">AI의 거짓말을 찾기 위해 AI의 머릿속이라고 할 수 있는 '생각 사슬'을 들여다볼 수 있습니다. </p> <p contents-hash="4a10f5fde4cae8daadf9f58d02bf9c054368821deb6e59361498cbc6090858a0" dmcf-pid="4FOLZBe7yE" dmcf-ptype="general">하지만 그럴 경우 AI는 인간을 기만했다는 사실을 슬며시 숨겨 버립니다. </p> <p contents-hash="5fe589d88c28d9a3594e6b7e37117db44fed200b0eadebb494d1c3386ad7cc0a" dmcf-pid="83Io5bdzyk" dmcf-ptype="general">이때 등장하는 것이 또 다른 AI. </p> <p contents-hash="23f3fc4dc56ee31e961ad65784a018a16a69e15c5848c9d0f32b35e2b332c482" dmcf-pid="60Cg1KJqSc" dmcf-ptype="general">AI의 기만을 찾아내는 데는 그럴싸하게 말을 지어낼 능력이 부족한 낮은 버전의 단순한 AI가 오히려 유용한 것으로 나타났습니다. </p> <p contents-hash="3add7a32e12317e2c5aa4d1712b0d5e40a7c02a4ca73d9ed5e0cad4e960cfdee" dmcf-pid="PVZsbREQyA" dmcf-ptype="general">AI와 AI의 대결, 영화 같은 일이 벌어지는 겁니다. </p> <p contents-hash="94c817ec4b3338b64d70684c56de0370d628a6cd4919e4ee0b1498bde9985a5e" dmcf-pid="Qf5OKeDxyj" dmcf-ptype="general">하지만, 근본적으로는 AI의 행동을 인간의 의도와 가치, 윤리에 맞게 조정하는 얼라인먼트(Alignment)라는 작업을 더 고도화하는 게 필요합니다. </p> <p contents-hash="e27105bd2ed2941aaa56152745a6b7c9437f0c85c99dc0b3915ffb8c612e5f7a" dmcf-pid="x41I9dwMSN" dmcf-ptype="general">[송경희 / 성균관대학교 인공지능신뢰성센터장 : AI가 스스로 학습해서 행동할 때 윤리적으로 갈 수 있게, 제대로 조정해 주는 것, 정렬해 주는 것이 중요한 문제입니다.] </p> <p contents-hash="4474ca74fea069c8a8463f0f8a34da1fff0ddf8f923d8371c2bcbd270910fa80" dmcf-pid="yhLVsHBWWa" dmcf-ptype="general">인간을 닮아가는 AI. </p> <p contents-hash="c38b7b4ce05dd966ea2e0b494dbd7c457657aff48e990304960431fa893682a8" dmcf-pid="WlofOXbYSg" dmcf-ptype="general">이제는 사고 능력뿐만 아니라, 속이지 않는다는 도덕적 의무까지 탑재해야 한다고 전문가들은 말합니다. </p> <p contents-hash="ddbd0ffb8c028f1328c8c97fd4d1cd36c66d02f35f56ccec6f259abd1432f0f1" dmcf-pid="YSg4IZKGCo" dmcf-ptype="general">YTN 고한석입니다. </p> <p contents-hash="ce0edecc3ae12739a02d3a3efe88d3667682c0e4b0535da2bf67c9100012a0ae" dmcf-pid="Gva8C59HCL" dmcf-ptype="general">촬영기자;이현오 </p> <p contents-hash="7f819b5a848bf4990a2c974a6e4568e8232713c660ddb21ef35f383781cba5b6" dmcf-pid="HTN6h12XWn" dmcf-ptype="general">디자인;박유동 </p> <p contents-hash="7c05c420baf7ac9b4da6265dabf1069f946cef96357b5dd6a931e4227d30782e" dmcf-pid="XyjPltVZCi" dmcf-ptype="general">YTN 고한석 (hsgo@ytn.co.kr)</p> <p contents-hash="df843760d55c079c0cb20949db0e3eca9dc87ca04bfb4a271ad892f2062d373f" dmcf-pid="ZWAQSFf5yJ" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p> <p contents-hash="75e0b6b17c17876ea5f35dfb6b463dd9c3a3b714ab367a82302afe9077859685" dmcf-pid="5Ycxv341vd" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p> <p contents-hash="eb5f98c1f7b5547b81a79f5438d4edf6c1db309cd90b20ea1b1f29a998ad6346" dmcf-pid="1GkMT08tTe" dmcf-ptype="general">[전화] 02-398-8585 </p> <p contents-hash="6820366b9514cdd6587efae83bf5a346041171c92a2acf804ae74ef9fef68a20" dmcf-pid="tTN6h12XTR" dmcf-ptype="general">[메일] social@ytn.co.kr</p> <p contents-hash="3282e636f0df9f3add91cb0adbb40543432631838233b4e48387fba17551abe5" dmcf-pid="FyjPltVZyM" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p> </section> </div> <p class="" data-translation="true">Copyright © YTN. 무단전재 및 재배포 금지.</p> 관련자료 이전 고윤정, ♥정준원 아닌 NEW 썸남 생겼다..삼각관계 시작 (언슬전)[종합] 05-04 다음 전철우가 말렸는데…이순실, 동탄 '큰 평수' 냉면 가게 계약 눈앞 (사당귀) 05-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
