"AI가 한 행동, 책임은 누가?"…IBM, "에이전트 행동 기록 체계 구축해야" 작성일 10-07 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[AI페스타26] 셀바두라이 IBM CTO "AI 모델 소유보다 행동 검증이 핵심"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9zLmB4Tsjz"> <p contents-hash="dcec2fc8af0045ad90bde66bd76a315907766644050f984ba4138c25044592a8" dmcf-pid="2qosb8yON7" dmcf-ptype="general">(지디넷코리아=남혁우 기자)<span>"이제 인공지능(AI)은 단순히 정보를 제공하는 단계를 넘어 실제 업무와 의사결정에 관여하고 있습니다. AI가 어떤 행동을 했을 때 책임과 통제권은 누구에게 있는지 물어야 할 시기입니다."</span></p> <p contents-hash="d199061c8383503caa363850ef80d2e8945e9f2f48f133dd2427b10dcbfd7527" dmcf-pid="VBgOK6WIAu" dmcf-ptype="general">셴커 V 셀바두라이 IBM 아시아태평양(APAC) 부사장 겸 최고기술책임자(CTO)는 7일 코엑스에서 열린 AI페스타26의 부대행사인 퓨처테크컨퍼런스에서 기업은 에이전트의 행동을 추적하고 증명할 수 있는 체계가 마련해야 한다고 강조했다.</p> <p contents-hash="727f69589042e3072d807ebd5a0a84c7d8535ddd81ef22bd86db8220f3271283" dmcf-pid="fbaI9PYCaU" dmcf-ptype="general">셀바두라이 CTO는 AI가 에이전트 중심으로 발전하는 지금 두 가지 질문이 중요해지고 있다고 말했다. 모델과 컴퓨팅 자원, 데이터를 누가 소유하는지, 그리고 AI 에이전트가 실제로 한 행동을 누가 통제하고 책임지는지다.</p> <figure class="figure_frm origin_fig" contents-hash="e2e5bb204a87b1c083f447fb6e2f8350c5fb1da4767a2a5d85ab6bd54647b01b" dmcf-pid="4KNC2QGhkp" dmcf-ptype="figure"> <p class="link_figure"><img alt="셴커 V 셀바두라이 IBM 아시아태평양(APAC) 부사장 겸 최고기술책임자(CTO)(사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/07/ZDNetKorea/20261007160900924owec.jpg" data-org-width="640" dmcf-mid="KOG7AmfzNq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/07/ZDNetKorea/20261007160900924owec.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 셴커 V 셀바두라이 IBM 아시아태평양(APAC) 부사장 겸 최고기술책임자(CTO)(사진=지디넷코리아) </figcaption> </figure> <p contents-hash="514426bc48d65bbc2c871681ed50e7d1df9f7c3a87f8cb013432cc85953e1fa6" dmcf-pid="89jhVxHla0" dmcf-ptype="general">그는 두 질문 모두에서 한국이 세계에서 상당히 앞서 있다고 평가했다. 첫번쨰 질문의 경우 이미 자체 AI를 만들어 국내에서 활용하는 방식으로 이미 답을 냈다는 것이다.</p> <p contents-hash="fd0627ddf9f106b261499b1a9eaa66de190417d7d645d559eea558daf043454d" dmcf-pid="62AlfMXSj3" dmcf-ptype="general">두 번째 질문은 아직 어느 나라도 명확한 답을 내놓지 못했지만 한국은 AI 기본법을 먼저 시행하고 제조·조선·반도체 등 주요 산업에 에이전트를 도입하면서 이 문제를 가장 먼저 마주하고 있다고 평가했다.</p> <p contents-hash="8a9785823667744ce89c0c25dc071f40f4f1e29e31b3ff3b4e64b97b3b6d117b" dmcf-pid="PBgOK6WIgF" dmcf-ptype="general">그는 두 번째 질문에 답하는 일이 중요한 이유로 기업의 AI 도입 과정에서 발생하는 현실적인 문제를 들었다. AI 에이전트가 사용하는 모델과 도구가 수시로 바뀌면 행동도 달라질 수 있다. 이때 에이전트의 행동을 누가 통제하고 문제가 생기면 누가 책임질지에 대한 기준이 필요하다는 것이다.</p> <p contents-hash="fc686ebd5cde98890698a400429fce0c2bfd3392dc0ce3ce100c9c6ebae7ac1d" dmcf-pid="QbaI9PYCot" dmcf-ptype="general">셀바두라이 CTO는 이를 공장 기계의 검사 인증서에 비유했다. 그는 "검사 인증서를 받은 기계가 밤사이 스스로 부품을 바꿨다면 인증서만으로는 더 이상 현재 장비의 상태를 설명하기 어렵다"며 "AI 에이전트도 사용하는 모델과 도구가 수시로 바뀌면 승인받은 시스템과 실제 운영 중인 시스템이 달라질 수 있고 그 결과를 예측하거나 설명하기 어려워질 수 있다"고 말했다.</p> <p contents-hash="c367b3ff7666d65f00cc86ed1a112c15c1285aa752ea5b49d2bcecca9209f614" dmcf-pid="xKNC2QGha1" dmcf-ptype="general">그는 이런 문제를 해결하려면 단순한 로그를 넘어 에이전트의 행동을 추적할 수 있는 기록이 필요하다고 강조했다. 로그가 시스템에서 어떤 일이 발생했는지를 보여준다면, 행동 기록은 에이전트가 무엇을 했고 누구의 권한으로 행동했는지 확인할 수 있게 한다. 문제가 생겼을 때 에이전트가 무엇을 하도록 승인받았는지가 아니라 실제로 무엇을 했는지 밝혀야 한다는 취지다.</p> <p contents-hash="0accd4fdc92ecf37e40cba6d10de084fb711fe209996ed96e89d9bedf016cf8a" dmcf-pid="ym0fOTe4g5" dmcf-ptype="general">셀바두라이 CTO가 해법으로 제시한 것은 기록이다. 무슨 일이 일어났다는 사실만 남는 로그와 달리, 기록은 에이전트가 무엇을 누구의 권한으로 했는지 보여준다면 누구의 책임이지 명확히 할 수 있다는 것이다.</p> <p contents-hash="b5e5e85ab78f7da12f2b5ee2b7b0727fc0ae48de2c738824cd385affe636a0da" dmcf-pid="Wsp4Iyd8jZ" dmcf-ptype="general">그는 "예를 들어 은행에서 AI로 대출 심사를 하는 과정에서 장애가 발생했을 때 어떤 AI 모델이 판단했는지 아니면 외무 공급사가 임의로 AI 모델을 교체한 것인지 답하지 못하면 책임소지 뿐만 아니라 해당 심사가 옳았는지 증명하는 것조차 어렵다"고 설명했다.</p> <p contents-hash="3c2a83c280a4b6be64cd69e0da8188e3c0693fd64f7c35991026cfe01e45d1d0" dmcf-pid="YOU8CWJ6aX" dmcf-ptype="general">이어 "그래서 IBM은 실제 업무에 에이전트를 사용 중인 기업들에게 세 가지를 점검할 것을 제안하고 있다"며 "어디서 실행되고 누가 멈출 수 있는지, 읽고 쓰는 데이터는 어디에 있는지, 행동 기록은 어디에 있고 누가 볼 수 있는지"라고 밝혔다.</p> <p contents-hash="acd4bd608d4ddf090c00650761ce54319e319d5f4e315812cbe9f266f5179181" dmcf-pid="GIu6hYiPcH" dmcf-ptype="general">그는 모든 AI를 직접 통제할 필요 없이 대출 심사처럼 결과를 되돌리기 어려운 업무에 적용하는 것으로 충분하다며 기록 기능은 나중에 덧붙이기 어려운 만큼 에이전트를 만들 때부터 넣으라는 조언도 덧붙였다.</p> <p contents-hash="e9fcec208fbb9ffeff2dd2399b6df691c07d756d85e426b76ce38f7319d7a16f" dmcf-pid="HC7PlGnQcG" dmcf-ptype="general">셀바두라이 CTO는 "AI 행동의 주인은 무슨 일이 일어났는지 보여줄 수 있는 조직"이라며 "모델을 소유하는 것은 필요하지만 그것만으로는 충분하지 않다"고 말했다.</p> <p contents-hash="c42e7aa5a1d83d37ec1fa2a945c508e8fe9c3888b0dfab0a09be2238154de56d" dmcf-pid="XhzQSHLxaY" dmcf-ptype="general">이어 "한국이 과거 초고속 인터넷을 빠르게 구축해 세계의 참고 사례가 된 것처럼 AI 에이전트의 책임과 승인 기준을 세우는 일에서도 앞장설 수 있을 것"이라고 말했다.</p> <p contents-hash="1f8799720c43c1e767ca2917791f01af9f5cbce6cbec01d9ab68b6baaaceccb3" dmcf-pid="ZlqxvXoMoW" dmcf-ptype="general">남혁우 기자(firstblood@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 "검색만으론 부족"…퍼플렉시티, 'AI 컴퓨터'로 업무까지 맡는다 10-07 다음 누리호 성공률 80%, 첫 정시 발사…한국 위성 운송 신뢰성↑ 10-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
