“저는 AI입니다”…EU, 챗봇·딥페이크엔 ‘AI 꼬리표’, AI 친구는 반복 고지 작성일 07-21 60 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI법 제50조 지침 공개</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XoeuCgnQGo"> <figure class="figure_frm origin_fig" contents-hash="e30e82ba1544b9184d3127b663e3acc21e618b95248d54e42a341b3c0cc70b1d" dmcf-pid="ZnMpOLJ61L" dmcf-ptype="figure"> <p class="link_figure"><img alt="유럽연합(EU) 국기. 사진은 2019년 9월 벨기에 브뤼셀에 있는 EU 집행위원회 본부에 게양된 모습. /로이터통신·연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/chosun/20260721144811524ximg.jpg" data-org-width="4812" dmcf-mid="H0sepvhD1g" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/chosun/20260721144811524ximg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 유럽연합(EU) 국기. 사진은 2019년 9월 벨기에 브뤼셀에 있는 EU 집행위원회 본부에 게양된 모습. /로이터통신·연합뉴스 </figcaption> </figure> <p contents-hash="11f6f5578f05a73e9dbce77b025d77f3cfd07a378b4d0a7ec3aef4c98c3bb172" dmcf-pid="5LRUIoiP5n" dmcf-ptype="general">앞으로 유럽에서는 인공지능(AI)을 고객 상담이나 예약·구매에 투입하거나 AI로 기사·광고·이미지를 만들 경우, AI가 개입했다는 사실과 누구를 대신해 일하는지를 이용자에게 밝혀야 한다. 이전에는 콘텐츠나 서비스가 AI로 만들어졌는지를 이용자가 스스로 판별해야 했다면, 앞으로는 AI를 개발하거나 활용한 기업이 그 사실과 출처를 먼저 밝히도록 한 것이다.</p> <p contents-hash="720f17c6361b14866d30af04b55e9d7cd66487b18017c6f8f9fa804574ee2f38" dmcf-pid="1oeuCgnQGi" dmcf-ptype="general">유럽연합(EU) 집행위원회는 20일(현지 시각) 이 같은 내용을 담은 ‘AI법 제50조 투명성 의무 최종 지침’을 공개했다. 51쪽, 155개 문단으로 구성된 지침에는 상담 챗봇과 AI 에이전트, 딥페이크, AI 기사·광고 등에 어떤 표시와 검수가 필요한지 구체적인 사례가 담겼다.</p> <p contents-hash="0205b9c79d856ae6de6d20a9463674721061b55e9b87298c05a3781aac854be1" dmcf-pid="tgd7haLxXJ" dmcf-ptype="general">지침은 AI 콘텐츠의 출처를 밝힐 책임을 개발사와 이용 기업에 나눠 부과했다. 생성형 AI 개발사는 콘텐츠가 만들어지는 단계에서 기계가 읽을 수 있는 표식을 넣고 이를 탐지할 수단을 제공해야 한다. 해당 AI를 이용해 딥페이크나 공익 관련 정보를 게시하는 기업·언론·기관은 사람이 바로 알아볼 수 있도록 AI 사용 사실을 표시해야 한다. 식품에 원산지를 표시하듯 디지털 콘텐츠에도 인공적인 출처를 증명하는 체계를 만드는 셈이다.</p> <p contents-hash="744d079dbd1a4abd774ab03bbd1dc233d2238f4096b75236a54f07b2485d04e6" dmcf-pid="FaJzlNoMHd" dmcf-ptype="general">기업이 사후지원(A/S) 창구에 AI 챗봇을 배치했다면 이용 약관에만 이를 적어 놓아서는 부족하다. 소비자가 대화를 시작할 때 상대가 사람이 아니라 AI라는 사실을 쉽게 알아볼 수 있도록 알려야 한다. 다만 서비스의 성격이나 화면 구성상 AI와 대화한다는 점이 명백한 경우에는 별도 고지가 필요하지 않을 수 있다.</p> <p contents-hash="28b1402c2f23fb23531f8cf463cceae234d0419c2a599cb53a0fa92f5dfee320" dmcf-pid="3NiqSjgRYe" dmcf-ptype="general">식당 예약과 상품 구매, 가격 협상이나 계약을 대신 수행하는 AI 에이전트는 자신이 AI라는 사실뿐 아니라 누구를 대신해 행동하는지도 상대방에게 밝혀야 한다. 소비자를 대신한 예약 봇인지, 기업을 대신한 판매 봇인지 알 수 있어야 한다는 취지다.</p> <p contents-hash="672be315175f798a1060cc4e42d852b4d441990bbceaddd54491960bec796113" dmcf-pid="0jnBvAae1R" dmcf-ptype="general">AI 친구나 동반자처럼 이용자의 정서적 의존을 유발할 가능성이 있는 서비스에는 더 강한 고지가 요구될 수 있다. 가입하거나 대화를 시작할 때 한 번 알리는 것으로 부족하며, 대화가 길어져 이용자가 실제 사람으로 오인할 가능성이 커지면 대화 도중에도 AI라는 사실을 반복적으로 알려야 할 수 있다.</p> <p contents-hash="88a2c7fa93452e78b53ade8e3e1149f4a09fba49a294d69d3994fc70bed0df4d" dmcf-pid="pALbTcNdHM" dmcf-ptype="general">딥페이크의 범위도 실존 인물을 복제한 영상에 한정되지 않는다. 실제로 존재하지 않는 가상의 최고경영자(CEO)나 인플루언서를 광고에 내세웠더라도 현실의 사람처럼 보여 이용자를 속일 가능성이 있다면 AI로 생성했다는 사실을 표시해야 한다. AI를 이용해 제품을 실제보다 좋아 보이게 만든 광고나 보도 사진의 배경을 바꿔 사건에 대한 인식을 달라지게 한 이미지도 표시 대상이 될 수 있다.</p> <p contents-hash="868a4423c66fa49ddc09da7d59c9c596abf2e42092794a6e8721dd308770e24a" dmcf-pid="UcoKykjJGx" dmcf-ptype="general">뉴스 요약이나 상장기업 보고서, 공공기관 재난 경보처럼 공익과 관련된 AI 생성 텍스트에는 원칙적으로 AI 사용 사실을 표시해야 한다. 표시를 생략하려면 실질적인 인간 검수가 이뤄져야 한다. 해당 분야의 전문성을 갖춘 사람이 사실관계와 내용을 검토하고, 최종 편집 책임자가 내용을 수정하거나 게재를 거부할 권한을 행사해야 한다. 사람이 결과물을 읽지 않은 채 발행 버튼만 누르는 정도로는 실질적인 검수로 인정받기 어렵다는 의미다.</p> <p contents-hash="462b8f36a4e572a3b3ce31db7c3964d760586d38396697eaf4992359c158f936" dmcf-pid="ukg9WEAiHQ" dmcf-ptype="general">새로운 규제를 만든 것은 아니다. 2024년 확정된 AI법 제50조가 내달 2일부터 적용되는 것을 앞두고, 모호했던 적용 범위와 예외를 집행위가 최종적으로 정리한 것이다. 지침 자체에는 법적 구속력이 없지만 회원국 감독 기관과 기업이 법을 해석하고 집행하는 기준으로 활용될 전망이다.</p> <p contents-hash="d9a10a25b56264657ab39fa526824181e82bd7836fd7d6614d7a2c638d175faf" dmcf-pid="7mc8ZswaGP" dmcf-ptype="general">이번 지침은 “이용자가 주의하면 가짜를 가려낼 수 있다”는 기존 접근의 한계를 인정한 결과로 풀이된다. 유럽의회가 지난해 6월 EU 27개국의 15세 이상 2만6121명을 조사한 결과, 응답자의 66%는 최근 일주일 동안 허위정보나 가짜뉴스에 적어도 가끔 노출됐다고 인식했다. 허위정보를 판별할 능력에 자신이 없다는 응답도 32%였다.</p> <p contents-hash="fac979404df7fffefb0f34efc96b137bfb7225b8350394362ca0b97549ff2fbe" dmcf-pid="zsk65OrN56" dmcf-ptype="general">제50조를 위반하면 최대 1500만유로(약 254억원) 또는 기업의 전 세계 연매출 3% 가운데 큰 금액이 부과될 수 있다. 다만 8월 2일 이전 출시된 생성형 AI의 기계 판독 표식 의무에는 12월 2일까지 유예 기간이 적용된다. 회원국마다 감독 기관 구성과 집행 준비 정도가 달라 시행 초기에는 제재 강도에 차이가 날 가능성도 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "HBM 다음은 '극미세·양자'"…정부, K-문샷으로 차세대 반도체 승부수 07-21 다음 삼성전자, 2030년까지 신규 팹 4곳 구축…용인·평택·호남 전방위 투자 07-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
