[22대 AI 입법 후반전⑤] ‘AI생성물 표시 의무’ 둘러싼 복잡한 규제 셈법…애태우는 스타트업 작성일 08-09 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QpGi7xMVSS"> <div contents-hash="b5bac50a02b1096859618cd2c5c42889a12a56a401b6f79c75c162d6902df030" dmcf-pid="xSDKyu71Wl" dmcf-ptype="general"> <strong>인공지능(AI)이 산업과 일상 전반으로 빠르게 확산하면서 국회의 입법 움직임도 AI기본법을 넘어 산업·저작권·노동·개인정보·딥페이크 등 개별 영역으로 세분화되고 있다. 국회는 최근 22대 후반기 원 구성을 마무리 지었다. 그간 계류돼 있던 AI 관련 법안에 대한 상임위원회별 심사도 본격화될 전망이다. <디지털데일리>가 22대 국회에 발의·계류된 AI 관련 법안을 전수 분석해 입법 현황과 주요 쟁점, 산업별 규제·지원 방향을 살펴본다.<편집자></strong> </div> <figure class="figure_frm origin_fig" contents-hash="b46a0c95d3694a3d08e55adb08fef13bd3a09f42379df3b265d80fc8b7cdc282" dmcf-pid="y6qmxckLlh" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/09/552796-pzfp7fF/20260809060941802bbxt.jpg" data-org-width="640" dmcf-mid="PZWdUPQ9hv" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/09/552796-pzfp7fF/20260809060941802bbxt.jpg" width="658"></p> </figure> <p contents-hash="7480aae0beaabc36e52007bdc3e0d86dc1820a65c5609734030e4ff7484ee1e3" dmcf-pid="WPBsMkEovC" dmcf-ptype="general">[디지털데일리 오병훈기자] 인공지능(AI)이 만든 이미지와 영상, 음성이 일상적으로 유통되면서 이를 이용자가 알아볼 수 있도록 표시해야 한다는 입법도 빠르게 늘고 있다. 문제는 ‘AI 생성물 표시’라는 같은 목표를 두고도 법안별로 규율하는 대상과 책임주체, 표시방식과 처벌 수준이 제각각이라는 점이다.</p> <p contents-hash="e0c9803109d75e03d9cb215c4f72dec37437dfd5df4f10bc4a6e0087255001f7" dmcf-pid="YQbOREDgTI" dmcf-ptype="general">지난해 공포돼 올해 1월부터 시행에 들어간 AI기본법에서도 생성형AI 결과물에 대한 표시의무를 규정하고 있지만 국회에서는 표시를 훼손한 사람을 처벌하거나 플랫폼에 관리책임을 부과하는 법안, 워터마크 방식을 직접 규정하는 법안 등이 동시에 논의되고 있다.</p> <p contents-hash="ca53379011c00c9612d2ce8d6de8f3aedf9584e6b845c67452a4fae3b494f101" dmcf-pid="GxKIeDwaCO" dmcf-ptype="general">반대로 단순 색보정이나 배경생성 등 AI를 보조도구로 활용한 경우까지 표시하도록 하는 것은 과도하다며 규제 범위를 줄이자는 개정안도 나왔다.</p> <p contents-hash="a34c8c5ea7ca8bb69fecac036e80d85ff2b74a1a1da98b01ca771e66a1826884" dmcf-pid="HM9CdwrNSs" dmcf-ptype="general">결국 국회가 풀어야 할 과제도 단순히 AI 생성물 ‘표시 여부’를 정하는 것 이상으로 복잡해졌다. AI 모델 개발사부터 서비스 사업자, 콘텐츠 제작자, 이용자, 이를 유통하는 플랫폼 가운데 누가 어느 단계까지 책임을 져야 하는지를 정리해야 하는 상황이다.</p> <p contents-hash="cab59316625f0220e2d530724b86d51ab678671fdd07d13b873ed1dc89e5fceb" dmcf-pid="XR2hJrmjSm" dmcf-ptype="general"><strong>◆같은 ‘AI 생성물 표시’인데…워터마크부터 플랫폼 책임까지 제각각</strong></p> <p contents-hash="878a49734e4cd71f51d5fbe78d2f74e468d6b197885c5a468c69ede36fa10bb6" dmcf-pid="ZeVlimsACr" dmcf-ptype="general">현행 AI기본법 제31조는 AI 생성물 규제 기본 틀이다. 생성형AI 또는 이를 이용한 제품·서비스를 제공하는 AI사업자는 결과물이 생성형AI로 만들어졌다는 사실을 표시해야 한다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 이용자가 명확하게 알아볼 수 있는 방식으로 고지 또는 표시하도록 했다. 예술·창작물은 향유를 저해하지 않는 방식으로 표시할 수 있도록 예외도 뒀다.</p> <p contents-hash="d4712ff2b747c3925d9d274a76bc210812242a9959d3842a7c1330724e5975dd" dmcf-pid="5dfSnsOchw" dmcf-ptype="general">정부에서는 해당 법안을 기반으로 세부 시행령 및 가이드라인까지 마련한 상황이다. 시행령에서는 일반 생성형AI 결과물의 경우 사람이 알아볼 수 있는 문구·워터마크 등 ‘가시적 방식’뿐 아니라 메타데이터나 디지털 워터마크처럼 기계가 판독할 수 있는 ‘비가시적 방식’도 표시 수단으로 인정했다.</p> <p contents-hash="9a04f660fba48b8a36155ca1292e382413703744a9abd01921a5326c0d0e4161" dmcf-pid="147wPjAihD" dmcf-ptype="general">다만 정부의 세부 규정도 여전히 모호한 지점이 많다는 지적이 이어지고 있다. 이에 조인철 의원(더불어민주당)은 지난 1월 정보통신망법 개정안을 발의, AI 기본법의 부족한 부분을 타법에서 보완하는 방안을 제시했다. 정부의 AI 생성물 대응 방향을 반영해 마련된 법안이다. 조 의원이 대표 발의한 의원입법이지만 정부와 관련 제도 개선 방향을 협의해 마련한 안이라는 것이 조 의원실 설명이다.</p> <p contents-hash="a81fe89e3d79aaa30822db68e9578c5e2c938c220e870f72cbab05ab5f2d285e" dmcf-pid="t8zrQAcnhE" dmcf-ptype="general">조 의원안은 AI 생성물을 직접 제작·편집해 제공하는 자에게 생성 사실을 명확히 표시하도록 하고 누구든 해당 표시를 훼손하거나 위조·변조하지 못하도록 했다. 포털·플랫폼 등 정보통신서비스 제공자에게도 AI 생성물 표시를 지원하고 표시 훼손 등을 막기 위한 기술적·관리적 조치를 취하도록 하는 내용이 담겼다.</p> <p contents-hash="1948d81c2a84c41f457ae09a9c26cad0770fa4858f43b7fa6fcfa6d04a7f4cd7" dmcf-pid="F6qmxckLhk" dmcf-ptype="general">유사한 취지로 AI 기본법 개정을 겨냥한 법안도 발의돼 있다. 이상휘 의원(국민의힘)이 지난 2월 발의한 AI기본법 개정안은 생성물에 부착된 표시를 훼손하거나 위조·변조하는 행위를 금지하고 이를 어길 경우 최대 3000만원 과태료를 부과하는 내용이다. 현행법이 최초 생성 단계의 표시의무를 규정했다면 유통 과정에서 표시를 지우는 행위까지 규율 범위를 넓히겠다는 취지다.</p> <p contents-hash="8c19c4797178a565fa5ee81ec4b7b630921ed4614342b19405854e26cf75bc08" dmcf-pid="3PBsMkEovc" dmcf-ptype="general">김대식 의원(국민의힘)안은 표시 방법 자체를 한층 구체적으로 규정한다. 결과물 자체에 코드·문자·부호 등을 삽입하는 ‘비가시적’ 또는 ‘가시적’ 워터마크를 활용하도록 하고 이를 훼손·위작·변작할 경우 2년 이하 징역 또는 2000만원 이하 벌금에 처하도록 했다. 같은 표시의무라도 이상휘 의원안은 과태료, 김대식 의원안은 형사처벌을 제안하고 있다는 점에서 차이가 있다.</p> <p contents-hash="cdc82c3ef6688712f1fe24dec337f5f818f46315ba96f131608cdb8da840b90e" dmcf-pid="0QbOREDglA" dmcf-ptype="general">반대로 표시 범위를 좁혀야 한다는 법안도 있다. 김우영 의원(더불어민주당)안은 현행법상 ‘예술적·창의적 표현물’의 범위가 불명확하고 배경생성이나 색보정처럼 AI를 단순 보조도구로 쓴 경우에도 표시의무가 적용될 수 있다고 지적한다. 이에 창작물의 표시 기준과 보조적 AI 활용에 대한 예외를 보다 명확히 하는 방향을 제안했다.</p> <p contents-hash="78506549b04d25208b41b91d5f21534ca7f6d7f2169b74a8cd3f307164cef391" dmcf-pid="pxKIeDwaWj" dmcf-ptype="general">안철수 의원안은 ‘누가 표시할 것인가’에 초점을 맞췄다. 현행법에서는 AI 모델을 만드는 개발사업자와 이를 활용해 앱·플랫폼을 운영하는 이용사업자가 같은 표시의무 체계에 포함되지만, 안 의원안은 각 사업자의 역할에 따라 표시책임을 나눠 중복개발과 책임 불확실성을 줄이는 방향을 제안했다.</p> <p contents-hash="7d399c4bb9f9f9f03d9ee77756cc8288c5c1a5c73cc5d43e6d73427f275d601e" dmcf-pid="UM9CdwrNWN" dmcf-ptype="general">AI기본법이 아닌 다른 법안을 통한 AI 생성물 표시 방법 보완 취지 발의안도 다수 있다.</p> <p contents-hash="eea0ffd148fbfbfd22d9c8368148329a710c5d2a94970d064f04e6e15266a801" dmcf-pid="uR2hJrmjla" dmcf-ptype="general">김민전 의원(국민의힘)의 정보통신망법 개정안은 AI 기술로 만든 음향·화상·영상 등을 정보통신망에 게시하려는 사람에게 표시의무를 부과하고 사람의 얼굴·신체·음성을 당사자 동의 없이 AI로 합성·가공한 정보는 불법정보로 규정한다.</p> <p contents-hash="99056a967323ab338b20b3307d94700f18892f1ec0959461278e88bdec9d6762" dmcf-pid="7uXLqRe4Wg" dmcf-ptype="general">전용기 의원(더불어민주당)안도 AI 기술을 이용해 생성한 콘텐츠에 표시의무를 두되 이를 위반해 영리 목적으로 제공한 경우 처벌하는 구조다.</p> <p contents-hash="582be9cde9aa7c1bd2d26f37b34b4799b150bfa433ca4b6dde444f7e4f7e22ca" dmcf-pid="z7ZoBed8Co" dmcf-ptype="general">김상훈 의원(국민의힘)안은 다시 대상을 ‘딥페이크영상 등’으로 좁히면서 정보제공자의 표시의무와 표시를 훼손한 생성물의 영리 목적 유통 금지를 규정한다.</p> <p contents-hash="aedf8b070e5a1f64720382e44ac88940dcd85025e6da70e4311107998de15476" dmcf-pid="qz5gbdJ6lL" dmcf-ptype="general"><strong>◆AI 스타트업, 겹겹 규제 우려…“중소기업일수록 준수비용 부담”</strong></p> <p contents-hash="ce221f4b2923189ea7a762d6cf401fcbfa4ee2662f478fcd0210108656f28c23" dmcf-pid="Bq1aKJiPln" dmcf-ptype="general">문제는 AI기본법과 별개로 개별 법률과 부처별 지침이 동시에 만들어질 경우 하나의 AI 서비스가 여러 규제의 적용을 받을 가능성이 커지고 있다는 점이다. 특히 기술개발과 시장 진입에 자원을 집중해야 하는 스타트업에는 규제가 중첩될수록 법률 검토와 시스템 구축에 필요한 비용 자체가 새로운 진입장벽으로 작용할 수 있다는 지적이 나온다.</p> <p contents-hash="2373661921e89e96d3ba6fdde253b273443211df9bbb934111db7aa831adcd72" dmcf-pid="bBtN9inQhi" dmcf-ptype="general">현행 AI기본법은 생성형AI 개발·이용사업자를 중심으로 생성물 표시의무를 두고 있지만 여기에 공정거래위원회의 AI 허위·과장광고 대응방안과 AI 표시광고 관련 지침 등 법률 외 규율체계 등이 더해질 경우 사업자가 살펴봐야 할 규칙은 더욱 복잡해질 수 있다.</p> <p contents-hash="306cb452b7cca9f2451486b94053e2c93ad6ea2c73aa16395afefdb5dc5f4526" dmcf-pid="KbFj2nLxTJ" dmcf-ptype="general">규제 이행 가능성도 문제다. 플랫폼이 자체 생성형AI를 통해 만들어진 콘텐츠라면 생성 단계에서 워터마크나 메타데이터를 붙일 수 있지만 다른 회사 AI에서 만들어진 콘텐츠가 외부에서 편집된 뒤 업로드되면 상황이 달라진다. 표시가 제거되거나 메타데이터가 사라질 경우 플랫폼이 원본 생성경로를 확인하기 어렵고 특히 텍스트는 AI 생성 여부를 안정적으로 판별하는 것 자체가 쉽지 않다는 것이 업계 설명이다.</p> <p contents-hash="2615f3e7e2ccd68ab9fd669529263981925ece1bf0c6e804ff0339836a3c950e" dmcf-pid="9K3AVLoMWd" dmcf-ptype="general">이런 의무는 기업 규모에 따라 체감하는 부담도 달라질 수 있다. 대형 플랫폼은 별도의 AI 탐지시스템과 모니터링 조직을 구축할 여력이 충분하다. 하지만 스타트업이나 중소 플랫폼·이커머스 사업자는 같은 수준의 시스템을 구축하기 어렵다.</p> <p contents-hash="91466b6e782289df34accfb63dc0aa52cb92d505d8f983fa1989561e9ecc8e55" dmcf-pid="290cfogRCe" dmcf-ptype="general">결과적으로 동일한 규제가 적용되더라도 중소사업자에게 상대적으로 높은 준수비용이 발생하고 국내 사업자는 규제를 따르는 동안 집행력이 미치기 어려운 해외 플랫폼과의 규제 비대칭까지 발생할 가능성이 있다는 것이 정책 전문가들 분석이다.</p> <p contents-hash="5f7be5b1697abc106e857e5aa26cb794cab282426c1d6f568462f97e1799fe98" dmcf-pid="V2pk4gaeSR" dmcf-ptype="general">정주연 스타트업얼라이언스 선임전문위원은 “AI 규제 자체를 반대하는 것은 아니며 공감하는 측면도 있다”면서도 “AI기본법과 정보통신망법 등에서 비슷한 의무가 중첩되면 기업 입장에서는 어느 규제를 기준으로 서비스를 설계해야 하는지 혼란이 생길 수 있다. 특히 산업 생태계가 충분히 성숙하기 전부터 과도한 사전규제가 누적되면 국내 AI 서비스의 글로벌 경쟁력에도 부정적인 영향을 줄 수 있다”고 분석했다.</p> <p contents-hash="6418e7cca41b844bc2a8ec16fa0e1dbd8895cc80ca736268116c81b2a151c5dd" dmcf-pid="fIAzl30HvM" dmcf-ptype="general">이어 정 선임전문위원은 “새로운 규제를 계속 만드는 것보다 필요한 규제는 유지하되 중복되거나 실효성이 낮은 규제부터 정리할 필요가 있다”며 “기술적으로 이행하기 어려운 의무는 권고나 협력체계로 전환하고 기업이 합리적인 수준의 노력을 했다면 책임을 면할 수 있는 기준도 함께 마련해야 한다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 디지털자산 주도권 경쟁… 금융권, 플랫폼 확보 사활 [거래소 판도변화①] 08-09 다음 [AI 클로즈업] 하사비스·제프 딘 이후의 구글… ‘제미나이 2막’ 시험대 08-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
