"AI 안전사회 만들려면 고품질 데이터는 필수"

작성일 09-07

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">김명주 AI안전연구소장<br>"李정부, 사회적 안전 이루려면<br>IoT·센서기술 통한 데이터 수집<br>개방된 개발 환경 등 뒤따라야<br>美·英 연구소·기업들과 협업해<br>아태 대표 AI硏으로 도약할것"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="b3rdlOFOhl">
          <figure class="figure_frm origin_fig" contents-hash="15534439bac6d7204d3deffb7ba9756261885e19237c59b97f70d45e9a73801b" dmcf-pid="K0mJSI3ITh" dmcf-ptype="figure">
           <p class="link_figure"><img alt="김명주 AI안전연구소장. 사진 제공=AI안전연구소" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180222215prjo.jpg" data-org-width="640" dmcf-mid="u0r4DAWASW" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180222215prjo.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            김명주 AI안전연구소장. 사진 제공=AI안전연구소
           </figcaption>
          </figure>
          <div contents-hash="ea5c4c70cdee019a9f86bf55997d41b6fc07f3315f8acda58d79da1b5d0e115b" dmcf-pid="9psivC0ChC" dmcf-ptype="general">
            [서울경제] 
           <p>이재명 정부 들어 ‘안전 불감증을 뿌리 뽑자’ 등 안전을 강조하는 말이 많이 들린다. 이재명 대통령은 공장과 건설 현장 등의 산업재해에 관해 ‘미필적 고의에 의한 살인 또는 사회적 타살’로 규정하며 산재 공화국에서 벗어나겠다는 의지를 거듭 밝히고 있다. 자연스레 산업과 교통·건설뿐 아니라 먹거리·화학물질·질병·자연재해·환경·사이버 분야 등에서도 안전이 화두로 떠오르고 있다. 이에 인공지능(AI)을 각 분야에 접목해 사회적 안전도를 높이는 게 효과적이라는 조언이 나온다. 하지만 분야별로 AI를 훈련시킬 데이터 수집·관리 체계의 미흡으로 효과적인 사회적 안전 시스템 구축이 여의치 않은 게 현실이다.</p>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="18541598536f0ad4c3b032e0bd0890433e9069ecc82e6be112afaf7e14112b8f" dmcf-pid="2UOnThphvI" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180223519giiq.jpg" data-org-width="640" dmcf-mid="7NSI70Q0Sy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180223519giiq.jpg" width="658"></p>
          </figure>
          <div contents-hash="7e6bee7f261c381c29ea9af03654c6a92b340f325ec2c502e84648e70604cfbc" dmcf-pid="VuILylUlvO" dmcf-ptype="general">
           <p>김명주 초대 AI안전연구소장은 7일 서울경제신문과의 인터뷰에서 “국가적으로 안전한 사회를 만들기 위해 AI의 체계적 활용 방안을 모색하는 ‘셰르파’ 역할을 하겠다”고 역설했다. 셰르파가 히말라야 원정대의 무거운 짐을 대신 짊어지고 정상까지 안전하게 안내하는 것처럼 AI 셰르파가 되겠다는 것이다. AI가 살상 무기에 쓰이거나 거짓을 얘기하는 환각 현상 등 부작용도 적지 않은데 국가적으로 ‘한국형 AI 위험 지도’와 ‘국민 생활 안전 지도’를 만들어 사회적 안전을 꾀해야 한다는 게 그의 지론이다. 서울여대 정보보호학부 교수로 재직 중인 김 소장은 한국저작권위원회 부위원장과 바른AI연구센터장 등을 역임한 AI·정보보호 전문가다.</p>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="5205de7779acc8e037de8c6063cb054b2c1252362fe8d16480751187a4b58bdd" dmcf-pid="f7CoWSuSls" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180224801kggh.jpg" data-org-width="640" dmcf-mid="zLptM6c6CT" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180224801kggh.jpg" width="658"></p>
          </figure>
          <div contents-hash="80643e31078d20d31fa25be5efa492033b46f59b78dbb3f4bcd08d202109d7ac" dmcf-pid="4XAPmEHElm" dmcf-ptype="general">
           <p>김 소장은 AI를 제조·의료·국방·교육·금융·서비스 등에 접목하는 ‘AI 대전환(AX)’을 꾀하려면 AI를 활용한 사회적 안전 체계 확립이 중요하다고 했다. 예를 들어 AI를 통해 산업 현장에서 생산라인의 위험 최소화와 경로 최적화를 꾀하는 식이다. 건설·인프라 현장에서도 사전에 AI에 관련 데이터를 학습시켜 위험을 조기에 감지할 수 있다. 홍수·산불이 났을 때 AI 드론을 통한 탐색·구조와 대피 경로 안내가 가능하고 지진계와 기후 데이터를 AI로 분석해 비정상 신호도 조기 탐지할 수 있다. 환자의 질병에 대한 효과적인 진단은 물론 코로나19 바이러스처럼 신종 질환이 유행하기 전에 이상 패턴의 판별도 가능하다. 식품 이미지를 기반으로 한 이물질 탐지와 유통기한 판별로 먹거리 안전을 꾀할 수 있다. 해킹 기술의 고도화에 대응해 사이버 안전을 지키는 데 AI를 활용할 수도 있다. 이를 위해 한국과학기술한림원의 경우 ‘국민생활안전종합지원단’을 가동하며 AI 활용 방안을 모색하고 있으나 아직은 갈 길이 멀다. 김 소장은 “AI를 통해 사회적 안전을 효과적으로 달성하려면 인터넷, 사물인터넷(IoT), 센서 기술을 통한 데이터 수집·저장·관리, 혁신적 AI 모델, 고성능 컴퓨팅, 개방된 개발 환경이 필요하다”며 품질 좋은 빅데이터 확보의 중요성을 강조했다.</p>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="3f2a15b1bbf10c21d42e45edd1986360141b8f947aedec5c4151db0c8f986dcd" dmcf-pid="8ZcQsDXDhr" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180226091xtoz.jpg" data-org-width="640" dmcf-mid="qgqUiRrRSv" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180226091xtoz.jpg" width="658"></p>
          </figure>
          <div contents-hash="4303ff6db2104fdb47c60ef9fce465b97b2187687236385f5f16a7fe610491d8" dmcf-pid="65kxOwZwvw" dmcf-ptype="general">
           <p>내년 1월 시행되는 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’에는 AI와 관련해 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하고 AI 사회의 신뢰 기반을 유지하기 위해 AI안전연구소를 두도록 돼 있다. 다만 정부가 지난해 말 연구소를 발족하면서 편의상 한국전자통신연구원(ETRI) 산하로 두는 바람에 일정 부분 한계가 노출돼 과학기술정보통신부 직속으로 바꾸는 게 필요하다는 목소리가 많다. 이렇게 해야 AI 고도화와 효과적인 AX 추진을 위한 AI 안전의 토대를 튼튼히 쌓을 수 있다는 것이다.</p>
          </div>
          <p contents-hash="dc2812aefb72cca894cd581fc6f82d703439ee709388c88d7162bdde506bf5bb" dmcf-pid="P1EMIr5rTD" dmcf-ptype="general">이와 관련, 데미스 허사비스 딥마인드 최고경영자(CEO)를 비롯해 AI 전문가들은 AI로 인한 대규모 일자리 상실 우려보다 AI를 통제할 안전장치 부족의 위험성에 더 주목한다. AI가 위험한 딥페이크(AI 이용 합성사진)나 음란물 제작 등에 악용되거나 무기 제조 등 국가 안보에 치명적 위협으로 작용할 수 있기 때문이다. 김 소장은 “미국과 중국의 패권 전쟁으로 인해 AI 안전을 위한 국제 표준 수립이 여의치 않다”면서도 “AI 안전과 보안은 곧 국가 안보와 직결된다는 사명감으로 AI 안전 체계 확립에 나서야 한다”고 힘줘 말했다. 그러면서 “로봇 등 AX 추진 과정에서 예기치 못한 사고를 방지하고 기업의 수출 촉진을 위해서도 AI의 신뢰성·안전성 평가와 표준화를 적극 추진해야 한다”고 했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="0590d0ac68f755b0259cae9d24a17ebffaa1941be71733915794233c758a6b03" dmcf-pid="QtDRCm1mvE" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180227317jkov.jpg" data-org-width="508" dmcf-mid="BXPpJMwMWS" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/07/seouleconomy/20250907180227317jkov.jpg" width="658"></p>
          </figure>
          <div contents-hash="0b4f85da2b6f5db663a92f5de6a7bb8111178fe058dd2143d72a94464b6edbf8" dmcf-pid="xFwehstsyk" dmcf-ptype="general">
           <p>김 소장은 AI 주요 3개국(G3) 도약을 위해 AI 안전 포털 역할을 강화하고 글로벌 협력에 적극 나서겠다는 복안도 밝혔다. 그는 “미국과 영국 등의 AI 안전 관련 연구소와 대학·기업과 협업해 아시아태평양 지역을 대표하는 AI안전연구소로 발돋움하겠다”면서 “동남아시아국가연합(ASEAN·아세안) 등에 대한 AI 안전 노하우 전수도 검토하고 있다”고 전했다.</p> 고광본 선임기자 kbgo@sedaily.com
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p>

이전

더 빠른 말·고기 많은 양…동물 유전자 교정, 전세계 확산

09-07
다음

부모 학대에 버려진 자매…10년만 근황에 오열(‘탐비’)

09-07

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"AI 안전사회 만들려면 고품질 데이터는 필수"

멤버랭킹

관련자료

멤버랭킹