[AI 안전성 평가] AISC가 제시하는 10대 안전 가이드 라인 작성일 12-07 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8Ym1G0Zvw6"> <figure class="figure_frm origin_fig" contents-hash="26792bfcbef41bb8ffe143e7f3a9107bc74db2874fa62ed6b9e8a6b32ea5d9ca" dmcf-pid="6GstHp5TD8" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/07/etimesi/20251207170252232xmrj.png" data-org-width="430" dmcf-mid="4e14KQV7OP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/07/etimesi/20251207170252232xmrj.png" width="658"></p> </figure> <p contents-hash="29abaa9d7653692a982f41a7c24ee2171ae3853f19306c865510d901253ba865" dmcf-pid="PHOFXU1ym4" dmcf-ptype="general">AISC 인증 사무국에서는 기술적 검증 사업과 함께 AI 관련 기업들이 기술개발 과정에서 참고할 수 있는 'AI 10대 안전 가이드라인'을 마련, 발표했다. 가이드라인은 국제표준(UNESCO, OECD, NIST, EU AI Act 등)과 글로벌 컨설팅기관(PwC, Deloitte 등)의 프레임워크를 기반해 윤리·안전·신뢰성을 종합적으로 담고 있다.</p> <p contents-hash="3128c479e6623acbd2159898e4b1611fd2bb1bda5689883e481c4719c92c8e41" dmcf-pid="QXI3ZutWmf" dmcf-ptype="general">가이드라인은 AISC가 AI를 설계·개발·배포하는 모든 개발자와 공급자가 AI 안정성과 신뢰성, 윤리성 확보를 위해 고려해야 할 체크 사항을 나열했다. 사무국은 가이드라인이 AI가 인간의 통제를 벗어난 기술이 아닌 신뢰 가능한 동반자로 발전하기 위한 윤리적 안전장치로 활용될 것으로 기대하고 있다.</p> <p contents-hash="f636647f89de581e5d332e39645992f653fccb4ea61ca8c1a1857a7337f479b1" dmcf-pid="xZC057FYmV" dmcf-ptype="general">◇인간 중심적 목표 정립(Alignment to Human Values)</p> <p contents-hash="dfa6c64911dc5fec9b25d6b41eddba51515c4a9ac132609dffbed49575b8aa46" dmcf-pid="yifNnkgRm2" dmcf-ptype="general">AI 시스템은 반드시 인간의 가치와 목적에 부합해야 한다. 고위험 상황에서는 인간의 감독과 개입이 가능해야 한다.</p> <p contents-hash="626126d91d9112068c3c19bb1323c4fc84bd46b3a9d6837478da54616cb17f97" dmcf-pid="WSkGv5WIO9" dmcf-ptype="general">◇신뢰성과 견고성(Reliability & Robustness)</p> <p contents-hash="38f4232301e9f4df76eb3fbfcd169f257393d078040deb08a638e8c19a2e5631" dmcf-pid="YvEHT1YCrK" dmcf-ptype="general">AI는 설계된 범위 내에서 일관되게 작동해야 한다. 오류나 외부 공격에도 견딜 수 있게 설계돼야 한다. 안정성과 예측 가능성이 핵심 요소다.</p> <p contents-hash="9502fcca3d5c2c256d47b696a4de82f79599d5d9f4622dcdbc1579652e69c090" dmcf-pid="GTDXytGhrb" dmcf-ptype="general">◇투명성과 설명가능성(Transparency & Explainability)</p> <p contents-hash="2e3c7a8d0e55045e5488071548e1424507ec4e9803a026dc5e098f550ea322a7" dmcf-pid="HywZWFHlIB" dmcf-ptype="general">AI의 의사결정 과정을 명확히 설명할 수 있고, 사용자와 이해관계자가 이해할 수 있어야 한다. 예측 결과에 대한 근거와 논리를 제시해야 한다.</p> <p contents-hash="b7db9a77e258658b2ad2614863d1f482e3020dbc640e5b13823121a2bc946339" dmcf-pid="XWr5Y3XSsq" dmcf-ptype="general">◇안전성 및 보안(Safety & Security)</p> <p contents-hash="1b69e338ccb3a8252527913ee828fd2e07799385d41ede442fa7ecce562f2715" dmcf-pid="ZYm1G0ZvDz" dmcf-ptype="general">사이버 위협으로부터 시스템과 데이터를 보호한다. 각종 리스크로부터 사람·환경·자산·정보 등이 안전해야 한다. 다층적 보안 체계 구축이 필수적이다.</p> <p contents-hash="4e2aa1c0c542880cf0ab4306668f70bf62d42af4dd9a8a03f0d26428d26eab4b" dmcf-pid="5GstHp5TO7" dmcf-ptype="general">◇책임과 거버넌스(Accountability & Governance)</p> <p contents-hash="2808821024acfc6f7e16c3554bbc184d1eb506df03fe6280a960540f2503341e" dmcf-pid="1HOFXU1ymu" dmcf-ptype="general">AI의 설계·운영·영향 등에 명확한 책임 소재가 있어야 한다. 조직 내·외부의 체계적인 감독과 감사를 통해 투명한 책임 체계를 확보한다.</p> <p contents-hash="d24f2d5d0383409cf8b4792413049d51a6985585c304859df8480acc18695244" dmcf-pid="tXI3ZutWrU" dmcf-ptype="general">◇공정성과 공평성(Fairness & Impartiality)</p> <p contents-hash="775edaa2d4bf3b7f67823cc51d25e72d9596288de936013c13d14485a1101a25" dmcf-pid="FZC057FYDp" dmcf-ptype="general">AI는 성별·인종·경제적 지위 등에 따른 불공정한 영향을 주어선 안된다. 모든 형태의 차별을 방지해야 한다. 편향 없는 알고리즘 개발이 핵심이다.</p> <p contents-hash="62a11bdc6a705fd274527a8176ad176297fd7858ab2ce4aaddf20b96c8ffb9ce" dmcf-pid="35hp1z3GE0" dmcf-ptype="general">◇프라이버시 보호(Privacy & Data Protection)</p> <p contents-hash="3aa488804dc4e6941e61470a0b1da39e0273005490ab478a8798d8098dd95125" dmcf-pid="0lcYSZyOE3" dmcf-ptype="general">개인 데이터는 명확한 동의하에 수집·사용 한다. 개인정보 보호와 프라이버시 권리가 보장돼야 한다. 데이터 최소화 원칙을 준수해야 한다.</p> <p contents-hash="b0f0b17f3f9fe67299d731b7c9234b78a58036c60c4e3fa0abdf840f98ea377f" dmcf-pid="pSkGv5WIIF" dmcf-ptype="general">◇위험의 측정 및 관리(AI Risk Measure & Manage)</p> <p contents-hash="512ff12175800efe30be1d18e1acb0742d3702afe796cce4c3e68145abe91326" dmcf-pid="UqZVB69UEt" dmcf-ptype="general">AI의 위험 규모를 정량·정성적으로 평가하고 식별된 위험에 체계적으로 대응한다. 지속적인 모니터링과 업데이트를 통한 개선이 필요하다.</p> <p contents-hash="d66d343e10cf39931d7b9234be485eff242f427a5bce33df5e73ea578ca11aee" dmcf-pid="uB5fbP2uI1" dmcf-ptype="general">◇지속가능성과 포용성(Sustainability & Inclusiveness)</p> <p contents-hash="17609c17d1ec4d9a2928dbc4c12fd1422bf228f2f615754df8efb092a4172088" dmcf-pid="7b14KQV7E5" dmcf-ptype="general">AI는 환경·사회적으로 지속 가능해야 한다. 모든 계층과 다양성을 포용하는 방식으로 개발·운영되어야 한다. 포용적 혁신을 통한 사회적 가치 창출을 목표로 한다.</p> <p contents-hash="d85b8c8599b904c2df91fb7439aa0676114f9a430fb5570a5db3ce2e6b6d43a3" dmcf-pid="zKt89xfzrZ" dmcf-ptype="general">◇미래세대를 위한 고려(Youth)</p> <p contents-hash="82110b03c2cd8a442bc964c002819bb12cd530d03ccc9500e4d451db8cc4cb50" dmcf-pid="q9F62M4qsX" dmcf-ptype="general">AI는 특히 젊은 세대의 사고방식, 가치관, 일과 삶의 균형 인식에 큰 영향을 미친다. 미래세대의 삶과 가치 보전을 신중히 고려한다.</p> <p contents-hash="5d61d8368c3cfebc6b444f13159b6f04ad5c97f7f92ce750c273e379be6733df" dmcf-pid="B23PVR8BDH" dmcf-ptype="general">조호현 기자 hohyun@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 [AWS 리인벤트 2025]AWS, “韓, AI 스타트업 화수분…적극 지원할 것” 12-07 다음 [AI 안전성 평가] 'AISC'로 인공지능(AI)안전과 신뢰 증명 12-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
