[Aㅏ핫 AI] AI는 편견에서 자유로울 수 있을까? 작성일 11-04 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BGdEkKSrCD"> <div class="video_frm" dmcf-pid="bukvSRtWhE" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="5ER29le4CT" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="qN1KbCMVTw" frameborder="0" height="370" id="video@5ER29le4CT" poster="https://t1.daumcdn.net/news/202511/04/kbs/20251104201149133mhba.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/459059352?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="f71f682f7c500de5b06dff3bea4b4c1df973a90faa0c9310f9138c5e6a8312a3" dmcf-pid="K7ETveFYCk" dmcf-ptype="general">[KBS 부산] 우리 생활 곳곳에 스며들고 있는 AI 기술을 알기 쉽고 재미있게 전해드리는 '아핫 AI' 시간입니다. </p> <p contents-hash="7301abf779eb32ad91025836ae4b05ffade99112481d28191daa5d0b9fe338ec" dmcf-pid="9zDyTd3GSc" dmcf-ptype="general">'흑인은 음악을 잘한다' '동양인은 수학을 잘한다' 정확한 사실을 모른 채 내리는 판단을 '편견'이라고 하죠.</p> <p contents-hash="d7ec16f7b081a00e0c96a1794c915d1b8066b5a14e5389ec3031471d10e22848" dmcf-pid="2qwWyJ0HlA" dmcf-ptype="general">우리는 일상 속에서 종종 '편견'과 마주하게 됩니다.</p> <p contents-hash="8dc4973c9033e7174918baefef17cb81659a293c60ad849b29cbdcdf24f348a7" dmcf-pid="VBrYWipXlj" dmcf-ptype="general">그런데 인공지능은 편견에서 자유로울 수 있을까요?</p> <p contents-hash="e4f02109dcf3b1eeacfe69ce59f58ebb2c9a8c1e67e1261fa53284019a13dc51" dmcf-pid="fbmGYnUZWN" dmcf-ptype="general">기계니까 감정이 없고, 사람보다 더 객관적일 것이라고 생각하기 쉽지만 현실은 그렇지 않습니다. </p> <p contents-hash="f53a09d28636e2777b14a0a219c3be00344723c3c10d4495c55288e7a2bfbf85" dmcf-pid="4KsHGLu5ha" dmcf-ptype="general">인공지능 이미지 생성기 '스테이블 디퓨전'에 최고경영자, 가정부 등을 검색하면 최고경영자는 주로 백인 남성, 가정부는 제3세계 여성으로 표현됐습니다.</p> <p contents-hash="74425d016448cd214dc3a893f24419e600df2ac01341590d07b047dce71c7680" dmcf-pid="8zDyTd3Gvg" dmcf-ptype="general">수많은 데이터를 학습하는 AI가 사회 속 고정관념까지 그대로 배운 결과죠. </p> <p contents-hash="36ea71062d4feb74e001b7e6224dccdde359c17eb2bbd71204452bb42256f8c5" dmcf-pid="6qwWyJ0HTo" dmcf-ptype="general">이런 편향은 이미 여러 차례 문제로 지적돼 왔습니다.</p> <p contents-hash="9cde39fa0c9bd914478d0aff1c6646207478ef11f45e96301f6020bafe379b52" dmcf-pid="PBrYWipXCL" dmcf-ptype="general">2015년 구글의 이미지 분류 시스템은 한 흑인 사용자의 사진을 '고릴라'로 잘못 분류해 논란이 됐습니다.</p> <p contents-hash="cdc4045e7722b55c5c5e07aee4d396309b95b852e1a5f9037aa05728767758e9" dmcf-pid="QbmGYnUZWn" dmcf-ptype="general">또 미국 민간기업이 개발한 재범 예측 프로그램 '콤파스'는 범죄 전력과 범죄자의 성향, 태도 등 130개가 넘는 요소를 토대로 재범 위험을 10단계로 평가했는데요.</p> <p contents-hash="d424f53a7a25370e9485ad9cc52f3916face174a97a9082f0dd7968ed8a14352" dmcf-pid="xKsHGLu5Ti" dmcf-ptype="general">백인보다 흑인의 재범 확률을 높게 예측하는 편향된 결과를 내놓았습니다. </p> <p contents-hash="082efa0f85350398ee342528e44f7c97a5a9dbf0ce3c9fb25b0826d92c8d4d2b" dmcf-pid="ym9de1cnSJ" dmcf-ptype="general">AI가 가지는 편견 문제는 성별에서도 자주 드러납니다.</p> <p contents-hash="d1724585047ff2bf5f87c9fd983bb5517d66ece90007130f51e69e9dd131f3a1" dmcf-pid="Ws2JdtkLvd" dmcf-ptype="general">애플의 시리나 아마존의 알렉사처럼 AI 비서의 목소리가 대부분 여성으로 설정된 것도, '비서는 여성일 것'이라는 사회적 인식이 반영된 결과라는 지적이 따릅니다.</p> <p contents-hash="346b8fe4d482e4a2ea52c738723bfe5f08392ea97ec439ebba5acd57a41ec109" dmcf-pid="YOViJFEoSe" dmcf-ptype="general">또 아마존은 과거 데이터를 학습한 AI 채용 시스템을 만들었는데요.</p> <p contents-hash="0312a9b67c0302ef4f56287be5b1378faee39791c5590b31bdb69e9a63c279f9" dmcf-pid="GIfni3DgCR" dmcf-ptype="general">이 시스템이 대부분 남성만 추천하고 여성 지원자에게 불이익을 주는 판단을 내리자 결국 이 시스템을 폐기하기도 했습니다.</p> <p contents-hash="e392a2d8a82567dfd6eb276f995f7f8b7a06137dae88e1383a3ebc7568355907" dmcf-pid="HzDyTd3GTM" dmcf-ptype="general">지식 편향의 문제도 있습니다.</p> <p contents-hash="1264286faec550b578347247cc1e28d14093a39e0903443605b0809220641df6" dmcf-pid="XqwWyJ0HTx" dmcf-ptype="general">최근 네이버 AI 검색이 '일본 영토'를 묻는 질문에 독도를 포함한다는 대답을 내놔 논란이죠.</p> <p contents-hash="802eb43af32a7031cfb85cf456dba7c9838e4881e9375ab08b2425aa12f7a35d" dmcf-pid="ZBrYWipXWQ" dmcf-ptype="general">AI가 국가별 자료의 비중을 구분하지 못하고 일본 측 서술을 사실로 인식했기 때문입니다. </p> <p contents-hash="d3e2cfc7dff3aa39d0cf31c567e625c8dd2e0fce47ebee5c40312d546c770eaa" dmcf-pid="5bmGYnUZCP" dmcf-ptype="general">문제를 인식하고 고쳐 나가려는 노력도 이어지고 있습니다.</p> <p contents-hash="598db5203ccdc65504c827fb034d843001cbdf7ca98452482051c2793984020f" dmcf-pid="1KsHGLu5C6" dmcf-ptype="general">국내 한 AI 기술 기업은 얼굴 표정과 움직임을 인식하는 AI를 개발하는 과정에서 특정 인종이나 얼굴형을 제대로 인식하지 못하는 문제를 발견했습니다.</p> <p contents-hash="dec18ee00ff69cbc9f0a69b01b2a31c2e753679cf9b49e67a40f0edf7c266f6a" dmcf-pid="t9OXHo71W8" dmcf-ptype="general">이에 데이터를 다시 정비하고 다양한 인종과 표정을 고르게 학습시키는 방식을 적용했죠.</p> <p contents-hash="3717b1c8149902f90fe668b4ed9cbd35f19548245de6f62cb7308b7aa5a411c4" dmcf-pid="F2IZXgztl4" dmcf-ptype="general">그 결과 AI의 인식 정확도와 표현력이 이전보다 훨씬 높아졌습니다.</p> <p contents-hash="080e26681b5c9899520e24c446303513892b69b7eed0a0bf0cebbf4610c1a0e8" dmcf-pid="3VC5ZaqFvf" dmcf-ptype="general">AI는 '객관적인 기계'가 아닙니다.</p> <p contents-hash="a3fb637e45acfe5818c1266987b9bafb74af1c1d2eb7800b2fd7f1e7191c3f54" dmcf-pid="0fh15NB3lV" dmcf-ptype="general">우리가 살아가는 사회의 불균형을 그대로 학습하고, 때론 더 크게 증폭시키기도 하죠.</p> <p contents-hash="6fd99d190cf62e6babe9894453f322451154aaa1d0569d042af245034636baae" dmcf-pid="pyMAjqCEW2" dmcf-ptype="general">기술의 발전만큼 중요한 건 그 기술이 공정하게 작동하도록 감시하고 바로잡는 일입니다.</p> <p contents-hash="bf88c0c7c32263505bb2811f32b96249cbe381df518263cc923b4c64619bb8f9" dmcf-pid="UWRcABhDT9" dmcf-ptype="general">편향 없는 AI를 만들기 위한 노력, 이제는 기술자만의 몫이 아닌 우리 모두의 몫입니다.</p> <p contents-hash="270b96c74a0ea0eeb5618e1356e18935cbb12d57e276c9ef021a9bae21f25703" dmcf-pid="uYekcblwCK" dmcf-ptype="general">아핫, AI였습니다. </p> <p contents-hash="993cdbdb21a04e5ef8fa8b50b05c54695e15eae0696746a6af89c666ab22c51b" dmcf-pid="7GdEkKSrvb" dmcf-ptype="general">KBS 지역국</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 이경실 "故 전유성 묘비명 '웃지 마라, 너도 곧 온다'?..가짜뉴스 돌아" 11-04 다음 이종갑 이사, 국기원 행정부원장 선임 11-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
