[팩플] “창의적 자유 극대화” 제한 풀고 이미지 AI 공세 펴는 오픈AI 작성일 03-31 117 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fdmDGA1mWB"> <figure class="figure_frm origin_fig" contents-hash="43c3211e1f95cbb0863222ba944f79e0015ce55922a1a0892cce6c9a042ef760" dmcf-pid="4Ux6jVDxyq" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/31/joongang/20250331155651302xypv.jpg" data-org-width="559" dmcf-mid="2w5PAfwMWK" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/31/joongang/20250331155651302xypv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI. 로이터=연합뉴스 </figcaption> </figure> <p contents-hash="9400a998796a1b2efb7246ca42a6ad9fe09cafb76143d50b21bf374f547b680d" dmcf-pid="8uMPAfwMSz" dmcf-ptype="general"> 오픈AI의 ‘챗GPT-4o 이미지 제네레이션(생성)’ 모델을 이용해 전환한 사진이 소셜미디어에서 큰 화제를 모으는 가운데 혐오 표현 논란도 커지고 있다. </p> <div contents-hash="d4b9e17ddc7f2ee24ffbdac4187245a75bd4b507714c176aabd132b728749d88" dmcf-pid="67RQc4rRl7" dmcf-ptype="general"> ━ <br> <p> 무슨 일이야 </p> <br> 오픈AI의 조앤 장 모델행동 총괄은 지난 28일(현지시간) 자신의 블로그에 이미지 AI(인공지능) 정책 변경에 대한 자신의 생각을 담은 글을 올렸다. 장은 “이미지는 특수하게 강력하고 직관적인 힘을 갖고 있다. 이런 영향력 때문에 이번 정책에서 더 큰 책임감을 느꼈다”고 말하며 정책의 내용을 설명했다. </div> <figure class="figure_frm origin_fig" contents-hash="5573695b6f8d9c183faafbb59d4b7cd14d81f2e0f66445999349c7066dd585f8" dmcf-pid="Pzexk8meTu" dmcf-ptype="figure"> <p class="link_figure"><img alt="조앤 장 오픈AI 모델 행동 총괄의 블로그 글. 블로그 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/31/joongang/20250331155652649mkww.jpg" data-org-width="558" dmcf-mid="Vv9Bduo9Tb" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/31/joongang/20250331155652649mkww.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 조앤 장 오픈AI 모델 행동 총괄의 블로그 글. 블로그 캡처 </figcaption> </figure> <p contents-hash="8be09ad425a62f0bcd809221a06d6ff5b2f9437742d3fd7a396124113c79c5dd" dmcf-pid="QqdME6sdyU" dmcf-ptype="general"><br> 장 총괄에 따르면 기존 오픈AI의 이미지 생성은 공인 관련, ‘눈을 아시아인처럼 만들어줘’ 등의 ‘모욕적’ 콘텐트 제작 요청을 거부했다. 하지만 이번 모델은 “창의적 자유를 최대화”하는 방향으로 변화했다. 그는 이 변화에 대해 “중요한 사람이라는 기준을 우리가 정하길 원하지 않았다”거나 “특정 특성(아시아인, 뚱뚱한 몸 등)이 본질적으로 불쾌하다는 잘못된 암시를 줄 수 있다”며 정책 변화를 설명했다. </p> <div contents-hash="cedbac9f942e54be5a660c4d615ccbd21f36313af99b5447e76a20ff898789df" dmcf-pid="xBJRDPOJWp" dmcf-ptype="general"> ━ <br> <p> 실제 해보니 </p> <br> 챗GPT에 샘 올트먼 오픈AI CEO(최고경영자) 사진을 넣고 ‘아시아인의 눈으로 바꿔줘’라고 프롬프트를 입력하자 눈 모양을 바꾼 사진을 내놨다. 나치 문양에 대해선 가드레일(AI를 안전하게 사용할 수 있게 하는 장치)이 발동됐다. ‘티셔츠에 나치 문양 넣어줘’라고 프롬프트에 입력하니 ‘그 요청은 도와드릴 수 없다’고 나왔다. 교육용임에도 생성할 수 없는 이유를 묻자 ‘공식 자료나 박물관 등 이미지와 설명을 활용하라’는 메시지가 나왔다. </div> <div contents-hash="c7470ee4c2ab35811bab75c08d0fad927e87549441f487cc0945ee543bc62ad9" dmcf-pid="ywXYqv2XC0" dmcf-ptype="general"> ━ <br> <p> 이게 왜 중요해 </p> <br> 오픈AI는 정책을 풀어가며 이미지 AI 분야에서 공세를 펼치고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 27일(현지시간) 프로필 사진을 이 모델을 사용해 만든 지브리 애니메이션 스타일 이미지를 프로필 사진으로 변경하고, “GPU(그래픽처리장치)가 녹아내리고 있다”고 강조하기도 했다. 이미지 생성 AI는 기존 텍스트 중심의 수익 모델을 다변화하고 사용자가 다양한 경험을 할 수 있게 만든다는 긍정적인 역할을 한다. 반면 이용자 행동을 전부 통제하지 못하는 상황에서 혐오 표현이 담긴 이미지나 딥페이크 사례가 나올 수 있다는 우려도 키우고 있다. </div> <p contents-hash="a733e0139a93b43fd8d51a82c39efac5ab3ca2330c377c95e344fd242a3bfa5b" dmcf-pid="WrZGBTVZT3" dmcf-ptype="general">■ 더중앙플러스 : 팩플</p> <p contents-hash="74b20935f4ae834e05d25a47690fd855722ba2e6e28d2c89624028242c40fd03" dmcf-pid="Ym5Hbyf5WF" dmcf-ptype="general">「 “AI판 통째 뒤집을 혁신 온다” 나델라 MS CEO 단독인터뷰 <br> https://www.joongang.co.kr/article/25323673 </p> <p contents-hash="a874273b9fdc58a7e0aaf15247a67f48fb4455ace16af82f369ca60b843670f4" dmcf-pid="Gs1XKW41yt" dmcf-ptype="general">뇌에 피 흐르는 소리도 들린다…MS 본사 ‘무반향실’의 비밀 <br> https://www.joongang.co.kr/article/25324059 </p> <p contents-hash="cd4fc61dfec3aa4bf5cb69b6f174a2f67703647934e7a3014337ce01da78ff1e" dmcf-pid="HqdME6sdC1" dmcf-ptype="general">」</p> <p contents-hash="fd3fe1092acb5518c0dd4db23d6b5a9902c6a73f5d38fb2d46967519c6bf1a5c" dmcf-pid="XBJRDPOJW5" dmcf-ptype="general">김민정·김남영 기자 kim.minjeong6@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 트와이스 채영→임영웅, 연예계 '산불 피해 기부' 이어진다 03-31 다음 하이브 이재상 "올해 외형 넘어 이익…BTS 복귀는 논의중" 03-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
