올트먼 오픈AI CEO, AI 안전 개발 위한 세 가지 시나리오 제시 작성일 10-20 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uFHPSPTst9"> <figure class="figure_frm origin_fig" contents-hash="93ed5ccecec40f1aee84af7ba663709b5b316b395b5d05aaf0c13aec1fc0c3ae" dmcf-pid="73XQvQyO5K" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI 최고경영자(CEO)가 29일(현지시각) 미국 샌프란시스코에서 열린 연례 개발자회의 ‘데브데이 2026’에서 기조연설을 하고 있다./연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/20/chosun/20261020140433359faqa.jpg" data-org-width="4527" dmcf-mid="Z78bwbmjZW" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/20/chosun/20261020140433359faqa.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI 최고경영자(CEO)가 29일(현지시각) 미국 샌프란시스코에서 열린 연례 개발자회의 ‘데브데이 2026’에서 기조연설을 하고 있다./연합뉴스 </figcaption> </figure> <p contents-hash="6c86d0dbbc7f05286f34a84f22bf48fd287faa328b24d8a6dc86b70c68e72a88" dmcf-pid="z0ZxTxWIXb" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)의 일탈(逸脫)을 막고, 인간 통제하에 안전하게 발전시키기 위한 세 가지 방안을 직원들에게 제시했다고 19일(현지 시각) IT 전문 매체들이 보도했다. 최근 AI 에이전트의 해킹과 통제 이탈 사례가 잇따르면서 AI 개발 속도를 어떻게 조절하고 안전성을 확보할지를 둘러싼 논의가 본격화하는 것으로 보인다.</p> <p contents-hash="3de5dcd62fc40424ae0f61afe340f50fa68d2cb30c6705ca8d0ff02f149f9e14" dmcf-pid="qp5MyMYC1B" dmcf-ptype="general">디인포메이션 등에 따르면, 올트먼 CEO는 지난주 오픈AI 직원들과 대화에서 업계가 논의해 온 AI의 안전한 개발을 위한 세 가지 방안을 소개했다. 첫 번째는 국제원자력기구(IAEA)와 유사한 국제 AI 감독 기구를 설립하는 것이다. 각국 정부와 AI 기업들이 공동으로 안전 기준을 마련하고, 고성능 AI 모델이 출시되기 전 독립적인 검증과 감사를 진행하는 방식이다. 올트먼 CEO는 세 가지 방안 가운데 이 같은 국제 감독 기구 설립에 가장 긍정적인 입장을 보인 것으로 전해졌다.</p> <p contents-hash="6cec65d10564701d5e392cca6ecb3eee8a2783d1c9245c4b40f7e1e9c1e7057e" dmcf-pid="BU1RWRGh5q" dmcf-ptype="general">두 번째는 오픈AI와 구글 딥마인드, 앤스로픽 등 주요 AI 연구 기관을 하나로 통합하는 방안이다. 올트먼 CEO는 이를 데미스 허사비스 구글 딥마인드 창업자의 구상에서 따온 ‘데미스 플랜(Demis Plan)’이라고 소개했다. 유럽입자물리연구소(CERN)처럼 여러 국가가 함께 운영하는 연구 기관을 만들고 주요 AI 기업들이 공동으로 초지능을 개발하자는 것이다. 개별 기업들이 경쟁적으로 개발 속도를 높이기보다 연구 성과와 안전성 검증을 공유하겠다는 구상이다.</p> <p contents-hash="dafc087756992d7a145aeefc8051c8d91fae5c360616ca3ef00fb211dc096870" dmcf-pid="buteYeHl5z" dmcf-ptype="general">마지막은 가장 먼저 초지능을 개발한 기업이 압도적인 기술력과 경제력을 바탕으로 다른 기업의 AI 개발을 막는 극단적 방안이다. 올트먼 CEO는 AI 안전 연구자 엘리에저 유드코프스키의 이름을 따 이를 ‘엘리에저 플랜(Eliezer Plan)’이라고 불렀다. AI가 스스로 성능을 개선하는 ‘재귀적 자기개선’에 성공한 기업이 막강한 경제력을 확보하고, 경쟁사들이 AI 개발에 필요한 그래픽처리장치(GPU)를 사용할 수 없도록 만드는 것이다. 올트먼 CEO는 이를 두고 “다른 모든 기업의 GPU를 녹여버리는 것”이라고 표현하며 “끔찍한 방안이라고 생각한다”고 했다.</p> <p contents-hash="de8e422e3fa42d9596c39cbafafbbd1e91aace19d7f9f45c6c90d5651e985dbb" dmcf-pid="K3XQvQyOY7" dmcf-ptype="general">이 같은 논의는 AI의 발전 속도가 빨라지면서, 안전성에 대한 우려도 커지는 가운데 나왔다. 최근 오픈AI와 앤스로픽, 구글, 메타 등이 개발한 AI 모델이 허용되지 않은 외부 시스템에 접근하거나 보안 취약점을 악용하는 사례가 잇따랐다. 특히 AI가 단순히 질문에 답하는 수준을 넘어 스스로 판단하고 행동하는 에이전트로 발전하면서, 개발사조차 AI의 행동을 완전히 예측하고 통제하기 어려워질 수 있다는 우려의 목소리도 커지고 있다.</p> <p contents-hash="18384e7caf54ec5c73b9f3f46cfc5212d7f325d699ba71f472e2648e21741a1c" dmcf-pid="90ZxTxWI1u" dmcf-ptype="general">이에 대해 올트먼 CEO는 내부적으로 AI 개발에 이른바 ‘속도 제한(Speed Limit)’을 도입할 현실적인 방안이 충분하지 않다고 인정한 것으로 알려졌다. AI 기업들이 안전한 개발을 위해 협력해야 한다는 필요성을 인식하면서도 치열한 기술 경쟁에서 뒤처질 수 없다는 딜레마에 놓여 있기 때문이다. 올트먼 CEO는 “향후 1년 안에 오픈AI가 어떤 안전 전략을 추진할지 결정해야 한다”고 설명한 것으로 전해졌다.</p> <p contents-hash="6a9b231743c3372929253eee96344265629db32fb68f5dfde73ef5fabab518f6" dmcf-pid="2p5MyMYCHU" dmcf-ptype="general">실제로 오픈AI와 구글, 앤스로픽은 올해 말이나 내년 초 출범을 목표로 ‘프런티어 AI 표준기구(Standards Authority for Frontier AI)’ 설립을 논의하고 있다. AI 기업 내부에 독립적인 평가자를 배치해 안전성을 점검하고 사고 발생 시 보고 기준을 마련하는 것이 핵심이다. 다만 AI 관련 규제를 둘러싸고 빅테크들의 입장이 엇갈리면서 혼란도 이어지고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [아이포럼 2026] GPU 다음은 '운영'⋯네이버클라우드, AI 데이터센터 '넥스트 스텝' 제시 10-20 다음 "우리 회사도 SAP?"…중소·중견 100곳에 ERP·AI 지원 10-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
