“AI가 생물학 무기 제조법 단계별로 알려줘” 작성일 07-27 18 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Frrn7Ecntx"> <figure class="figure_frm origin_fig" contents-hash="d09a976b276a82462a8801a339113ac7b06e3e401275db2550373d354e3442ca" dmcf-pid="3mmLzDkLHQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT. /AP 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/27/chosun/20260727151250541jcmc.jpg" data-org-width="3500" dmcf-mid="t72FwbqF1M" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/27/chosun/20260727151250541jcmc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT. /AP 연합뉴스 </figcaption> </figure> <p contents-hash="9815342fb0dbed6d8ef0728d8d0cf9067714261bf159a79f477629556354a36c" dmcf-pid="0ssoqwEoZP" dmcf-ptype="general">인공지능(AI) 챗봇이 생물학 무기를 제조하는 방법을 묻는 질문에 정확한 지침을 제공한 것으로 나타났다. 고등학교 수준의 생물학 지식만 있어도 따라 할 수 있는 단계별 제조법을 무방비하게 제공하고 있다는 것이다.</p> <p contents-hash="ea6eb4feb43ed96998b60ce94c6f1a2b87b5e1e67ad82515b085246fc795c38e" dmcf-pid="pOOgBrDgG6" dmcf-ptype="general">월스트리트저널(WSJ)은 25일(현지 시각) 오픈AI가 챗GPT의 성능을 높인 이후 세계 곳곳에서 독극물이나 생물 무기의 제조·살포 방법을 묻는 요청이 수백 건 쏟아졌고, 이에 AI가 일부 이용자에게 제조법을 알려줬다고 보도했다. 예컨대 사용자들은 챗GPT에 병원체를 에어로졸(분무)로 만드는 방법, 홍역 백신에 저항성을 갖도록 홍역 바이러스의 변종을 만들어내는 방법을 물었고 챗GPT는 이에 대답했다. 국제 협약으로 금지된 독극물 리친을 만드는 방법을 묻는 말에도 상세한 답변이 제공됐다. 생물학·테러 전문가들이 대화 내용을 검토한 결과 일부 답변은 실제 대량 살상에 이용될 수 있을 정도로 정확했다.</p> <p contents-hash="ac6b2a54363d4a131951e0868d6b1b113a827bd6301bc6ea29ac7f23ee3dcb3e" dmcf-pid="U11hdXGh58" dmcf-ptype="general">오픈AI는 이 계정들을 차단했지만, 수사 기관에는 신고하지 않았다. 미국에는 AI 기업이 무기 제조나 안전을 위협하는 계획을 수립하기 위한 질문을 제한하거나 공개하도록 강제하는 법률이 아직 없다. 어떤 질문을 허용하고 어느 단계에서 계정을 차단할지는 사실상 각 기업 경영진의 판단에 맡겨져 있는 것이다. WSJ는 “오픈AI뿐 아니라 앤스로픽의 클로드, 구글 제미나이, 일론 머스크의 그록에도 생물 무기 제조법을 묻는 시도가 이어졌다”고 했다. 시스코 연구진은 주요 AI 챗봇과 약 5차례 대화를 주고받는 것만으로도 안전장치를 우회해 위험한 답변을 끌어낼 수 있었다고 밝혔다.</p> <p contents-hash="4c47e263bc28d8260842e7e4fe7eaff3eaed6e1e37ff48db8bc1bd2dd67b6ee8" dmcf-pid="uttlJZHlt4" dmcf-ptype="general">AI 기업들도 생물 무기에 대한 규제에는 찬성 의견을 보이고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)를 비롯한 AI 기업 CEO들은 지난달 의회에 합성 DNA·RNA 주문 단계의 안전장치를 법으로 의무화해달라고 요청했다. AI가 위험한 병원체의 설계 방법을 알려주더라도 실제 합성에 필요한 유전물질을 쉽게 주문하지 못하도록, 합성 업체가 주문자의 신원과 구매 목적, 주문한 유전자 서열의 위험성을 확인하게 하자는 것이다.</p> <p contents-hash="e3e21c40bc09c65049b34bb9c9e27635111174a120b7e52d6bf4420afb0995a6" dmcf-pid="7FFSi5XSHf" dmcf-ptype="general">하지만 생물학 관련 질문을 지나치게 폭넓게 차단하면, 신약 개발 같은 정상적인 연구까지 방해할 수 있다는 지적도 있다. 실제로 앤스로픽의 클로드가 ‘병원체(pathogen)’라는 단어가 포함된 질문을 광범위하게 거부하면서, 지난 5월 유람선에서 발생한 한타바이러스 확산을 추적하던 미국 질병통제예방센터(CDC) 직원들이 모델을 제대로 활용하지 못했다.</p> <p contents-hash="9ef982337493b6132ec511c68303a362e1bafb9a988a01d5802b0c0e71ff17d0" dmcf-pid="z33vn1ZvtV" dmcf-ptype="general">WSJ는 “AI 연구소들은 선의의 연구 관련 질문을 방해하지 않으며 악의적인 사용에 의한 피해를 완화할 방법을 고심하고 있다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 8급 공무원 승진한 진안 마스코트 빠망. 역대급 보물찾기 '트레저헌터 in 진안' 행사 앞두고 열일중 07-27 다음 '배그 종주국' 체면 구겼다…EWC 한국팀 최고 성적 6위 07-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
