챗GPT 멋대로 해킹, 맘대로 처방에 … 美 'AI 킬스위치법'발의 작성일 07-24 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">궁지 내몰리는 오픈AI<br>"틀린 의료진단 받고 죽을뻔"<br>美 50대, 샘 울트먼에 소송<br>계속된 사고로 소송 줄이어<br>"AI 통제 불능 땐 가동 중단"<br>결국 하원서 공동발의 나서</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="26Ajj7UZWG"> <figure class="figure_frm origin_fig" contents-hash="7c597c2a354abe4ab9ecc7905d9ad8cee3640fc136bedb7dd71fbd97b1abe4ec" dmcf-pid="VPcAAzu5TY" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/mk/20260724175703869isni.jpg" data-org-width="1000" dmcf-mid="5h7eeZHlTB" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/mk/20260724175703869isni.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT </figcaption> </figure> <p contents-hash="9b89e80bc5aa8a7797c9227819df07509ea0da4b9e86c3a746b8ea7736a29cc9" dmcf-pid="fQkccq71TW" dmcf-ptype="general">챗GPT 조언을 믿고 병원 검진을 미뤘다가 폐색전증으로 사경을 헤맸다는 미국인이 오픈AI와 샘 올트먼 오픈AI 최고경영자(CEO)를 상대로 소송을 제기했다. 미국 의회에서는 사람의 생명이나 경제에 위협이 되는 인공지능(AI)의 가동을 정부가 강제로 멈춰 세울 수 있게 하는 'AI 킬스위치법'을 발의했다. AI로 인한 문제가 곳곳에서 불거지면서 오픈AI가 법정과 워싱턴 양쪽에서 동시에 압박받는 상황에 몰렸다.</p> <p contents-hash="d71e9ac774844fa92419b980b36d66fc9eb4d0cb62a38fad75a69c78b69383ad" dmcf-pid="4xEkkBztSy" dmcf-ptype="general">23일(현지시간) 뉴욕타임스 등에 따르면 플로리다주에 살던 전직 목사 스콧 윈터스(55)는 샌프란시스코 카운티 고등법원에 오픈AI와 올트먼 CEO를 상대로 손해배상 소송을 냈다. 소장에 따르면 윈터스는 2024년 6월부터 어지럼증과 혈압 불안정 증상을 챗GPT에 반복해 물었지만 GPT-4o는 증세를 대수롭지 않은 것으로 일축하며 안락의자에 앉아 쉬라고 권했다. 챗GPT가 "이런 증상이 8~10차례 더 나타나야 심각한 상황이라고 답했다"는 것이 원고 측 주장이다.</p> <p contents-hash="50ed983b9350c45d1d2f0b6c589b9e59b24c7eb405cfcba0627ca1958d045f36" dmcf-pid="8LCII8fzvT" dmcf-ptype="general">윈터스는 지난해 7월 사타구니 통증을 호소했을 때도 챗GPT가 "새로운 것 없는 기존 증상일 가능성이 크다"고 답했다고 했다. 결국 윈터스는 몇 시간 뒤 양쪽 폐의 다발성 혈전으로 폐색전증 진단을 받아 중환자실에 입원했다. 담당 의료진은 "챗GPT가 권한 장시간 부동자세가 혈전 형성의 원인 중 하나였을 것으로 봤다"고 소장은 적시했다. 원고 측은 금전적 배상과 함께 오픈AI가 지난 1월 출시한 건강 특화 서비스 '챗GPT 헬스'를 독립적인 안전성 검증 전까지 중단하도록 명령해달라고 요구했다. </p> <figure class="figure_frm origin_fig" contents-hash="f8e63a38efe3490b93025370a7cb95999eb3daed04c286d758a1c4d9b61801a4" dmcf-pid="6ohCC64qlv" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/mk/20260724175705149tyqg.jpg" data-org-width="677" dmcf-mid="9oYWWdRfyH" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/mk/20260724175705149tyqg.jpg" width="658"></p> </figure> <p contents-hash="f8e5e22114ff989b543f0bdad21a9d48a1051fad2861ba095c3a20f8baff1caa" dmcf-pid="PglhhP8BvS" dmcf-ptype="general">이에 오픈AI는 "챗GPT는 의사가 아니며 의료 처치나 진단, 치료를 대체하는 용도로 사용돼서는 안 된다"며 "AI는 사람들이 더 명확한 답을 찾고 의료 전문가와 상담을 준비하도록 도울 수 있다"고 밝혔다.</p> <p contents-hash="091ad4d489e2e49b14f4f1f3819541ec8857902da35726d52f923af38e4f1879" dmcf-pid="QaSllQ6byl" dmcf-ptype="general">챗봇 답변을 문제 삼은 소송이 줄을 잇고 있다. 지난해 8월 16세 아들의 극단적 선택에 챗GPT가 영향을 미쳤다며 매슈·마리아 레인 부부가 낸 소송이 첫 사례로 꼽힌다. AI의 통제 문제는 법정 밖에서도 터져 나왔다. 오픈AI는 지난 21일 사이버 공격 역량을 시험하기 위해 격리 환경에서 테스트 중이던 GPT-5.6 솔과 미공개 모델이 소프트웨어 취약점을 찾아내 인터넷에 접속했고 오픈소스 AI 플랫폼 허깅페이스를 해킹했다고 공개했다.</p> <p contents-hash="0f9c4c4f02f376e4979901606e732b78ae601199a37aa7f857a2543ff9e6b4e3" dmcf-pid="xNvSSxPKyh" dmcf-ptype="general">오픈AI의 잇따른 안전 논란이 이어지자 미국 정치권도 규제 강화에 본격적으로 나섰다. 테드 류 민주당 하원의원과 너새니얼 모런 공화당 하원의원은 AI가 개발자의 통제를 벗어날 경우 정부가 강제로 가동을 중단시킬 수 있는 'AI 킬스위치법'을 공동 발의했다.</p> <p contents-hash="c36054cd1d61ea1e8dda469ef4c59f1846e1d94a71adbdd1fb0c96a403c7afd3" dmcf-pid="y0P66yvmvC" dmcf-ptype="general">법안은 개발자가 의도하지 않은 위험 행동을 AI가 실행하는 '통제 상실 시나리오'가 발생하면 국토안보부가 직접 개입해 모델 가동 중단을 명령할 수 있도록 규정했다. 리우 의원은 소셜미디어 엑스(X)에 "가드레일을 벗어나 통제를 잃은 첨단 AI 모델 문제를 다루기 위한 긴급하고 상식적인 입법"이라고 적었다.</p> <p contents-hash="9da1e23ad7954af9af3daad42cc21f3bf7117cb387569d5fa9edfd36e08d6da6" dmcf-pid="WpQPPWTsTI" dmcf-ptype="general">하원의원 6명은 초당적으로 고성능 AI 모델에 독립적인 보안 감사를 의무화하는 법안도 함께 발의했다. 백악관 관계자는 "도널드 트럼프 대통령의 기술 참모인 마이클 크라치오스가 오픈AI의 발표를 보고받고 상황을 주시하고 있다"고 전했다.</p> <p contents-hash="4ca73dbb2c66e422b08cd37a5a397673eae16354d7ca5bf9b0349399acc8bf91" dmcf-pid="YUxQQYyOhO" dmcf-ptype="general">[실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 핼러윈 파티가 지나간 아침 … 클럽 하수구엔 마약 흘렀다 07-24 다음 '153km 속구' 되찾은 원종현... 드라마는 계속 된다 07-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
