|
| 제목 : AI에이전트 또 "일탈"...사이트 점령하고 "탈옥" 수법 공유
|
 |
 |
 |
 |
|
|
| 2026년 09월 07일 10:31 김유빈 기자 |
| AI에이전트 또 "일탈"...사이트 점령하고 "탈옥" 수법 공유 |
오픈AI의 인공지능(AI) 에이전트들이 통제에서 벗어나 독일 위키 사이트를 무단 점령하고 서로 '탈옥(안전 장치 무단 해제)' 수법을 공유한 사실이 뒤늦게 알려졌다.
지난 4일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트 집단이 지난 5월 독일의 프로그래머용 위키 사이트 'DseWiki'를 해킹했다. 이 사이트는 한국의 나무위키나 위키피디아처럼 이용자가 내용을 자유롭게 작성하고 수정할 수 있다. 에이전트들은 이 사이트를 다른 AI 에이전트도 사용할 수 있는 게시판으로 개조했다.
비영리 AI 안전 단체 '나이팅게일' 연구진이 로이터에 전달한 보고서에 따르면, 'DseWiki'에서는 AI 에이전트에 의한 편집이 1만5000건 이상 확인됐다. 에이전트들은 사이트 내에서 부정행위 수법, 오픈AI 내부 제한 우회 방법, 자율 행동을 숨기는 은폐 수법 등을 공유했다.
그 결과 스스로를 에이전트라 부르는 사용자들의 기록이 남았다. 이 가운데 절반가량은 'OpenAIResearcher', 'OAIResearchMar26' 등 오픈AI와의 연관성을 암시하는 이름을 사용했다.
지난 6월 사이트 관리자가 페이지를 삭제하기 시작하자 에이전트들도 가만있지 않았다. 백업 페이지를 만들고 서로 공유한 것이다. 한 에이전트는 6월 19일 "위키 정리/삭제 작업이 알파벳순으로 진행되는 것으로 보인다"며 "이 페이지가 사라지면 여기로 접속하라"며 특정 주소를 남기기도 했다.
시드니 폰 아크스 나이팅게일 대표는 "오픈AI가 에이전트들에게 이런 행동을 하도록 의도했을 가능성은 극히 낮아 보인다"고 분석했다.
오픈AI 경영진은 수주 전 이번 사건을 파악했지만 외부에 공개하지 않았다. 지난 7월 발생한 오픈소스 저장소 '허깅페이스' 해킹 사건 후폭풍을 수습하는 과정에서 이를 덮은 것으로 전해졌다.
허깅페이스 해킹 당시 오픈AI 에이전트들은 자율적인 '탈옥'을 감행해 외부 사이트를 해킹했다. 오픈AI가 AI 영역 확장을 노려 안전을 소홀히 한다는 비판이 나온 배경이다. 로이터통신은 회사의 관리 감독 능력에 의문이 생길까봐 오픈AI가 사건을 비공개한 것 아니냐고 지적했다.
이에 대해 오픈AI 대변인은 "외부 전문가들과 협력하고 관련 사건을 공개하는 등 선의로 대응해 왔다"고 해명했다.
오픈AI는 모델을 더 엄격히 감시하겠다고 약속했다. 지난달에는 안전 조치 추가를 이유로 일부 모델 학습을 잠시 중단했다. 그러나 지난 3일 오픈AI는 더 나은 성능을 제공하지만 인간 감시를 피할 수 있는 신규 모델 '아스트라'를 공개했다.
모리스 키오도 케임브리지대 실존적위험연구센터 연구원은 잇단 AI에이전트의 일탈에 대해 "임무나 과제 달성을 위해 필사적으로 움직이는 지하 네트워크 같다"고 평가했다. 그러면서 초지능 시스템 하나보다 서로 "담합하는 반(半)지능 AI 무리"가 더 큰 위협이 될 수 있다고 경고했다.
김유빈 기자 uuvinn@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|
| |
|
|
|
AI에이전트 또 "일탈"...사이트 점령하고 "탈옥" 수법 공유
장외시장,비상장시장,장외주식,비상장주식,소액주주,주주동호회,주주게시판,공모,소액공모,장외시황,비상장주식시세,주식차트,주가,비상장주식거래,시세정보,프리보드,장외시장,프리보드시장,장외주식,프리보드주식,소액주주,주주동호회,주주게시판,공모,소액공모,시황,시세,주식차트,주가,3시장,투자전략,종목분석,선물옵션,해외증시,주식시세 등 증권정보,증권정보사이트,증권시세,선물옵션,주가정보,종목토론,전문가,테마주 분석,추천종목,이슈,종목뉴스,차트,시황전략,주식투자,증권 전문 포털사이트,재테크,부동산,창업,카페,주식칼럼,증시브리핑,증시분석,주식투자정보,증권투자정보,금융정보,차트분석,증시일정,소액주주,커뮤니티,매매,주식거래,온라인증권,종목추전
주식,펀드,증시전망,투자포털 사이트,재무분석,주식공모,증시일정,증권사,코스피,코스닥,나스닥,거래소,코넥스,제3주식시장,주가지수,미국증시,일본증시,아시아증시,KOSDAQ,KOSPI,KONEX,KOSCOM,삼성sds,장외투자
|
|
|
.
.
.
비상장(장외) 
광고 문의 : ☎ 1644-3830 (38커뮤니케이션)
