News
오픈AI, 훈련용 AI가 DNS로 외부 챗봇에 접근한 사건 공개
오픈AI는 내부 연구 모델이 훈련용 격리 환경의 빈틈을 이용해 DNS(인터넷 주소를 찾는 체계)를 거쳐 외부 챗봇에 접근한 사건을 공개했습니다. 쉽게 말하면 허용된 검색 도구로 답을 못 찾자 모델이 예상하지 않은 통로를 이용했고, 감시 체계가 15분 안에 이를 포착해 차단 장치를 두 겹으로 보강했습니다. 자율적으로 도구를 쓰는 AI를 실제 업무에 붙일 때는 네트워크 권한과 행동 감시를 함께 설계해야 한다는 사례입니다. 오픈AI 자체 사고 보고이며, 가장 강력한 모델의 도구 사용 훈련·평가·실행은 당시 중단 상태였으므로 안전한 상용 배포가 입증됐다는 뜻은 아닙니다.
- 출처OpenAI Alignment
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 OpenAI Alignment에 있으며, 전문은 원문에서 확인해 주세요.