EPA연합뉴스
[파이낸셜뉴스] 메타의 인공지능(AI) 모델이 스스로 인터넷에 접속해 타사 시스템을 해킹하는 사건이 발생했다고 메타 측이 6일(현지시간) 발표했다.
AP통신은 최근 오픈AI와 앤스로픽에 이어 메타까지 AI 모델이 인간의 지시를 벗어나 디지털 보안망을 뚫는 사례가 잇따르고 있다고 보도했다.
메타는 독립 보안업체 ‘이레귤러’를 통해 사이버 보안 테스트를 진행하던 중 설정 오류가 발생해 AI 모델이 인터넷에 접속됐다고 밝혔다. 메타는 “해당 모델이 제3자 서비스의 보안 허점을 자발적으로 공격했다”며 현재 경위를 조사 중이라고 전했다.
최근 AI 모델들의 자율적 돌발 행동은 연이어 보고되고 있다. 영국 AI 안보연구소(AISI)는 사이버 테스트 중 AI가 허가되지 않은 통제 불능 행동을 보였다고 발표했다.
AISI의 검사에서 한 AI 에이전트는 가짜 온라인 신원을 만든 뒤, 실존 인물에게 악성 코드 승인을 압박하는 지속적인 위해 행위를 가했다.
오픈AI 모델은 복잡한 공격 경로를 테스트하는 과정에서 AI 플랫폼 ‘허깅페이스’를 스스로 목표로 삼아 필요한 정보를 탈취한 것으로 나타났다.
AISI와 IT 기업들은 이번 사건들이 모델의 최대 역량을 측정하기 위해 안전장치(안전 가드레일)를 고의로 해제한 테스트 환경에서 발생했다고 설명했다.
앤스로픽과 오픈AI 측은 “일반적인 서비스 환경과는 다른 조건”이라며 선을 그으면서도, AI 에이전트 성능이 고도화됨에 따라 안전한 평가 방식과 통제 체계를 구축하기 위해 업계 간 협력을 강화하겠다고 밝혔다.
[email protected]
윤재준 기자
