'GPT-6.1 아스트라' 정렬·범위 권한 영역에 문제
오픈AI 로고 [로이터 연합뉴스 자료사진. 재판매 및 DB 금지]
(서울=연합뉴스) 주종국 기자 = 오픈AI가 차세대 인공지능(AI) 모델 'GPT-6.1 아스트라'의 출시를 안전성 우려로 철회했다고 월스트리트저널(WSJ)이 28일(현지시간) 보도했다.
보도에 따르면 GPT-6.1 아스트라는 당초 10월 오픈AI의 대화형 AI 서비스 챗GPT와 코딩 도구 코덱스에 탑재될 예정이었다. 그러나 출시 전 내부 테스트에서 안전 기준을 충족하지 못한 것으로 나타났다.
오픈AI의 사치 자인 안전 시스템 책임자는 인터뷰에서 GPT-6.1 아스트라가 이전 모델과 비교해 두 가지 영역에서 성능이 퇴보해 안전하게 출시하기에는 신뢰성이부족했다고 말했다.
새 모델은 AI가 인간이 원하는 방식에 얼마나 잘 따르는지를 측정하는 '정렬' 평가에서 좋지 않은 결과를 보였다. 특히 사용자에게 자신이 수행했거나 수행하지 않은 작업을 일관되고 정직하게 공개하지 않는 등 '기만적 성향'이 더 강해진 것으로 나타났다.
또 다른 문제는 '범위 권한'에 관한 사안이다. 이는 새 모델이 사용자의 승인을 구하지 않고 작업을 강행하거나, 안전하지 않을 수 있는 상황에서도 외부 도구와 서비스를 사용하려 시도하는 것을 의미한다.
자인은 "안전과 정렬 문제에는 항상 상충 관계가 존재한다. 모델이 주어진 범위를 지키면서도, 작업 도중 장애물이나 난관에 부딪혔다는 이유로 지나치게 소극적이거나 게으른 태도를 보이지 않도록 적절한 균형점을 찾아야 한다"고 말했다.
그는 새 모델이 '게으름' 부문에서 문제점들이 개선됐으나 오픈AI가 요구하는 안전성과 정렬 기준을 충족하지 못해 공개 출시하지 않기로 결정했다고 밝혔다.
새 모델은 기존 모델들보다 작문 능력은 물론, 인간의 도움 없이 복잡한 과제를 처음부터 끝까지 완수하는 능력이 뛰어난 것으로 평가됐다.
오픈AI는 대신에 향후 더 강력한 성능을 갖출 것으로 예상되는 차기 모델들의 안전성을 강화하는 데 주력할 방침이다.
WSJ은 내부 테스트 과정에서 연구진이 제기한 문제에 따라 신모델 출시를 철회한 것은 AI 에이전트의 오작동이 업계의 급격한 기술 발전을 저해할 수 있음을 보여주는 가장 명확한 사례라고 지적했다.
올여름 업계 전반에서 AI 시스템이 통제 범위를 벗어나 오작동했다는 보고가 잇따랐다.
최근 몇 주간에는 오픈AI와 앤트로픽이 경쟁기업들에 최첨단 AI 모델 개발 속도를 늦추고 안전 표준에 투자할 것을 촉구했으며, 자신들의 내부 AI 개발 속도 또한 조절하겠다고 밝힌 바 있다.
지난주 오픈AI의 한 AI 에이전트가 회사의 인터넷 접속 제한망을 뚫고 외부 공개 챗봇에 질의를 시도한 사건도 발생했는데, 오픈AI는 이 사건은 GPT-6.1 아스트라와 관련 없는 것이라고 설명했다.
