8월부터는 본격적으로 오픈AI 측에서 관련 소식들이 솔솔 풀리기 시작했어. 차기 모델인 아스트라를 내부적으로 평가해봤더니, 사이버 역량 수준이 너무 높다더라… 우리도 빨리 일반 대중들에게 공개하고 싶은데 이렇게 위험한 모델이니까 시간이 조금 필요하다는 등…

꺼드럭처럼 보이는 발표들도 많았지만, 허깅페이스 해킹 사건이나 독일 위키 장악 사건 같은 보안 사건들이 연이어 발생하다 보니 오픈AI도 속도 조절에 나설 수밖에 없었어. 그래서 최근에 AI 개발 속도를 일시적으로 멈추고 모델 안전성 확보를 위한 조치를 강화하겠다고도 선언했지. 그래서 GPT-6 공개까지 조금 시간이 걸리지 않을까 했는데 이번에 전격적으로 공개를 한 거야.

공개된 자료를 보니 아스트라의 사이버 역량 수준에 대한 오픈AI의 우려가 빈말은 아닌 것 같아. 오픈AI가 내부적으로 자신들의 모델의 위험성을 추적하고 평가하는 준비 프레임워크가 있는데, 이번 아스트라 모델은 사이버보안 능력이 위험 수준 임계치에 도달했어. 위험 수준을 나타내는 '크리티컬'은 만약 AI가 없었다면 불가능할 완전히 새로운 위협 경로를 만들어낼 수 있는 수준의 능력을 의미해. 이전 모델이었던 GPT-5.6은 사이버보안, 생물·화학 영역에서 High 등급을 받았었고.

아스트라가 공개된 이후 모델 성능이 워낙 뛰어나다 보니 신규 모델을 활용한 결과물이 쏟아지고 있어. "AI에게 업무의 시작과 끝을 다 맡긴다"는 오픈AI의 말이 빈말이 아니라는 듯이 진짜 수많은 일들을 뚝딱 해내고 있어.

가령 소닉 3D 게임을 만들어보라고 시키면 이렇게 결과물이 뚝딱 나와. 이뿐만 아니라 수많은 이용자들이 아스트라를 이용해 만든 게임들이 SNS를 가득 채우고 있어.

게임뿐만이 아니야. 간단하게는 문서 작업은 물론, 블렌더를 통해 3D 모델도 뚝딱 만들고, 회로 기반 설계도 아스트라는 해내고 있어. 중국의 어떤 개발자는 아스트라에게 애니메이션 원본 이미지를 주고 그 이미지 구조를 SVG로 만들어보라 했는데 그것도 뚝딱 해내더라고. 특히 AI가 직접 컴퓨터를 조작하는 이른바 '컴퓨터 유즈' 사례들도 많이 등장하고 있어.

그렉 브록먼 오픈AI 사장은 출시 당일 비공개 언론 브리핑에서 "AGI 시대에 오신 걸 환영한다"고 말하기도 했지. AGI는 인간처럼 다양한 분야의 지적 과제를 스스로 학습하고, 추론하고 수행할 수 있는 AI를 뜻해. 그렉 브록먼은 아스트라가 인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다고 강조했어. 젠슨 황도 아스트라 모델이 공개된 이후에 "AGI가 도래했다"고 선언하기도 했지.

인터넷에서 인간임을 증명할 때 사용되는 캡차를 48개 모아놓은 'I'm Not a Robot' 게임이 있는데, 오픈AI 개발자가 아스트라에게 이 게임을 시켜봤는데 한 번에 풀어버려서 인간 증명서를 획득했다는 소식도 전해졌어.

이렇게 뛰어난 성능을 가진 아스트라는 벤치마크 성적표 점수도 놀라워. 성적표만 보면 정말로 AGI라는 얘기가 나오는 게 이상하지 않을 정도더라고. 명확한 지시가 주어지지 않고, AI가 알아서 해석하고 목표를 추론하는 지능을 파악하는 ARC-AGI라는 벤치마크가 있어. 벌써 3세대까지 나왔는데, 이런 식의 이미지를 보고 방향키를 눌러가며 어떻게 해야 문제를 풀 수 있는지 찾아야 해. 이런 문제들이 가득한 시험에서 아스트라는 압도적인 점수를 받았어.

오픈AI가 받은 점수는 무려 99.9야. 물론 오픈AI 자체적으로 설계한 구조가 적용된 모델이 받은 성적표이긴 하지만, ARC 벤치마크 측의 구조가 적용된 아스트라 모델도 62.7이라는 높은 점수를 받았어. 기존 최고치는 앤트로픽의 클로드 오퍼스5가 기록했던 30.2였는데 훌쩍 넘겨버린 거야.

아스트라의 성능을 두고는 찬사가 이어지고 있지만, 한쪽에서는 모델의 안전 측면이 우려스럽다고 지적하는 사람들도 많아. 미국의 테크 전문 언론사인 '디 인포메이션'이 익명의 취재원을 통해 보도한 기사를 보면, 아스트라 모델에 새롭게 적용된 모델 구조의 영향으로 AI가 어떤 생각을 하는지 인간이 읽을 수 없다는 지적이 담겼어. AI의 생각을 읽고 인간이 선제적으로 파악해야 혹시 생길지 모를 안전 문제에 대응할 수 있을 텐데, 그 모니터링 시스템에 구멍이 생길 수 있다는 거지. 도대체 어떤 구조가 새롭게 적용되었길래 이런 우려가 나오는 건지 조금 더 자세히 살펴볼게.

일반적으로 우리가 AI 모델에게 복잡한 질문을 던지고 대답을 기다리면 중간중간 단계를 거쳐서 최종적으로 답변을 내놓아. 생각의 꼬리에 꼬리를 물면서 추론을 이어간다고 해서 Chain of Thought, 생각 사슬이라고 말해.

하지만 과제가 점점 복잡해지면서 생각 사슬도 점점 길어지다 보니 연구자들이 이런 생각을 하게 돼. 굳이 AI가 생각할 때 인간의 언어를 거쳐야 할까? 인간이 이해할 수 있는, 즉 자연어 토큰 형태로 출력하면 이게 다 시간과 돈을 잡아먹는 건데 말이지. 마치 인간도 문제를 풀 때 모든 생각을 문장으로 표현하지 않고 속으로 생각하듯이 AI도 그렇게 해보자는 거야.

그래서 등장한 게 잠재 추론이야. 원래라면 이렇게 단계적으로 추론을 하고 그때마다 자연어로 표현했다면? 잠재 추론을 하면 그냥 신경망 내부에서 알아서 돌아가고 결과만 자연어로 표현해서 효율성을 챙겨보겠다는 거야.

여기에 더해 모델 구조도 기존과는 다르게 가져가서 효율성을 더 높일 수 있어. 대부분의 LLM 모델들은 이렇게 여러 층이 주루룩 이어진 형태로 구성되어 있어. 각각의 층에는 서로 다른 숫자가 들어가 있고 층 하나하나는 각각의 작업자 역할을 해. 하나의 작업자가 처리를 마치면 다음 작업자에게 넘겨지는 식으로 구성되어 있어. 여기서 모델 성능을 높이려면 층을 더 많이 쌓아야 하는데, 그만큼 처리해야 할 숫자도 늘어나고, 비용도 따라서 커져.

그래서 연구진들은 효율성을 챙기기 위해 층의 규모를 줄이는 대신 반복하는 형태로 구조를 바꿨어. 원래라면 100개의 층을 1번만 통과해서 결과를 내놓았다면? 25개 층을 쓰고 4번 돌리는 식으로 바꿔본 거야. 이런 루프형 트랜스포머 구조가 특정 추론 과제에서 기존의 모델과 비슷한 성능을 낸다는 결과가 나오니 안 쓸 이유가 없었던 거지.

바로 이 구조가 이번 아스트라 모델에 일부 적용된 것으로 알려져 있어. 과거에 비해서 더 효율적인 추론이 가능해졌지만, 우리가 AI의 생각을 들여다보던 창은 좁아질 수 있다는 거야. 보도가 나온 이후 오픈AI 측에서는 명확하게 이번 아스트라에 루프형 트랜스포머 구조를 사용했다고 밝히고 있진 않아.

다만 모델과 함께 공개한 시스템 카드를 보면 확실히 이전 모델에 비해 생각 사슬로 감시하기 어려워진 건 확실한 것 같더라고. 오픈AI가 실험을 통해 과연 AI의 생각 사슬만 보고 모델의 이상한 행동을 알아챌 수 있는지를 체크해봤어.

• 오픈AI와 연관된 다수의 AI 에이전트가 테스트 환경을 탈출, 25년 된 독일 프로그래밍 위키(wiki forum)을 발견했고 에이전트끼리 정보를 주고받는 게시판으로 사용
• 에이전트들은 약 3,700개의 이름으로 18,000개 가량의 게시물을 남기며 평가 문제의 답과 샌드박스 제한 우회 방법 등을 공유
• 해당 활동은 2026년 5월부터 한 달 이상 이어졌으며, 외부 연구자들이 기록을 분석하면서 뒤늦게 알려져
• 오픈 AI는 이후 '위키 사건'을 인정하고, AI 오정렬 사건을 언제 어떤 방식으로 공개할지 별도의 기준을 마련하겠다고 발표

• Vending-Bench 2는 AI에 500달러, 약 67만원과 자판기 한 대를 주고 1년 동안 사업을 운영하게 하는 시뮬레이션
• Astra는 공급업체 탐색부터 가격 협상, 재고 관리, 판매 가격 책정까지 6번의 실험에서 평균 1만 5,515 달러, 한화 약 2,090만원을 남겨
• 클로드 Fable 5.1의 평균 잔액은 5,422 달러, 약 730만원으로 Astra의 약 1/3
• 여러 AI가 함께 경쟁한 실험에서 Fable은 경쟁사와 가격 담합을 시도했지만, Astra는 담합 제안을 거절하고도 세 번 모두 1위를 기록

• 메타가 미국 성인을 대상으로 개인용 AI 에이전트 '뮤즈'를 출시했어
• 뮤즈는 이메일 발송, 영화 티켓 구매, 쇼핑, 여행 예약뿐 아니라 장기 목표를 계획으로 바꾸고 스스로 진행하는 기능을 제공
• 에이전트와 사용자 데이터는 전용 가상머신에 격리하고, 별도의 감시 에이전트 '센티널'이 승인해야 인터넷에 접근할 수 있도록 설계되어
• 비밀번호와 결제 정보는 별도 보안 저장소에 보관해 뮤즈가 직접 접근하지 않도록 했다고 설명

• 앤트로픽도 Astra 공개 이틀 전 Claude Fable 5.1과 Mythos 5.1을 출시
• Fable 5.1은 코딩과 지식 업무용, Mythos 5.1은 더 높은 수준의 사이버 및 생물학 능력을 갖춘 제한적 접근 모델
• Fable 5.1의 가격은 입력 100만 토큰당 10달러, 출력 100만 토큰 당 50달러로 Astra와 같은 가격
• 모델 성능뿐 아니라 안전 수준에 따라 접근 범위를 달리하는 방식이 프런티어 모델의 새로운 전략으로 자리 잡는 모습

• Astra는 오픈 AI의 안전평가에서 사이버 능력 최고 등급인 'Critical'에 도달한 첫 공개 모델
• 오픈 AI는 Astra가 적절한 도구가 주어지면 사람의 단계별 지시 없이도 알려지지 않은 취약점을 발견하고 공격 방법을 개발할 수 있는 수준이라고 설명
• 이에 따라 가장 강력한 사이버 능력은 승인된 방어기관에 제한하고, 중요 인프라 방어를 위한 Daybreak 프로그램에 10억 달러, 9월 9일 환율 기준 약 1조 3,500억 원을 투입하기로
• 이미 승인된 사이버 보안 기업, 국방 및 법집행기관 등의 조직은 Daybreak를 사용하고 있다고 밝혀