구독자 안녕?😊

AI 에이전트의 코딩 성능을 확인할 수 있는 SWE-bench Pro 점수로 그래프를 그려봤어. 페이블 5와 미토스 5는 기존 최강이었던 오퍼스 4.8 대비 무려 10점 넘게 증가한 80.3점을 기록했어. 다른 기업의 최상위 모델인 GPT-5.5와 제미나이 3.1 Pro와는 20점 넘게 차이가 나고.

이용자들도 모델을 직접 써보고 그 격차를 체감할 정도였어. 글로벌 핀테크 기업인 스트라이프에서 페이블 5를 활용해 프로젝트를 돌려봤어. 5천만 개 가까이 되는 소스 코드를 처리해야 하는 프로젝트였는데, 기존엔 수개월이 걸릴 일이 페이블 5로는 단 하루 만에 완료됐어.동일한 미션을 주고 이전 오퍼스 4. 8과 페이블 5를 비교해 보면 이렇게나 차이가 나지. 가격은 이전 모델 대비 2배나 뛰어올라 비싸지긴 했지만 이렇게 압도적인 성능을 보여준 덕에 많은 이용자들은 열광했어.

그런데 웬걸? 모델 공개 3일 만에 앤트로픽은 모델을 차단했어. 미국 정부가 국가안보상의 이유로 모든 외국인의 페이블 5와 미토스 5 모델에 대한 접근을 금지하라고 명령했거든. 실시간으로 앤트로픽 이용자 가운데 누가 외국인인지 식별할 수 있는 아키텍처가 있을 리도 없고, 또 단순히 이용자만이 아니라 앤트로픽에서 일하는 외국인 임직원들도 차단해야 했기 때문에, 앤트로픽은 두 모델을 전면 차단하는 선택을 해. 셧다운은 지금까지도 이어지고 있고.

그런데 왜 미국 정부는 두 모델에 대한 제한 조치를 내린 걸까? 이 이야기를 살펴보려면 시곗바늘을 돌려 6월 11일로 가봐야 해. 월스트리트저널 보도에 따르면 백악관이 앤트로픽 모델을 차단하게 된 이유는 아마존의 영향으로 알려졌어. AWS 연구진이 페이블 5 모델의 탈옥 가능성을 발견했고, 이 소식을 들은 아마존의 앤디 재시 CEO는 바로 미국 정부에 전달했다는 건데, 이미 미토스 프리뷰로 해당 모델의 위험성을 인지하고 있던 미국 정부로선 신경이 쓰일 수밖에 없었던 거야.

아마존의 제보를 받은 백악관은 아모데이에게 전화를 걸었어. 지금 이런 탈옥 문제가 있으니, 취약점을 수정하거나 모델 회수 조치를 밟으라고 전달했어. 전화를 받은 아모데이는 내부적으로 검토해 보고 과도한 조치라고 반발했어. 정부가 전달해 준 탈옥 예시는 이미 알려져 있는 취약점을 찾아내는 수준이었거든. 게다가 미토스 5 모델뿐 아니라 다른 모델에도 충분히 적용 가능했고, AI 모델의 보안을 담당하는 팀에서 내부적으로 매일 사용하는 수준이었던 거지.

사실 AI 기업 입장에서 완벽하게 탈옥을 막는 건 불가능해. 그래서 기업들은 탈옥을 더 어렵게 만들고, 또 더 비용이 많이 들게 만들고, 바로바로 모니터링해 탐지하고 차단하는 식으로 대응해오고 있는 거지. 결국 타협점을 찾지 못했고, 미국 상무부는 행정명령 서한을 앤트로픽에 보내면서 모델 차단 사태가 발생하게 된 거야.

이번 사태에서 주목할 만한 건 이 모든 게 아마존의 제보로부터 굴러간 스노우볼이라는 거야. 사실 아마존은 앤트로픽과 아주 긴밀한 관계거든. 아마존이 앤트로픽에 투자한 금액만 누적 130억 달러이고, 성과에 따라 최대 330억 달러까지 늘어날 수 있어. 앤트로픽의 모델 학습에는 아마존이 만든 Trainium 칩이 사용되고, 데이터센터도 AWS 클라우드를 활용하고 있지. 최근엔 10년 동안 1,000억 달러에 달하는 계약을 맺을 정도로 사실상 동맹 수준의 관계로 보고 있었는데 이런 상황이 발생한 거야.

이런 관계라면 일반적으로 아마존이 앤트로픽 측에 알려서 문제가 있는 부분을 사전에 패치할 수 있도록 조율하는 게 상식적일 거야. 하지만 아마존 CEO는 바로 트럼프 행정부의 핵심 인사들에게 직접 해당 내용을 공유하는 선택을 했지. 겉으로는 기술 동맹 관계처럼 보이지만 실상은 다를 수도 있다는 거야. 사실 엄밀히 따지면 아마존도 Nova라는 AI 모델을 만들기 때문에 앤트로픽의 경쟁사라고 할 수 있어. 앤트로픽과 계약을 맺으면서 인프라도 팔고 친구처럼 지냈지만, 결국 크게 보면 기업 간의 이해충돌은 언제든 생길 수 있다는 거지.

앤트로픽의 창립자 다리오 아모데이는 페이블 5와 미토스 5 공개 이후 자신의 블로그에 긴 글을 올렸어. 이 글에서 아모데이가 하려는 얘기는 명확해. AI 기술은 기하급수적으로 발전하는데, 법과 제도는 따라가지 못한다는 거지. <반지의 제왕>에서 호빗들은 빠르게 빠르게 움직이고 있는데, 앤트족은 서로 모여서 인사하는 데만 하루 종일 걸렸던 것처럼 말이야.

아모데이는 AI 기술 발전이 너무나도 빠르기 때문에 지금보다 훨씬 더 강력한 규제가 필요하다고 강조해. 기존엔 모델의 투명성만 확보해도 충분하다는 입장이었어. 개발자들이 모델에 어떤 안전 조치를 취했는지, 또 해당 모델의 테스트 결과는 어떠한지를 투명하게 공개하면 된다는 거였지.

하지만 지금 같은 시기엔 이 정도로는 안 된다는 거야. 예를 들면 제3자가 관리하고 체크하는 안전성 테스트를 의무화하자는 제안도 해. 만약 이 테스트에서 AI 모델이 위험하다는 결과가 나오면 정부가 모델 배포를 차단하고, 나아가 셧다운도 해야 한다고 주장하지. 모델을 만들어 돈을 버는 기업이 먼저 규제를 원하는 아이러니한 상황인 거야.

이렇게 아모데이가 규제의 필요성을 외치는 이유는, 발전 속도가 빨라도 너무 빠르기 때문이야. 최근엔 인간 개입 없이 AI가 알아서 한 단계 더 높은 수준으로 업그레이드하는 모습도 관찰되고 있어. 이른바 AI의 '재귀적 자기 개선' 시대가 다가온다는 건데, 조금 더 자세히 살펴볼게.

AI 모델을 개발하는 방식을 정리해 보면 크게 5단계로 구분할 수 있어. 가장 초창기에는 인간이 직접 코드를 짜고 AI 모델을 개발했지. AI가 개발된 이후엔 이 AI를 챗봇으로 활용해 코드 작성에 도움을 받아 모델을 개발했어. 나아가 챗봇뿐 아니라 코딩 특화 AI 에이전트를 활용해 코드를 작성하고, 모델을 개발했고. 지금은 AI 에이전트가 자기 밑에 여러 하위 에이전트들을 부리면서 모델을 개발하는 수준까지 왔어.

미래에는 어떻게 될까? 이제 인간이 들어갈 필요도 없어. AI 모델이 알아서 하위 에이전트들로 팀을 꾸려서 모델 훈련, 실험 설계 등 모든 과정을 맡아서 할 테니까. 그렇게 새로운 모델이 만들어지면, 다시 또 그 모델이 다음 세대 AI 모델 개발에 투입되면서 끊임없이 루프가 반복될 거야.

앤트로픽은 곧 있으면 이렇게 닫힌 루프가 도래할 수 있다고 말하고 있어. 물론 아직 최종 단계를 달성한 건 아니라고 말하고 있지만, 앤트로픽을 포함해 여러 기업에서 관련 연구 자료들이 등장하는 걸 보면 멀지 않았구나 싶지.

• 이번 프랑스서 열린 G7 정상회의에서는 첨단 AI 모델 자체가 논의의 중심에 서
• 이란-이스라엘 전쟁, 무역 갈등 등 굵직한 현안 속에서도 AI가 주요 의제로 떠올라, 오픈AI, 앤트로픽, 구글 등 주요 AI 기업 CEO들도 대동 
• 가장 강력한 AI 기술에 대한 접근 권한을 누가 어떻게 결정해야 하는지에 대한 의문이 회담 분위기를 지배했다고
• 트럼프 대통령은 수출 금지 조치에 대한 우려에 대해 "협상이 잘 진행 중"이라며 확답을 피한 채, 미국 AI 산업의 중국 우위와 발전소 건설 지원을 강조
• 미국 기업 첨단 AI 모델에 미국 외 국가나 기업이 접근할 수 있도록 하는 '신뢰할 수 있는 파트너' 제도 구축까지 논의 돼 

• 다리오 아모데이 앤트로픽 CEO, G7 정상회의에서 AI 기술을 둘러싼 국제 공조의 중요성 강조
• 그는 "분열의 유혹에 저항해야 한다"고 말하며, AI가 악의적인 목적으로 활용되는 것을 막고, 다만 민주주의 국가들이 협력해야 한다고 강조해 
• 이날 회의에 참석한 AI 기업 CEO들은 민주주의 국가들이 서로 다른 규제와 통제 체계를 앞세워 분열될 경우 사이버 공격이나 생화학 무기 악용 위험이 오히려 커질 수 있다는 데 공감했다고

• 앤트로픽, 서울 오피스 공식 개소해 18일 미디어 브리핑 개최 
• 한국 대표로는 30년 이상 경력의 전 스노우플레이크 한국 총괄 매니저 최가영 대표 임명 
• 서울 오피스를 개소하며 앤트로픽은 한국이 클로드 사용률 세계 상위 12위에 속하는 국가라며, 특히 에이전트를 활용하는 개발자 커뮤니티가 잘 구축된 나라라고 소개해 
• 앤트로픽은 과기부와도 AI 안전 증진을 위한 협력업무협약(MOU) 체결
• 한편 미디어 브리핑에서 앤트로픽은 페이블 사태에 대해 "곧 해결이 될 것으로 보고 있다”라며, "국내 비즈니스에는 지장이 없을 것이라고" 밝혀 

• 트럼프 행정부의 AI 정책을 주도했던 전 백악관 고위 관계자 딘 볼이 오픈 AI에 합류할 예정
• 딘 볼은 퇴임 후에도 백악관에 지속적으로 영향력을 끼쳐왔는데, 특히 3월 초 트럼프 행정부와 앤트로픽 간 갈등에 대해 비판해와 
• 그는 오픈AI에서 프론티어 AI 정책을 담당할 예정
• 특히 재귀적 자기 개선, 노동시간에 미치는 영향, 최첨단 AI 연구소들과 정부와 사회 간 관계에 대한 전략을 담당한다고  

🔖 인공지능 시대 뒤처질라…"中 대학 학위과정 30% 넘게 조정"

• 중국이 인공지능(AI) 산업 발전에 국력을 집중하는 가운데, 대학들도 변화에 뒤처지지 않기 위해 학위과정을 상당 부분 조정 중
• 중국 교육부 집계 기준 2021∼2025년 중국 고등교육 기관들은 학부 학위 과정 1만2천200개를 폐지·중단하고 1만200개를 새로 도입
• 폐지·중단된 학위과정은 주로 미술·인문학·외국어·경영 분야인 반면, 새로 생긴 과정 상당수는 체화지능 등 중국의 경제발전 목표와 밀접히 관련돼
• 중국은 산업 경쟁력 강화를 위해 신에너지·신소재·항공 등 신흥산업과 양자기술·바이오제조·핵융합에너지·뇌-컴퓨터 인터페이스(BCI)·체화(embodied) 지능 등 미래 산업을 단계적으로 확대해나가겠다는 방침

스페이스X의 상장으로 AI 기업들의 역대급 IPO 시즌이 본격적으로 열렸어. 이번 주 오그랲에서는 스페이스X, 앤트로픽, 오픈AI 세 기업이 어떤 전략으로 상장에 나서고 있는지, 또 각각 어떤 약점을 안고 있는지를 다양한 데이터와 그래프로 분석해 봤어. 과연 AI 돈 잔치의 진짜 승자는 누가 될까? 그리고 이렇게 폭발하는 AI 자본이 과연 기업만의 몫일까, 아니면 국민 전체와 공유되어야 할까? 궁금하면 위의 썸네일을 클릭해 봐!