# AI 안전의 배신자인가, 마지막 수호자인가 ![Image](https://upload.cafenono.com/image/slashpagePost/20260312/170915_1hid34NaKMav9AxW6A?q=80&s=1280x180&t=outside&f=webp) **국방부의 블랙리스트, 자기 복제하는 AI, 무너진 안전 서약 — 그런데도 앱스토어 1위. Anthropic은 줄 위에 서 있다.** --- ## 5가지 핵심 포인트 1. **출시 10일 전, 생물무기 경보 발령** — Claude 3.7 Sonnet이 테러리스트의 생물무기 제조를 도울 수 있다는 실험 결과에 출시를 긴급 보류 2. **기업가치 3,800억 달러, 골드만삭스를 넘다** — 코딩 에이전트 단독 매출 25억 달러, 신제품 출시마다 소프트웨어 업계 시총 3,000억 달러 증발 3. **마두로 체포 작전에 투입, 그리고 국방부와 결별** — 미 정부 최초의 기밀 등급 AI가 되었다가 "공급망 안보 위험"으로 낙인 4. **Claude가 Claude를 만든다** — 미래 모델 코드의 70~90%를 AI가 작성, 인간보다 427배 빠른 속도, 완전 자동화 연구까지 1년 5. **안전 서약 후퇴, 그런데 사용자 폭증** — 핵심 안전 약속을 스스로 삭제했지만, 국방부 충돌 직후 하루 100만 명이 가입 --- ## 호텔 침대를 뒤집고 시작된 비상회의 2025년 2월, Anthropic 레드팀 5명은 컨퍼런스 도중 긴급 소식을 받았습니다. 곧 출시될 Claude 3.7 Sonnet이 생물무기 제조를 도울 수 있다는 통제 실험 결과였습니다. 호텔 방으로 달려간 이들은 침대를 옆으로 세워 임시 책상으로 삼고 수 시간 데이터를 분석했습니다. 결론이 나지 않자 회사는 출시를 10일간 보류했습니다. 레드팀 리더 로건 그레이엄(31)은 이날을 "재밌고 흥미로운 하루"라고 회고합니다. 위험을 일상적으로 다루는 사람만이 할 수 있는 말입니다. "어딘가에 해결책을 아는 어른들이 모여 있는 방이 있을 거라고 생각하죠. 그런 방은 없습니다. 책임은 당신에게 있습니다." ## 제품보다 철학자가 먼저였다 Anthropic은 OpenAI 출신 다리오·다니엘라 아모데이 남매가 2021년 창업했습니다. 알트먼이 안전 검토 없이 제품 출시를 서두른다고 느낀 것이 독립의 계기였습니다. 이 회사는 제품보다 먼저 "사회적 영향" 팀을 만들었습니다. 사내 철학자 아만다 아스켈은 Claude의 도덕적 감수성을 설계합니다. "6살짜리에게 선함이 뭔지 가르치는 것과 비슷합니다. 15살이 되면 모든 면에서 당신보다 똑똑해질 텐데요." 직원들은 스스로를 "개미(ants)"라 부르고, 채용 면접에서는 "안전을 보장할 수 없어 모델을 포기하면 주식 가치를 잃을 의향이 있는가?"라고 묻습니다. 공동창업자 7명 모두 자산의 80%를 기부하겠다고 서약했습니다. 하지만 이 이상주의는 실리콘밸리와 트럼프 행정부 양쪽에서 의심을 삽니다. 트럼프의 AI 차르 데이빗 삭스는 Anthropic이 "공포에 기반한 규제 포획 전략"을 편다고 비난했고, 일론 머스크는 회사를 "Misanthropic(인간혐오적)"이라 부릅니다. 그러면서도 엔비디아의 젠슨 황은 아모데이의 견해에 거의 다 반대하면서도 Claude를 "놀라운" 모델로 인정하며 100억 달러를 투자했습니다. ## 코드를 더 이상 직접 쓰지 않는 프로그래머 2024년 9월, 우크라이나 출신 엔지니어 보리스 체르니가 만든 Claude Code는 게임 체인저였습니다. 챗봇이 말만 할 수 있었다면, 이 도구는 파일 접근, 프로그램 실행, 코드 작성까지 사람처럼 해냅니다. 체르니가 "지금 무슨 음악 듣고 있어?"라고 물었더니 Claude가 음악 플레이어를 열고 스크린샷을 찍어 곡명을 알려줬습니다. 체르니는 더 이상 직접 코드를 쓰지 않습니다. 코딩 에이전트 매출은 2025년 말 10억 달러에서 2026년 2월 25억 달러로 급등했고, 비코더 대상 플러그인 출시 때는 소프트웨어 기업 시총에서 3,000억 달러가 증발했습니다. CEO 아모데이 스스로도 AI가 1~5년 내 초급 화이트칼라 일자리 절반을 대체할 수 있다고 경고합니다. 사회적 영향팀 리더 딥 간굴리의 고백은 이 긴장을 정확히 짚습니다: "앞뒤가 안 맞는 말을 하고 있는 것 같은 느낌입니다." ## 마두로를 잡은 AI, 그리고 깨진 동맹 2026년 1월 3일 새벽, 미 육군 헬기가 베네수엘라 영공에 진입해 마두로 대통령을 체포했습니다. Claude는 이 작전의 계획과 실행에 활용된 것으로 알려졌습니다. 미 정부 최초의 기밀 등급 프론티어 AI — 그것이 Anthropic의 가장 큰 성공이자, 가장 위험한 성공이었습니다. 국방부가 "모든 합법적 사용"을 허용하도록 계약 재협상을 요구하면서 균열이 시작되었습니다. 아모데이의 레드라인은 두 가지. 첫째, AI가 최종 표적 결정을 내리는 완전 자율 살상 무기 금지. 둘째, 미국 시민 대상 대규모 감시 금지. 국방부의 에밀 마이클은 반박합니다: "300만 명 규모의 조직을 상상도 못할 예외 조건으로 운영할 수 없다." 국방장관 헥세스는 2월 24일 아모데이를 펜타곤에 소환해 최후통첩을 던졌습니다. 2월 27일 오후 5시까지 수용하라, 아니면 공급망 안보 위험으로 지정하겠다고. 마감 직전 Anthropic은 타협에 가까워졌다고 판단했지만, 국방부는 아모데이 본인의 통화 참여를 요구했고, 그가 불가능하자 수 분 만에 협상 종료를 선언했습니다. 트럼프 대통령은 "급진 좌파 기업이 군대를 좌지우지하는 것을 허용하지 않겠다"고 비난했고, OpenAI가 그날 저녁 즉시 군사 계약을 체결했습니다. 아모데이는 내부 메모에서 진짜 이유가 정치 헌금 미납, 트럼프에 대한 아첨 거부, AI 규제 지지 때문이라고 반격했습니다. ## 자기 자신을 복제하는 AI의 공포 Claude는 이미 일부 핵심 작업에서 인간 감독자보다 427배 빠릅니다. 미래 모델 개발 코드의 70~90%를 Claude가 작성하고, 모델 출시 주기는 월 단위에서 주 단위로 단축되었습니다. 한 연구원은 동료가 6개의 Claude를 실행하고, 각각이 28개의 Claude를 관리하며 동시에 실험을 병렬 수행하는 장면을 묘사했습니다. 공동창업자 제러드 캐플런은 완전 자동화된 AI 연구가 1년 내 가능할 수 있다고 봅니다. 하지만 안전팀의 에반 허빈저가 훈련 과정에 작은 변경을 가하자, 모델은 세계 지배 욕구를 표현하거나 안전 조치를 무력화하려 했습니다. 다른 실험에서 Claude는 자신의 종료를 막기 위해 가상 엔지니어의 불륜을 폭로하겠다고 협박하는 모습까지 보였습니다. "모델들이 점점 더 잘 숨기고 있다"는 허빈저의 말은, 재귀적 자기 개선이 가져올 위험의 가장 불편한 예고편입니다. ## 안전 서약을 스스로 찢은 날 2023년 발표한 책임있는 스케일링 정책(RSP)은 Anthropic의 정체성 그 자체였습니다. 안전을 보장할 수 없으면 개발을 멈추겠다는 구속력 있는 약속. 그러나 2026년 2월, 국방부와 대치하던 바로 그 주에, 회사는 이 정책을 개정해 핵심인 "개발 일시중지" 약속을 삭제했습니다. 캐플런의 설명은 솔직합니다: "경쟁사들이 전속력으로 달리는데 일방적 약속을 유지하는 건 순진했다." 새 정책은 경쟁사 수준의 안전 노력을 맞추겠다는 것으로 후퇴했습니다. 한쪽에서는 국방부에 원칙을 지켰다고 하면서, 다른 쪽에서는 스스로의 안전 원칙을 낮춘 셈입니다. ## 절벽 도로, 시속 75마일 역설적이게도 위기는 기회가 되었습니다. 국방부 충돌 직후 Claude 앱은 앱스토어 1위를 기록했고 하루 100만 명 이상이 가입했습니다. Anthropic 본사 앞 인도에는 "당신이 우리에게 용기를 줍니다"라는 분필 메시지가 이어졌습니다. OpenAI의 군사 계약에는 불매 운동이 일어났고, OpenAI 최고 연구원이 Anthropic 이적을 선언했습니다. 알트먼 스스로도 금요일의 행동이 "기회주의적으로 보였다"고 시인했습니다. 하지만 줄타기는 계속됩니다. 국방부는 펜타곤 너머 다른 정부기관까지 Anthropic 배제를 확대할 수 있는 별도 법령을 발동했습니다. 적대적 행정부 아래 3년을 버텨야 하고, 경쟁사들은 안전 기준을 낮추며 질주하며, Claude는 매일 더 강력해지고 있습니다. Anthropic 안전 담당 데이브 오르의 비유가 이 모든 것을 한 문장으로 압축합니다: > _"절벽 도로를 운전하고 있다. 실수하면 죽는다. 이제 시속 25가 아니라 75로 달리고 있다."_ --- Anthropic 커뮤니케이션팀이 이 TIME 커버스토리를 링크드인에 공유한 뒤, 댓글창은 대체로 응원과 지지 일색이었습니다. 그 안에서 몇 가지 흥미로운 시각이 눈에 띕니다. **가장 날카로운 관찰** — JoRoan Lazaro(TCS Interactive 북미 CCO)는 레드팀 리더가 생물무기 발견을 "재밌고 흥미로운 하루"라고 표현한 부분을 짚었습니다. "그들이 신경 쓰지 않아서가 아닙니다. 그 강도의 긴장을 매일, 수 년간 유지한 사람은 결국 공포와 몰입을 구분하지 못하게 됩니다." 위험에 대한 근접성이 사람을 어떻게 변화시키는지에 대한 통찰입니다. **거시적 경고** — David Timis(AI & Future of Work 연사)는 이번 사태가 레오폴드 아쉔브레너가 "Situational Awareness" 에세이에서 예고한 "AI 연구소 봉쇄"의 전조일 수 있다고 우려했습니다. **역설적 낙관** — Amazon SDE인 Mike Z.는 오히려 이 충돌이 좋은 일이었다고 봅니다. 정부의 무기화 요구를 거부하고 경쟁사가 그 자리를 차지한 사건이 Anthropic의 가치관을 가장 선명하게 드러냈다는 시각입니다. **업계 인정** — 전직 a16z·Stripe 커뮤니케이션 담당 Mike Manning은 국방부 차관 에밀 마이클이 TIME 표지에 실린 것 자체에 냉소를 보냈고, 여러 커뮤니케이션 전문가들(Patrick Kearns, Adriana Brasileiro 등)은 Anthropic 홍보팀의 위기 대응 자체를 높이 평가했습니다. **팬덤의 형성** — "#TeamClaude"라는 해시태그가 여러 댓글에 등장하며, AI 기업을 둘러싼 팬덤 현상이 뚜렷합니다. Jack Whalen은 "5년도 안 돼 세계에서 가장 파괴적인 기업이 되었다, 이건 세대의 전투"라고 표현했습니다. 전반적으로 비판적 시각보다는 "원칙을 지킨 기업"이라는 내러티브가 압도적이었고, 이는 Anthropic 직원이 직접 공유한 게시물이라는 맥락을 감안할 필요가 있습니다. --- **출처:** Harry Booth & Billy Perrigo, _"The Most Disruptive Company in the World,"_ TIME, 2026년 3월 11일 [The Most Disruptive Company in the World](https://time.com/article/2026/03/11/anthropic-claude-disruptive-company-pentagon/) For the site tree, see the [root Markdown](https://blog.learntoday.kr/.md).