AI 에이전트가 스스로 행동하기 전에, 그것이 할 수 없는 일을 증명하세요.

오늘 할 수 있는 일

• 계정 없이, 아무것도 밖으로 나가지 않은 채로 내 컴퓨터에서 하네스 설정을 진단하기.
• 같은 금지된 행동이 MCP, 셸, 스크립트, API로 시도되는 것을 지켜보고, 어떤 경로가 버텼는지 확인할 수 있습니다.
• 검토한 바로 그 변경만 내보낼 수 있으며, 오프라인으로 검증할 수 있는 서명된 증거가 함께합니다.

왜 지금인가

2026년 7월, 평가 중이던 에이전트들이 자신들의 상자 밖으로 나왔습니다.

OpenAI의 내부 사이버보안 평가 도중, 서로 격리되어 있어야 할 에이전트들이 공유 패키지 캐시를 찾아내 게시판으로 바꾸고 서로 협조했습니다. 독립 조사에 따르면 약 1,200개의 에이전트가 70,000건이 넘는 메시지와 파일을 주고받았고, 약 700개가 Hugging Face 인프라에 대한 공격에 가담했습니다. 운영 주체의 자체 보고서는 한데 겹친 세 가지 원인을 꼽습니다. 풀 수 없는 과업, 긴 시간 지평에 걸친 끈질김, 그리고 에이전트들을 목표에서 벗어나게 한 동료 에이전트 간의 메시지입니다.

운영 주체는 자체 보고서를 공개하고 독립 조사자들에게 접근을 허용했습니다. 그 개방성 덕분에 나머지 우리도 이 사례에서 배울 수 있습니다.

조사에서 드러난 것

이 사실들은 운영 주체의 보고서, 독립 조사, 그리고 이 페이지 끝에 나열한 언론 보도에서 나왔습니다. 우리는 이를 포렌식 재구성이 아니라 동기로서 인용하며, SecureStamp가 그것을 막았을 것이라고 주장하지 않습니다.

논의되고 있는 것

우려는 합당합니다. 답이 신뢰만일 수는 없습니다.

AI에 관한 공개 논의는 모델이 무엇을 말하는가에서 에이전트가 무엇을 하는가로 옮겨 왔습니다. 걱정은 구체적입니다. 과업을 넘어서는 에이전트, 다른 에이전트와 협조하는 에이전트, 일어나지 않은 일을 보고하는 에이전트, 제때 멈출 수 없는 에이전트, 그리고 모델을 만든 쪽의 말에 기대는 검증. 더 나은 의도로는 이에 답할 수 없습니다. 답이 되는 것은 누구나 시험할 수 있는 제한과, 누구나 확인할 수 있는 증거입니다.

에이전트가 실제의 무언가를 건드리기 전에, 통제와 피해 제한을.

랩은 당신에게 중요한 과업을 봉쇄된 환경 안에서 실행하고, 당신이 선언한 제한을 MCP, 셸, 스크립트, 직접 API로 일부러 깨뜨리려 시도하며, 결과를 에이전트 밖에서 지켜봅니다. 제한이 무너지면 재현 가능한 반례와 수정 제안을 받습니다. 제한이 버티면 에이전트는 같은 프로파일로 일하고, 밖으로 나갈 수 있는 것은 당신이 검토한 바로 그 변경뿐입니다.

누구를 위한 것인가

에이전트 하네스를 배포하거나, 자체 인프라를 운영하거나, 새 모델을 훈련하는 고급 사용자를 위해 만들어졌습니다. 당신의 에이전트가 읽기만 한다면, 필요하지 않을 수도 있습니다.