LLM 재킹 국내 발생: 2시간 만에 AI 요금 200만 원, 회사 AI API 키 점검 5가지
LLM 재킹은 남의 AI 계정이나 API 키를 훔쳐 AI를 쓰고, 요금은 원래 주인에게 떠넘기는 공격이다. 디지털데일리가 11월 13일, 이투데이가 11월 15일 전한 국내 사례에서 해커는 한 AI 기업의 관리자 계정을 뚫고 OpenAI API 키를 손에 넣어 약 2시간 동안 200만 원가량을 썼다. 회사는 OpenAI에 보상을 요청했지만 고객의 키 관리 문제라는 답을 받았다. 이 글은 사건이 어떤 경로로 일어났는지, 청구서가 왜 피해 기업에 남는지, 회사에서 AI API를 쓰거나 관리하는 직장인이 오늘 확인할 5가지를 정리했다.
AI 요금이 갑자기 튀면 보통 누가 프롬프트를 많이 돌렸는지부터 묻는다. 이 사건에서 범인은 직원이 아니었다. 외부 업체에 보여주려고 잠깐 열어 둔 데모 페이지 하나가 입구였고, 그 안에 있던 키 하나로 회사 계정의 AI가 남의 일을 했다. 보안팀이 따로 없는 스타트업이나 현업 부서가 직접 API를 붙여 쓰는 회사라면 같은 구조가 그대로 있다.
| 항목 | 내용 | 출처 |
|---|---|---|
| 피해 기업 | 국내 AI 기업 A사 (회사명 비공개) | 디지털데일리 (11.13), 이투데이 (11.15) |
| 침입 경로 | 외부 시연용으로 열어 둔 데모(테스트) 페이지의 관리자 로그인 | 두 기사 |
| 공격 방식 | 초당 약 50회, 약 5시간, 약 90만 번 비밀번호 대입 | 두 기사 |
| 탈취 대상 | 관리자 계정과 연결된 OpenAI API 키 | 두 기사 |
| 피해 | 약 2시간 동안 약 200만 원어치 토큰 사용 | 두 기사 |
| 보상 | OpenAI가 고객의 키 관리 문제라며 거절 | 이투데이 |
LLM 재킹이란 무엇이고, 이번 사건은 어떻게 일어났나?
LLM 재킹은 훔친 클라우드 자격 증명이나 AI API 키로 생성형 AI를 무단 사용하는 공격이다. 이번 사건은 코드 유출이 아니라 열려 있던 데모 페이지의 관리자 비밀번호를 무작위로 대입해 뚫은 경우다.
용어는 보안 기업 시스디그(Sysdig) 위협연구팀이 2024년 5월에 처음 썼다. 당시 공격자는 취약한 버전의 웹 프레임워크가 돌던 서버에서 클라우드 자격 증명을 빼낸 뒤, OpenAI, Anthropic, AWS Bedrock, Azure, Google Vertex AI 등 10개 AI 서비스에 키가 통하는지 자동으로 확인했다. 목적은 AI 접근권을 되파는 것이었다.
국내 A사의 경우 공격자는 외부 업체 시연을 위해 잠깐 열어 둔 페이지의 관리자 로그인 화면에 초당 약 50번씩 비밀번호를 넣었다. 5시간 동안 약 90만 번을 시도한 끝에 관리자 계정을 얻었고, 그 계정으로 회사의 OpenAI API 키에 접근했다. 회사는 처음에 서버가 뚫린 줄 알았지만 로그를 확인한 뒤 웹 관리자 계정이 경로였다는 것을 알았고, 외부 접근을 막고 자격 증명을 바꿨다.
로그인 시도 횟수 제한이나 계정 잠금이 있었다면 90만 번의 시도는 처음 몇 분 안에 막혔을 것이다. 공격이 정교해서 뚫린 것이 아니라, 임시로 연 페이지에 기본 방어가 빠져 있어서 뚫린 사례다.
청구서는 왜 해커가 아니라 피해 기업에 날아오나?
API 요금은 키의 주인에게 청구되기 때문이다. AI 회사 입장에서 정상 키로 들어온 호출은 정상 사용이고, 키가 새어 나간 책임은 키를 관리한 쪽에 있다고 본다.
A사 대표는 이투데이에 오픈AI가 뚫린 게 아니고 고객의 키 관리 부실 문제라며 보상이 불가능하다는 답이 돌아왔다고 말했다. 기사는 OpenAI가 월 단위로 요금을 정산하기 때문에 회사가 늦게 알아챘다면 피해가 훨씬 커졌을 수 있다고 짚었다.
해외 피해 규모는 더 크다. 시스디그는 2024년 첫 보고서에서 공격자가 할당량 끝까지 모델을 돌리면 피해 기업이 하루 4만 6천 달러 이상을 낼 수 있다고 추정했다. 이 숫자는 실제 청구서가 아니라 최악의 경우를 계산한 값이다. 구글 위협 인텔리전스 그룹(GTIG)과 맨디언트가 11월 4일 낸 보고서를 다룬 국내 보도에 따르면, 실제로 하루 10만 달러가 넘는 무단 과금 사례가 있었고 접근을 끊기 전까지 누적 약 100만 달러에 이른 조직도 있었다.
AI API 키는 비밀번호가 아니라 회사 법인카드에 가깝다. 한도와 알림이 없는 카드를 데모 페이지에 꽂아 둔 셈이다.
훔친 AI는 어디에 쓰이나?
주로 AI 접근권 재판매와 다음 공격 준비에 쓰인다. 공격자는 남의 돈으로 AI를 쓰고, 그 접근권을 싸게 되팔아 수익을 낸다.
국내 보도에 인용된 GTIG 보고서에 따르면, 한 불법 토큰 중계 서비스는 최신 모델을 무제한으로 쓰게 해 준다며 월 약 60달러에 접근권을 팔았고, 그 비용 약 100만 달러가 한 피해 기업에 청구됐다. 다크웹에서는 주요 AI 모델 접근권이 최대 97% 할인된 가격에 거래됐고, 한 공격자는 8시간이 안 되는 시간에 50만 번 넘게 API를 호출했다.
고려대 인간지능AI연구원 최병호 연구교수는 이투데이에 이를 남의 돈으로 AI를 무한히 돌리는 채굴 같은 것이라고 설명했다. 디지털데일리는 탈취한 키가 피싱 문구 작성이나 악성코드 개발 같은 2차 공격의 도구가 될 수 있다고 전했다. 다만 A사 사건에서 키가 실제로 2차 공격에 쓰였는지는 확인되지 않았다.
회사에서 AI API를 쓴다면 오늘 확인할 점검 5가지
순서는 지출 한도, 사용량 알림, 키 위치, 키 분리, 임시 페이지 정리다. 1번과 2번은 오늘 10분 안에 끝낼 수 있고, 이 두 가지만 있어도 A사 같은 사건의 피해를 수 시간 단위로 줄인다. 이 점검표는 기사와 보안 업계 권고를 바탕으로 한 이 글의 제안이다.
- 1. 지출 한도를 강제로 건다: OpenAI는 조직과 프로젝트 단위로 하드 한도를 걸 수 있고, 한도에 닿으면 이후 요청이 거부된다. Anthropic 콘솔도 조직과 워크스페이스 단위 월 지출 한도를 둔다. 한도는 예상 월 사용량보다 조금 높게 잡는다. OpenAI 문서는 한도 적용이 즉시는 아니어서 조금 넘을 수 있다고 적고 있다
- 2. 하루 단위 급증 알림을 둔다: 디지털데일리가 소개한 국내 B사는 계정별 하루 사용액이 100달러를 넘으면 담당자에게 알림이 가게 했다. 월말 청구서가 아니라 하루 단위로 보는 것이 핵심이다. AWS Bedrock은 자체 지출 상한이 없고 AWS Budgets는 알림만 주며 몇 시간 늦을 수 있어, 호출 수와 토큰 수에 CloudWatch 경보를 따로 거는 편이 빠르다
- 3. 키가 어디에 있는지 찾는다: 웹 페이지 소스, 프런트엔드 코드, 공유 문서, 메신저, 깃 저장소에 키가 적혀 있지 않은지 확인한다. 키는 서버 쪽 환경 변수나 비밀 관리 도구에만 두고, 코드 저장소에는 자동 비밀 스캔을 켠다
- 4. 키를 용도별로 나눈다: 데모, 개발, 운영, 팀별로 키와 프로젝트를 분리하고 각각 따로 한도를 건다. 데모용 키가 털려도 운영 예산 전체가 아니라 데모 한도만큼만 잃는다. 퇴사자나 끝난 프로젝트의 키는 바로 폐기한다
- 5. 임시로 연 페이지를 닫는다: 시연, 테스트, 외부 공유용으로 연 페이지 목록을 만들고 끝난 것은 내린다. 남겨야 한다면 로그인 시도 횟수 제한, 계정 잠금, 2단계 인증을 켠다. A사의 입구가 정확히 이 지점이었다
사고가 이미 의심된다면 순서는 키 폐기와 재발급, 외부 접근 차단, 사용 로그 확인이다. 키를 바꾸지 않고 로그부터 보면 그동안에도 요금은 계속 쌓인다. AI 계정 자체가 막혔을 때의 대응은 AI 계정 잠김 5가지 이유를 다룬 글에서, AI 도구를 노린 다른 공격 경로는 가짜 면접과 AI 도구를 이용한 바이낸스 해킹 글에서 이어서 볼 수 있다.
이 사건에서 조심해서 읽을 부분
"국내 첫 사례"는 공개 보도 기준이다. 공식 기관 발표나 보안 기업 보고서로 확인된 것이 아니라 기자 취재로 알려진 사례이고, 회사명과 공격 날짜는 공개되지 않았다.
- 같은 사건일 가능성이 높지만 단정할 수 없다: 디지털데일리는 데모 페이지, 이투데이는 테스트 사이트라고 적었다. 시도 횟수, 피해액, 서비스가 같아 같은 사건으로 보이지만 두 기사가 이를 밝히지는 않았다
- 하루 4만 6천 달러는 추정치다: 시스디그가 최악의 경우를 계산한 값이며 실제 청구 사례가 아니다
- GTIG 수치는 국내 보도로 확인했다: 하루 10만 달러, 누적 100만 달러, 월 60달러 재판매, 97% 할인은 ZDNet Korea와 바이라인네트워크 보도를 통해 확인했고 보고서 원문은 직접 확인하지 못했다
- 점검 5가지는 제안이다: 기사와 GTIG, 시스디그, 각 AI 회사 문서의 권고를 직장인이 실행할 단위로 옮긴 것이며, 서비스별 메뉴 이름과 기능은 바뀔 수 있다
A사의 200만 원은 정교한 해킹의 대가가 아니라 임시 페이지 하나, 한도 없는 키 하나의 대가였다. AI 회사는 정상 키로 들어온 호출을 정상 사용으로 보고, 청구서는 키의 주인에게 간다. 회사에서 AI API를 쓴다면 오늘 지출 한도와 하루 단위 알림부터 건다. 그다음 키가 어디에 있는지, 용도별로 나뉘어 있는지, 시연이 끝난 페이지가 아직 열려 있지 않은지를 이번 주 안에 확인한다.
참고: 해커가 훔쳐 쓴 AI, 청구서는 피해 기업에…국내서도 'LLM 재킹' 발생 - 이투데이 (2026.11.15) · 남의 AI로 해킹하고 요금은 떠넘긴다…API 키 탈취, 2차 공격 '무기'로 - 디지털데일리 (2026.11.13) · LLMjacking: Stolen Cloud Credentials Used in New AI Attack - Sysdig (2024.05.06) · ZDNet Korea (2026.11.04) · OpenAI 지출 한도 문서