미국 전력망의 상당부분이 1950년대에 설치되었다는 사실을 아시나요?
이때 지하에 매설된 케이블들은 어떻게 연결되어있는지, 어디에 묻혀있는지 아무도 알지 못합니다. 1950년대 도시팽창기에 대규모로 매설된 이 케이블들은 설계수명을 넘어선지 수십년이 되었습니다만, 위치를 모르니 달리 해결방법도 없습니다.
갑자기 이런 이야기를 하는 이유는 점심을 먹다가 어제 발생한 LiteLLM에 대한 이야기를 접했습니다. 읽다보니 지금 AI 생태계의 급격한 팽창이, 말씀드린 1950년대 미국의 도시팽창 이야기와 비슷하다는 생각이 들었습니다.
LiteLLM은 100개 이상의 LLM API를 하나의 인터페이스로 통합해주는 오픈소스 Python 라이브러리입니다. 편리하니까 다들 썼습니다. 클라우드 환경의 36%에 깔려있을 정도였으니까요. 그런데 어제 3월 24일, 이 라이브러리의 보안 점검 도구인 Trivy가 먼저 감염되었고, 공격자는 탈취한 배포 토큰으로 13분 만에 악성 버전 두 개를 PyPI에 올렸습니다. 악성코드는 AWS/GCP 크레덴셜, SSH 키, 쿠버네티스 시크릿, 암호화폐 지갑, .env 파일을 통째로 수집한 뒤 클러스터 전체로 횡적 이동했습니다.
보안을 위해 설치한 도구가 침입 경로가 되었습니다. 그리고 대부분의 피해자는 자기 시스템에 LiteLLM이 있다는 사실조차 모르고 있었습니다. 직접 설치한 게 아니라 다른 패키지의 의존성으로 딸려온 경우가 많았으니까요.
오픈소스는 공짜가 아닙니다
오픈소스의 가치를 부정하는 게 아닙니다. 하지만 "무료"와 "비용이 없다"는 전혀 다른 말입니다.
오픈소스 패키지 하나를 도입하면, 그 패키지가 의존하는 수십-수백 개의 하위 의존성이 함께 들어옵니다. 이 중 상당수는 1-2명의 개인이 여가 시간에 유지보수하고 있습니다. 보안 감사도, SLA도, 사고 시 책임 소재도 없습니다. LiteLLM 사태에서 보았듯, 공급망의 가장 약한 고리 하나가 뚫리면 그 위에 쌓인 모든 것이 무너집니다.
기업 입장에서 이것은 통제할 수 없는 리스크를 핵심 인프라에 내장하는 것과 같습니다.
엔터프라이즈 제품은 "비싼 오픈소스"가 아닙니다
엔터프라이즈 제품에 비용을 지불하는 건 기능에 대한 대가만이 아닙니다. 그 안에는 다음이 포함되어 있습니다.
- 검증된 공급망: 코드 한 줄이 배포되기까지 내부 보안 감사, 코드 서명, 폐쇄형 빌드 파이프라인을 거칩니다. PyPI에 누군가 올린 패키지를 pip install하는 것과는 근본적으로 다릅니다.
- 책임 소재: 사고가 나면 대응할 조직이 있고, SLA가 있고, 계약이 있습니다. 오픈소스 GitHub Issue에 "urgent"라고 적는 것과는 다릅니다.
- 가시성: 어디에 무엇이 설치되어 있고, 어떤 버전이 돌아가고 있는지 추적할 수 있습니다. 1950년대 케이블처럼 "어딘가에 묻혀있긴 한데 어딘지 모른다"는 상황을 만들지 않습니다.
- 지속성: 핵심 메인테이너 한 명이 번아웃으로 떠나도, 제품은 유지됩니다.
속도와 안전은 트레이드오프가 아닙니다
"엔터프라이즈는 느리다"는 흔한 반론이 있습니다. 하지만 LiteLLM 사태 이후 피해 기업들이 크레덴셜 전수 교체, 클러스터 점검, 포렌식에 쏟은 시간과 비용을 생각해봅시다. 처음부터 검증된 제품을 도입하는 것과, 사고 후 수습하는 것 중 어느 쪽이 더 느린 건가요?
빠르게 깔수록, 나중에 더 깊이 묻힙니다
서울시는 2025년 10월부터 뒤늦게나마 지하 매설물 영상 기록을 의무화했습니다. 최소한 "어디에 뭐가 있는지" 기록이라도 하자는 겁니다.
하지만 진짜 해답은 애초에 기록이 필요 없을 만큼 아무거나 묻지 않는 겁니다.
지금 우리 시스템의 지하에 무엇이 묻혀있는지, 정말 알고 계십니까?