엔비디아를 포함한 37개 기업·기관이 지난달 27일 산업 연합체 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance, 이하 AI 보안 연합)’ 결성을 발표했고, 한국에서는 SK텔레콤과 네이버가 창립 파트너로 이름을 올렸다. 연합의 목표는 AI 시대에 소프트웨어와 에이전트를 지킬 개방형 기술과 기법, 도구를 함께 개발하고 공유하는 것이라고 NVIDIA 코리아 공식 블로그는 밝혔다.
리눅스재단 짐 젬린(Jim Zemlin) 최고경영자는 공식 블로그에서 AI가 오픈소스 커뮤니티의 보안 관행을 그대로 받아들여야 한다며 “동일한 기반을 마땅히 갖춰야 한다”고 말했다. 지금까지 오픈소스 소프트웨어를 검증해 온 방식을 AI 모델과 에이전트에도 적용해야 한다는 논리다.
신원·격리부터 모델 파일 형식까지…37개사가 나눠 맡은 것
연합이 내건 과제는 크게 네 갈래다. 신원 확인과 격리(Identity, Isolation), 안전한 모델 파일 형식, 여러 모델을 한꺼번에 점검하는 스캐닝, 보안 코딩 워크플로우다. 허깅페이스는 모델 가중치를 안전하게 담는 파일 형식 세이프텐서(Safetensors)를 내놓았고, 마이크로소프트는 여러 모델을 한 번에 살피는 스캐닝 도구 MDASH를 기여했다. HPE는 신원 프레임워크 SPIFFE·SPIRE를, IBM과 레드햇은 오픈소스 취약점을 찾아 고치는 라이트웰(Lightwell)을 얹었다. 엔비디아는 에이전트 행동을 추적·감사하는 오픈소스 프레임워크 NOOA를 함께 공개했는데, 클라우드시큐리티얼라이언스(CSA) 연구소는 이 도구가 LLM이 생성한 파이썬 코드를 실행할 수 있어 데이터 유출 위험이 있고 통제 장치 자체가 격리 경계는 아니라고 지적했다. 엔비디아도 NOOA를 아직 연구 단계 도구로 설명한다.
얼라이언스는 리눅스재단이 앞서 출범시킨 오픈소스 취약점 대응 체계 아크리테스(Akrites)와 오픈SSF 커뮤니티의 작업을 기반으로 한다고 밝혔다. 다만 아크리테스는 이번 발표와는 별개의 프로젝트다. 2026년 6월 25일 아마존웹서비스(AWS)·구글·마이크로소프트 등 20개 기관이 함께 출범시켰고, 오픈소스 유지관리자와 기업이 취약점을 조율해 공개하는 절차를 만드는 데 목표를 뒀다.
정작 AI 보안 연합의 37개 창립 파트너 명단에는 오픈AI·구글·앤스로픽·메타 등 대형 폐쇄형 모델 개발사가 없다. 클라우드시큐리티얼라이언스 연구소는 발표 시점 기준으로 공개된 헌장이나 운영위원회, 구체적인 기술 워크스트림, 전달 일정, 공유 저장소가 전혀 없다고도 짚었다. 어떤 절차로 표준을 정하고 누가 책임지는지가 아직 지면 위로 드러나지 않았다는 뜻이다.
연관 기사
