온디바이스 AI 통화 녹음이 서버에서 유출된 기술적 모순
- 12025년 12월 2일 오후 8시
LG유플러스 익시오 앱의 신규 설치·재설치 과정에서 개인정보 노출 사고가 시작됐다.
- 2서버 캐시 설정 오류
백업과 복구를 위해 암호화해 임시 저장하던 통화 데이터의 캐시 설정 명령이 잘못 입력됐다.
- 3사용자 세션 뒤섞임
분리되어야 할 세션이 엉키면서 다른 이용자의 통화 요약, 전화번호, 통화 시각이 잘못 배포됐다.
- 4노출 범위
사고 시간대에 앱을 설치하거나 재설치한 이용자 101명에게 36명의 통화 관련 정보가 노출됐다.
- 52025년 12월 3일 오전 10시 59분
약 15시간 동안 이어진 노출 사고가 종료됐다.
온디바이스(On-device) AI 기술은 기기 내부에서 모든 연산을 수행하므로 개인정보 보안성이 극대화된다는 기대를 한몸에 받았습니다. 외부로 데이터가 나가지 않으니 안심하고 통화 녹음이나 텍스트 변환 기능을 쓸 수 있다고 생각하기 쉽습니다. 그러나 기술 명칭이 주는 신뢰와 달리 실제 현장에서는 데이터가 외부 서버로 전송되어 노출되는 모순적인 보안 사고가 발생하여 사용자에게 혼란을 줍니다.
이를 보여주는 대표 사례가 2025년 12월 발생한 LG유플러스의 AI 통화 서비스 익시오(ixi-O) 개인정보 노출 사건입니다. 이 사고는 2025년 12월 2일 오후 8시부터 다음 날 오전 10시 59분까지 약 15시간 동안 이어졌습니다. 해당 시간대에 앱을 새로 설치하거나 재설치했던 이용자 101명에게 36명의 통화 내용 요약본, 상대방 전화번호, 통화 시각 등 사생활이 담긴 민감 정보가 고스란히 노출되는 피해를 입혔습니다. 주민등록번호나 금융 정보 같은 고유 식별 정보는 없었다고 하나 통화 당사자 간의 대화 요약본이 타인 화면에 그대로 드러났다는 점에서 충격을 안겼습니다.
온디바이스 AI를 표방하는 서비스임에도 왜 외부 서버에서 정보가 새어 나갔을까요? 원인은 완전한 온디바이스가 아닌 로컬 기기와 서버의 역할을 융합한 하이브리드 설계 구조에 있습니다. 개발사는 사용자가 기기를 분실하거나 앱을 재설치할 때 데이터를 복구할 수 있도록 통화 데이터를 암호화하여 서버 캐시 영역에 임시 저장하는 방식을 적용했습니다. 서버 기능 개선 작업을 진행하는 과정에서 캐시 설정 명령어를 잘못 입력하는 조작 실수(휴먼 에러)가 일어났고 암호화되어 분리되어야 할 사용자 세션이 뒤엉켜 엉뚱한 사용자의 단말기로 정보가 배포된 것입니다. 마케팅으로 부각된 온디바이스라는 개념만 믿고 무조건 안전하리라 맹신했던 독자라면 기술이 실제로 구현되는 인프라 경계를 꼼꼼히 확인해야 하는 이유가 바로 여기에 있습니다.
마케팅에 가려진 하이브리드 AI 아키텍처의 설계 결함
사용자는 온디바이스 AI라는 문구를 접하면 자신의 목소리와 텍스트 변환 결과가 오직 단말기 내부에서 처리되고 즉시 파기된다고 예상합니다. 하지만 개발사는 연산 자원의 한계를 극복하고 다양한 부가 서비스를 안정적으로 제공하려고 로컬 기기와 클라우드 서버를 하이브리드 형태로 연계하는 분산 아키텍처를 흔히 채택합니다. 온디바이스 전용 모델이 탑재된 기기라 하더라도 실시간 통화 녹음 분석이나 고도화된 긴 문장 요약은 연산량이 커서 서버 자원을 일부 빌려 쓰는 구조적 타협이 빈번하게 일어납니다.
Tecnologolilla 기술 블로그를 운영하는 관점에서 분석해 보면 이러한 혼합 구조는 전형적인 분산 시스템의 세션 동기화 정합성과 데이터 생명주기(TTL) 관리 실패라는 근본 취약점을 노출합니다. 가상 환경을 시뮬레이션하거나 게임 월드 빌딩을 진행할 때 발생하는 분산 노드 간의 상태 동기화 오류는 단순한 그래픽 깨짐이나 일시적인 접속 해제 현상으로 끝나지만 실제 민감 정보를 다루는 인공지능 통화 요약 서비스에서는 치명적인 개인정보 유출로 나타납니다. 개발사는 사용 편의성을 위해 통화 데이터를 암호화한 채로 최대 6개월 동안 백업 서버에 보관하도록 설계했습니다. 기기 내부 독립 연산이라는 보안의 핵심 가치를 백업 복구라는 편의성과 상충시킨 설계 방식이 결국 외부 서버라는 유출 경로를 남겨두는 모순을 낳았습니다. 클라이언트의 독점성을 완전히 강제하지 않은 설계 구조 아래서는 설정 실수 같은 사소한 운영 미숙만으로도 방어선이 무너질 수 있습니다.
참고 출처: 바이라인네트워크 기술 분석
내가 쓰는 AI 통화 앱의 실시간 보안성 자가 진단법
| 진단 항목 | 확인 방법 | 보안상 의미 | 주의할 점 |
|---|---|---|---|
| 삼성 갤럭시 기기 내 처리 | 설정 → 유용한 기능 → 향상된 인텔리전스에서 '기기 내에서만 데이터 처리'를 활성화 | 외부 클라우드 통신을 차단하고 지원되는 AI 처리를 단말기 안으로 제한 | 생성형 사진 편집이나 복합 맥락 요약 등 일부 기능의 품질이 낮아지거나 제한될 수 있음 |
| 애플 Private Cloud Compute | 애플 실리콘 서버, 임시 연산, 처리 후 파기, 외부 연구 검증 구조 사용 여부 확인 | 단말기가 감당하지 못하는 작업을 영구 저장을 지양하는 검증 가능한 서버에서 처리 | 순수한 온디바이스 처리와 같지 않으므로 서버 처리 조건과 공개 검증 자료를 함께 확인해야 함 |
| 비행기 모드 시험 | 네트워크를 완전히 끊은 뒤 통화 녹음의 텍스트 변환과 요약을 실행 | 정상 작동하면 해당 기능이 단말기 내부에서 수행될 가능성이 높음 | 오프라인 언어팩 유무와 기기 성능에 따라 결과가 달라질 수 있음 |
내가 사용하는 스마트폰의 AI 통화 서비스가 정말 안전한 기기 내 독점 처리를 준수하는지 파악하려면 사용자가 직접 데이터 흐름을 제한하는 설정을 점검해야 합니다. 마케팅 용어에 현혹되지 않고 스마트폰이 지닌 하드웨어 수준의 보안 격리 통제력을 직접 조작해 보는 실천이 필요합니다.
삼성전자는 갤럭시 AI 기능을 탑재하면서 데이터가 기기 외부로 나가는 통로를 사용자가 수동으로 차단할 수 있는 장치를 마련해 두었습니다. 스마트폰 내 설정 메뉴를 눌러 유용한 기능으로 진입한 뒤 향상된 인텔리전스 항목을 선택하면 기기 내에서만 데이터 처리 스위치를 제어할 수 있습니다. 이 스위치를 활성화하면 외부 클라우드 통신을 강제로 차단하여 모든 인공지능 처리가 폰 내부에서만 완료되도록 제한합니다. 다만 이 설정을 켜면 기기 자체의 경량 언어 모델로 소화할 수 없는 일부 생성형 사진 편집이나 복합 맥락 요약 기능의 품질이 저하되거나 사용이 제한되는 트레이드오프가 발생합니다.
애플의 경우 온디바이스에서 감당하지 못하는 무거운 인공지능 작업을 처리하기 위해 프라이빗 클라우드 컴퓨트(Private Cloud Compute) 기술을 도입했습니다. 애플 실리콘 칩셋 기반으로 특수 제작된 서버 하드웨어를 활용하며 연산에 투입된 데이터를 임시로만 쓰고 완료 즉시 완전 파기하는 아키텍처를 지향합니다. 특히 전 세계 보안 연구원들이 해당 서버 운영체제의 가상 이미지를 분석하여 데이터 영구 저장 여부나 암호화 프로세스를 상시 감사할 수 있도록 가상 연구 환경(VRE)을 배포하며 투명성을 검증받고 있습니다. 본인이 쓰는 통화 앱이 순수한 온디바이스인지 간단히 시험해 보려면 비행기 모드로 전환하여 네트워크를 완전히 끊은 상태에서 통화 녹음 텍스트 변환이나 요약이 정상 작동하는지 테스트해 보면 명확히 구분할 수 있습니다.
참고 출처: 삼성전자 고객지원 가이드, 애플 보안 리서치 포털
서버 저장과 기기 내 처리 사이에서 현명하게 판단하는 법
- 1서버 저장·하이브리드 처리
- 2기기 내 오프라인 독점 처리
편의성과 보안성은 상충 관계에 있으므로 사용자는 자신의 통화 환경과 정보의 민감도에 따라 엄격한 기준을 수립해야 합니다. 일상적인 약속 조율이나 사소한 안부 통화라면 6개월 백업 편의성을 선택해도 무방하지만 금융 거래나 비즈니스 비밀을 논하는 통화가 잦다면 서버에 데이터 흔적이 남는 하이브리드 서비스를 멀리하는 것이 기본 수칙입니다.
예를 들어 기업의 인수합병이나 미공개 신기술 계약 조건을 조율하는 통화 내용이 텍스트로 고스란히 변환되어 외부 클라우드에 백업되는 환경을 가정해 보겠습니다. 아무리 강력한 종단간 암호화가 적용되었다고 광고하더라도 서비스사의 시스템 배포 실수나 내부 직원의 권한 관리 허점 탓에 타인의 세션과 연결된다면 영업 비밀 유출로 막대한 손실을 초래할 수 있습니다. 반면 기기 내 오프라인 독점 처리 옵션을 켜두면 스마트폰을 분실했을 때 과거 대화 이력을 복구하지 못하는 불편은 따르지만 제삼자가 네트워크 해킹이나 서버 설정 오류로 내 통화 내역에 접근할 가능성을 원천 차단합니다. 본인의 업무 중요도를 평가하여 통화 민감도를 상중하로 분류한 뒤 보안 옵션을 수동으로 결정하는 습관을 지녀야 합니다.
참고 출처: 개인정보보호위원회 개인정보 보호 가이드라인
보안 안전성을 보장하는 AI 통화 서비스 선택 기준
- 1처리 직후 데이터 파기
약관과 개인정보 처리방침에서 통화 요약·텍스트 데이터를 임시 연산에만 사용하고 완료 즉시 메모리에서 영구 소거하는 Ephemeral Processing 정책을 명시했는지 확인한다.
- 2복호화 키의 사용자 통제
통화 데이터를 해독하는 마스터 키가 개발사 서버가 아니라 사용자 단말기의 Secure Enclave 같은 보안 영역에만 보관되는 종단간 암호화 구조인지 확인한다.
- 3독립적인 투명성 검증
기술 문서와 보안 백서를 공개하고 외부 전문가의 정기적인 소스코드·운영체제 감사를 허용하며 결과를 공표하는지 확인한다.
개인정보 노출 걱정 없이 안심하고 사용할 수 있는 인공지능 서비스를 판별하려면 서비스 구조에서 기술적인 세 가지 요소를 대조해야 합니다.
첫째는 데이터 보관 정책의 즉시 파기 선언 여부입니다. 서비스 이용 약관이나 세부 개인정보 처리방침을 읽어볼 때 통화 요약과 텍스트 데이터를 임시 연산용으로만 활용하고 처리가 완결되는 즉시 시스템 메모리에서 영구 소거(Ephemeral Processing)하는 정책을 분명히 명시했는지 검토해야 합니다. 단순히 암호화 보관이라는 모호한 단어 아래 서버에 누적 보관하는 방식은 유출 위협을 상존시킵니다.
둘째는 데이터 복호화 키의 주도권을 누가 쥐고 있는지 규명하는 일입니다. 불가피하게 데이터 백업 기능을 제공하는 서비스라 할지라도 통화 텍스트를 해독할 수 있는 마스터 키가 개발사 서버가 아닌 오직 사용자 본인의 단말기 내부 보안 칩셋(Secure Enclave)에만 분산되어 보관되는 종단간 암호화 설계가 충실히 구현되었는지 파악해야 합니다. 개발사가 키를 소유하여 복호화 권한을 지니고 있다면 서버 침해 시 언제든 데이터가 열람될 위험성이 존재합니다.
셋째는 독립적인 기술 투명성 검증 여부입니다. 독자적인 기술 문서나 보안 백서를 일반 대중과 전문 연구원들에게 막힘없이 배포하고 외부 전문가들의 주기적인 소스코드 보안 감사를 수용하여 결과를 공표하는 기업의 서비스를 지향해야 신뢰도를 담보할 수 있습니다.
참고 출처: 애플 보안 리서치 포털
자주 묻는 질문
Q1. 온디바이스 AI 설정을 켜두면 개인정보 유출 걱정은 완전히 사라지나요?
단말기 기기 내부에서 요약과 번역 연산이 수행되는 것은 맞지만 스마트폰 자체에 연동된 자동 백업 앱이나 서드파티 클라우드 동기화 서비스가 텍스트 변환 결과 파일이나 임시 메모리 폴더를 통째로 서버로 업로드하도록 방치했다면 다른 경로로 데이터가 노출될 수 있습니다. 온디바이스 차단 옵션을 켜는 동시에 내 스마트폰의 일반 클라우드 백업 대상 목록에서 해당 통화 앱의 데이터 전송 여부도 비활성화해야 온전한 기기 내 독점 보안을 이룰 수 있습니다.
Q2. 네트워크 접속을 완전히 차단한 상태에서도 통화 요약이나 번역이 원활히 동작하나요?
사용 중인 스마트폰 하드웨어 등급과 미리 받아둔 오프라인 리소스 유무에 따라 동작 여부가 다릅니다. 최신 플래그십 기종은 미리 설치해 둔 다국어 언어팩과 경량 모델을 이용하여 네트워크 연결 없이도 즉각적인 로컬 요약을 지원하지만 구형 기종이나 보급형 단말기에서는 클라우드 연동이 필수적이므로 비행기 모드 상태에서는 처리가 중단되는 한계가 있어 본인 기기의 하드웨어 가이드라인을 먼저 살펴야 합니다.
Q3. AI 통화 녹음 앱을 설치할 때 불필요한 시스템 접근 권한을 꼭 다 허용해야 작동하나요?
그렇지 않으며 통화나 마이크 외에 불필요한 권한 요청은 사용자가 거부하는 편이 현명합니다. 음성을 인식하기 위해 필요한 마이크와 통화를 제어하는 연락처 외에 단말기 내의 미디어 전체 접근 권한이나 사용자의 위치 추적 권한까지 의무적으로 요구하는 앱이라면 내부 취약점을 노린 2차 개인정보 수집 행위가 의심되므로 권한을 거부하거나 최소화하여 승인하는 보안 주의가 요구됩니다.
개인정보 유출 예방을 위한 핵심 요약
온디바이스 인공지능 기술은 네트워크 외부 유출 위험을 줄이는 강력한 이점을 지니지만 개발사의 편의적인 아키텍처 혼용과 백업 편의성 집착이 서버 측 유출이라는 모순된 허점을 지속해서 남겨두고 있습니다. 결국 완벽한 보안은 자동화된 기술 명칭에 의존해서 얻어지는 것이 아니라 기기 내부 처리 옵션을 직접 활성화하고 동기화 범위를 제어하는 사용자의 철저한 보안 주체성 확립에 달려 있습니다. 편리함의 장막 뒤에 숨은 데이터 전송 경로를 예민하게 관찰하는 것만이 개인의 민감 정보를 확실하게 수호하는 가장 직관적이고 강력한 방법입니다.
댓글 남기기