생성형 인공지능(AI) 서비스의 확산 속에서 개인정보 유출 및 오용에 대한 우려가 증폭되고 있다. 이에 개인정보보호위원회는 이용자들이 AI 서비스를 안전하게 활용할 수 있도록 「생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드」를 발간했다. 이번 가이드는 AI 시대의 새로운 개인정보 침해 위험에 선제적으로 대응하기 위한 조치로 평가된다.
■ 이용자 데이터 입력의 주의 의무 강조
가이드는 생성형 AI 서비스 이용자들에게 개인정보 입력 시 각별한 주의를 당부한다. 특히 민감 정보나 타인의 개인정보를 입력하는 행위를 자제하고, 서비스 약관 및 개인정보 처리방침을 면밀히 확인할 것을 권고했다. 또한, AI가 생성한 결과물이 사실과 다르거나 타인의 권리를 침해할 수 있음을 인지하고, 정보 활용 전 반드시 검증하는 과정을 거쳐야 한다고 명시했다. 이는 AI의 '환각 현상(Hallucination)' 등으로 인한 2차 피해를 예방하기 위함이다.
■ 사업자의 책임 강화 및 안전 조치 마련 요구
서비스 제공 사업자에게는 개인정보 보호를 위한 더욱 강화된 의무가 부여된다. 사업자는 서비스 개발 단계부터 개인정보 보호를 고려하는 '프라이버시 바이 디자인(Privacy by Design)' 원칙을 적용해야 한다. 또한, 이용자가 제공하는 개인정보를 AI 학습에 활용할 경우, 명확한 동의를 받고 그 목적을 투명하게 공개해야 한다. 입력된 개인정보가 외부로 유출되지 않도록 강력한 보안 시스템을 구축하고, 불필요한 개인정보는 즉시 파기하는 등의 안전 조치 마련도 필수적으로 요구된다.
■ AI 시대 개인정보 침해 위험 선제적 대응
이번 가이드는 기존의 개인정보 보호 법규만으로는 대응하기 어려운 생성형 AI의 특성을 반영하여 마련되었다. AI 모델의 학습 데이터 편향성, 생성 결과물의 개인정보 포함 가능성 등 새로운 유형의 위험에 대한 구체적인 대응 방안을 제시한다. 개인정보위는 가이드 발간을 시작으로 생성형 AI 환경에서의 개인정보 보호 체계를 지속적으로 고도화하고, 관련 법규 정비에도 나설 방침이다. 이는 빠르게 발전하는 AI 기술에 발맞춰 이용자 권리 보호를 최우선으로 하겠다는 정부의 의지를 보여준다.
이번 가이드라인 발표는 생성형 AI의 무분별한 확산 속에서 발생할 수 있는 개인정보 침해를 최소화하고, 안전한 AI 생태계를 조성하는 데 중요한 이정표가 될 전망이다. 이용자와 사업자 모두에게 명확한 책임과 의무를 제시함으로써, AI 기술이 가져올 긍정적 효과를 극대화하는 동시에 잠재적 위험을 관리하는 균형 잡힌 접근이 기대된다. 향후 가이드라인의 실효성 확보를 위한 지속적인 관심과 노력이 요구된다.