최근 골프존에서 발생한 대규모 개인정보 유출 사고가 다시 한번 산업계와 사회 전반에 큰 충격을 주었습니다. 이 회사는 주민등록번호 등 민감정보를 암호화하지 않은 채 파일서버에 보관하고, VPN을 도입하면서 ID/PW만으로 외부에서 내부망에 접속 가능하도록 방치하는 등 여러 관리 부실이 드러나 75억 원의 과징금과 540만 원의 과태료를 부과받았습니다. 더 나아가 38만여 명의 개인정보가 보유기간이 지났음에도 파기되지 않았다는 사실은 … Read more
1. 생성형 AI 실태점검: 어떤 문제들이 드러났나 (1) 주민등록번호·신용카드번호 등 민감정보가 AI 학습데이터로 2024년 개인정보위는 챗GPT, 구글, MS, 메타, 네이버, 뤼튼 등 6개 주요 생성형 AI 기업을 대상으로 사전 실태점검을 실시했습니다. 그 결과, 대부분의 AI 모델이 인터넷상 공개된 데이터를 대규모로 수집해 학습에 사용하고 있었고, 이 과정에서 주민등록번호나 신용카드번호 등 한국 이용자들의 민감정보가 섞여 있을 수 … Read more
1. AI 프라이버시 리스크 관리모델의 적용 범위와 의의 (1) 적용 대상: AI 개발자와 서비스 제공자 이번 모델은 인공지능(AI) 모델·시스템(이하 “AI 서비스”)을 개발하거나 운영하는 모든 기업·기관이 참고할 수 있도록 만들어졌습니다. 특히 다음과 같은 상황에서 직접적인 도움이 될 수 있습니다. (2) 리스크의 범위: 프라이버시 측면의 중점 이슈 본 모델은 AI의 모든 위험 요소를 아우르기보다, 국내외에서 중점적으로 논의되는 … Read more
1. 생성형 AI와 현행 개인정보보호법의 충돌 지점 (1) 폭발적 성장의 생성형 AI, 짧은 시간에 산업 전반으로 확산 오픈AI의 ChatGPT가 대중적으로 알려진 지 2년도 채 되지 않았지만, 텍스트·이미지·음성 등 다양한 형태의 생성형 AI가 빠르게 산업 전반에 침투하고 있습니다. 글로벌 컨설팅기관 PwC는 2025년까지 기업의 약 40%가 최소 하나 이상의 생성형 AI 솔루션을 업무나 제품에 통합할 것으로 전망합니다(참고: … Read more
1. AI 시대, 왜 프라이버시 리스크 관리가 중요한가 AI가 사회 전반으로 확산되면서, 데이터 처리 방식이 예전과는 크게 달라졌습니다. 과거에는 프라이버시를 특정 목적에 맞춰 사전에 동의를 얻고 수집·활용하는 모델이 일반적이었지만, 이제는 대규모 비정형데이터(이미지·영상·음성 등)까지 자동으로 수집하고, 이를 재가공·학습하는 과정에서 새로운 위험이 발생합니다. 특히 딥페이크(deepfake)로 인한 인격권 침해, 생성형 AI가 부적절하거나 민감한 정보를 사용자에게 노출하는 등 전통적인 … Read more
1. 달라진 AI 시대의 개인정보 처리 환경 1-1. 데이터 처리 방식의 변화 기존 개인정보 처리 방식은 보통 “사전 동의” 원칙에 기반해, 구체적인 수집 목적과 항목을 명시하고 동의를 얻는 구조였습니다. 그러나 생성형 AI를 비롯한 다양한 AI 모델이 수많은 데이터를 자동으로 스크래핑하고 학습하는 방식이 확산되면서, 이러한 전통적인 동의 절차만으로 대규모 데이터 처리 과정을 모두 포괄하기가 어려워졌습니다.또한, 과거에는 … Read more
1. 왜 ‘공개된 개인정보’ 처리 기준이 필요한가 인공지능(AI) 기술이 급속도로 발전하면서, 챗GPT나 생성형 AI 모델 대부분은 인터넷상 공개된 데이터를 통해 학습 과정을 거칩니다. 예컨대, 커먼크롤(Common Crawl), 위키백과(Wikipedia), 블로그, 웹사이트 등 ‘누구나 합법적으로 접근할 수 있는’ 데이터가 광범위하게 AI 학습에 투입되고 있습니다. 이러한 공개 데이터 중에는 개인의 주소·고유식별번호·신용카드번호 등 각종 민감 정보가 섞여 있을 가능성이 높습니다.이처럼 … Read more
1. AI 보안 솔루션 도입, 사이버 위협 대응의 새로운 해법 기업과 기관이 AI 보안 솔루션에 주목하는 이유는 기존의 ‘사후 대처’ 중심 전략에서 벗어나, 보다 선제적인 위험 관리가 가능해지기 때문입니다. 점점 복잡해지고 교묘해지는 해킹·악성코드 공격 환경에서, 많은 보안 담당자들은 “더 이상 사람만으로는 모든 위협을 감당하기 어렵다”고 토로합니다. 방대한 로그 분석, 악성코드 변종 식별, 침입 흔적 추적 … Read more
1. 생성형 AI의 보안 이슈 부상과 사회적 파급 효과 생성형 AI는 텍스트·이미지·음성 등 다양한 콘텐츠를 자유롭게 생성할 수 있는 기술로, 광범위한 활용 가능성을 지닙니다. 금융·의료·교육·제조업 등에서 생산성 제고 효과가 기대되는 반면, 사회 전반에 걸쳐 예상치 못한 보안 문제가 발생할 수 있다는 경고가 이어지고 있습니다. 이미 글로벌 시장조사기관인 Gartner는 “생성형 AI 도입이 2024~2025년에 걸쳐 폭발적으로 늘어남에 … Read more
1. AI 보안의 부상: 효율성과 정확성의 결합 첨단 디지털 환경에서 수많은 업무가 PC나 스마트폰을 통해 처리되면서, 사이버 보안 위협 사례도 기하급수적으로 늘어나고 있습니다. 국내외 통계 자료를 보면, 랜섬웨어나 피싱 공격 건수는 해마다 증가세에 있으며, 보안 전문가들은 “예방보다 대응 역량을 키우는 것이 더욱 중요해졌다”고 강조합니다. 이처럼 공격 표면(Attack Surface)이 넓어지면서, 보안팀에서 모든 위협을 수작업으로 처리하기엔 한계가 … Read more