생성형 AI의 부상과 잠재적 리스크 전 세계적으로 생성형 AI 기술이 각종 산업 분야에서 빠르게 주목받고 있다. 특히 대규모 언어 모델(LLM, Large Language Model)을 기반으로 한 자연어 처리 능력과, 방대한 데이터를 활용한 예측 및 분석 기술은 기업과 기관에 매우 매력적인 혁신 기회를 제공한다. 예를 들어 고객 응대 업무의 자동화, 의료 데이터 분석을 통한 진단 보조, 그리고 … Read more
사이버보안 인력 부족과 AI 기술의 교차점 최근 국제정보시스템보안자격협회(ISC2)의 발표에 따르면 사이버범죄로 인한 전 세계 경제적 비용이 급증하고 있으며, 이는 매년 수십조 원 이상으로 추산되는 막대한 손실로 이어지고 있다. 여기에 더해 현재 약 480만 명의 사이버보안 전문가가 부족하다는 통계가 나왔는데, 이런 인력 격차가 해소되지 않는 한 조직과 국가의 보안 리스크는 더욱 커질 수밖에 없다. 한편 글로벌 … Read more
최근 골프존에서 발생한 대규모 개인정보 유출 사고가 다시 한번 산업계와 사회 전반에 큰 충격을 주었습니다. 이 회사는 주민등록번호 등 민감정보를 암호화하지 않은 채 파일서버에 보관하고, VPN을 도입하면서 ID/PW만으로 외부에서 내부망에 접속 가능하도록 방치하는 등 여러 관리 부실이 드러나 75억 원의 과징금과 540만 원의 과태료를 부과받았습니다. 더 나아가 38만여 명의 개인정보가 보유기간이 지났음에도 파기되지 않았다는 사실은 … Read more
1. 생성형 AI 실태점검: 어떤 문제들이 드러났나 (1) 주민등록번호·신용카드번호 등 민감정보가 AI 학습데이터로 2024년 개인정보위는 챗GPT, 구글, MS, 메타, 네이버, 뤼튼 등 6개 주요 생성형 AI 기업을 대상으로 사전 실태점검을 실시했습니다. 그 결과, 대부분의 AI 모델이 인터넷상 공개된 데이터를 대규모로 수집해 학습에 사용하고 있었고, 이 과정에서 주민등록번호나 신용카드번호 등 한국 이용자들의 민감정보가 섞여 있을 수 … Read more
1. AI 프라이버시 리스크 관리모델의 적용 범위와 의의 (1) 적용 대상: AI 개발자와 서비스 제공자 이번 모델은 인공지능(AI) 모델·시스템(이하 “AI 서비스”)을 개발하거나 운영하는 모든 기업·기관이 참고할 수 있도록 만들어졌습니다. 특히 다음과 같은 상황에서 직접적인 도움이 될 수 있습니다. (2) 리스크의 범위: 프라이버시 측면의 중점 이슈 본 모델은 AI의 모든 위험 요소를 아우르기보다, 국내외에서 중점적으로 논의되는 … Read more
1. 생성형 AI와 현행 개인정보보호법의 충돌 지점 (1) 폭발적 성장의 생성형 AI, 짧은 시간에 산업 전반으로 확산 오픈AI의 ChatGPT가 대중적으로 알려진 지 2년도 채 되지 않았지만, 텍스트·이미지·음성 등 다양한 형태의 생성형 AI가 빠르게 산업 전반에 침투하고 있습니다. 글로벌 컨설팅기관 PwC는 2025년까지 기업의 약 40%가 최소 하나 이상의 생성형 AI 솔루션을 업무나 제품에 통합할 것으로 전망합니다(참고: … Read more
1. AI 시대, 왜 프라이버시 리스크 관리가 중요한가 AI가 사회 전반으로 확산되면서, 데이터 처리 방식이 예전과는 크게 달라졌습니다. 과거에는 프라이버시를 특정 목적에 맞춰 사전에 동의를 얻고 수집·활용하는 모델이 일반적이었지만, 이제는 대규모 비정형데이터(이미지·영상·음성 등)까지 자동으로 수집하고, 이를 재가공·학습하는 과정에서 새로운 위험이 발생합니다. 특히 딥페이크(deepfake)로 인한 인격권 침해, 생성형 AI가 부적절하거나 민감한 정보를 사용자에게 노출하는 등 전통적인 … Read more
1. 달라진 AI 시대의 개인정보 처리 환경 1-1. 데이터 처리 방식의 변화 기존 개인정보 처리 방식은 보통 “사전 동의” 원칙에 기반해, 구체적인 수집 목적과 항목을 명시하고 동의를 얻는 구조였습니다. 그러나 생성형 AI를 비롯한 다양한 AI 모델이 수많은 데이터를 자동으로 스크래핑하고 학습하는 방식이 확산되면서, 이러한 전통적인 동의 절차만으로 대규모 데이터 처리 과정을 모두 포괄하기가 어려워졌습니다.또한, 과거에는 … Read more
1. 왜 ‘공개된 개인정보’ 처리 기준이 필요한가 인공지능(AI) 기술이 급속도로 발전하면서, 챗GPT나 생성형 AI 모델 대부분은 인터넷상 공개된 데이터를 통해 학습 과정을 거칩니다. 예컨대, 커먼크롤(Common Crawl), 위키백과(Wikipedia), 블로그, 웹사이트 등 ‘누구나 합법적으로 접근할 수 있는’ 데이터가 광범위하게 AI 학습에 투입되고 있습니다. 이러한 공개 데이터 중에는 개인의 주소·고유식별번호·신용카드번호 등 각종 민감 정보가 섞여 있을 가능성이 높습니다.이처럼 … Read more
1. AI 보안 솔루션 도입, 사이버 위협 대응의 새로운 해법 기업과 기관이 AI 보안 솔루션에 주목하는 이유는 기존의 ‘사후 대처’ 중심 전략에서 벗어나, 보다 선제적인 위험 관리가 가능해지기 때문입니다. 점점 복잡해지고 교묘해지는 해킹·악성코드 공격 환경에서, 많은 보안 담당자들은 “더 이상 사람만으로는 모든 위협을 감당하기 어렵다”고 토로합니다. 방대한 로그 분석, 악성코드 변종 식별, 침입 흔적 추적 … Read more