생성형 AI, 주민등록번호도 학습한다? 개인정보보호위원회의 실태점검 결과와 향후 과제

생성형AI

1. 생성형 AI 실태점검: 어떤 문제들이 드러났나 (1) 주민등록번호·신용카드번호 등 민감정보가 AI 학습데이터로 2024년 개인정보위는 챗GPT, 구글, MS, 메타, 네이버, 뤼튼 등 6개 주요 생성형 AI 기업을 대상으로 사전 실태점검을 실시했습니다. 그 결과, 대부분의 AI 모델이 인터넷상 공개된 데이터를 대규모로 수집해 학습에 사용하고 있었고, 이 과정에서 주민등록번호나 신용카드번호 등 한국 이용자들의 민감정보가 섞여 있을 수 … Read more

AI 시대, 프라이버시 리스크 관리모델이 중요한 이유

생성형AI

1. AI 프라이버시 리스크 관리모델의 적용 범위와 의의 (1) 적용 대상: AI 개발자와 서비스 제공자 이번 모델은 인공지능(AI) 모델·시스템(이하 “AI 서비스”)을 개발하거나 운영하는 모든 기업·기관이 참고할 수 있도록 만들어졌습니다. 특히 다음과 같은 상황에서 직접적인 도움이 될 수 있습니다. (2) 리스크의 범위: 프라이버시 측면의 중점 이슈 본 모델은 AI의 모든 위험 요소를 아우르기보다, 국내외에서 중점적으로 논의되는 … Read more

생성형 AI와 개인정보 보호: CPO가 맞닥뜨린 새로운 딜레마

생성형AI

1. 생성형 AI와 현행 개인정보보호법의 충돌 지점 (1) 폭발적 성장의 생성형 AI, 짧은 시간에 산업 전반으로 확산 오픈AI의 ChatGPT가 대중적으로 알려진 지 2년도 채 되지 않았지만, 텍스트·이미지·음성 등 다양한 형태의 생성형 AI가 빠르게 산업 전반에 침투하고 있습니다. 글로벌 컨설팅기관 PwC는 2025년까지 기업의 약 40%가 최소 하나 이상의 생성형 AI 솔루션을 업무나 제품에 통합할 것으로 전망합니다(참고: … Read more

생성형 AI 시대의 보안: 위협과 혁신이 공존하는 양면성

생성형AI

1. 생성형 AI의 보안 이슈 부상과 사회적 파급 효과 생성형 AI는 텍스트·이미지·음성 등 다양한 콘텐츠를 자유롭게 생성할 수 있는 기술로, 광범위한 활용 가능성을 지닙니다. 금융·의료·교육·제조업 등에서 생산성 제고 효과가 기대되는 반면, 사회 전반에 걸쳐 예상치 못한 보안 문제가 발생할 수 있다는 경고가 이어지고 있습니다. 이미 글로벌 시장조사기관인 Gartner는 “생성형 AI 도입이 2024~2025년에 걸쳐 폭발적으로 늘어남에 … Read more

생성형 AI, 혁신과 보안의 교차로

생성형AI

1. 생성형 AI란 무엇인가 생성형 AI를 정확히 이해하기 위해서는 먼저 인공지능 기술의 흐름을 간단히 짚어볼 필요가 있습니다. 전통적인 인공지능은 규칙 기반(Rule-based) 시스템이나 알고리즘에 의존해 특정 문제를 해결했고, 시간이 흐르면서 데이터 기반 학습을 하는 머신러닝(Machine Learning)으로 진화했습니다. 이후 심층 신경망(Deep Neural Network)을 활용하는 딥러닝(Deep Learning)이 부상하면서, 대규모 데이터로부터 특징을 추출하고 모델을 학습하는 데 비약적인 진전을 이루게 … Read more

생성형 AI, 사이버 보안의 새로운 지평을 열다

생성형AI

1. PassGAN: 안전한 비밀번호를 위한 생성형 AI 생성형 AI 비밀번호 보안은 사이버 보안의 가장 기본적인 수단이지만, 여전히 많은 사용자가 “password123”처럼 손쉽게 추측 가능한 문자열을 사용하고 있습니다. 이로 인해 해커들은 해시 충돌 또는 무차별 대입(brute force) 기법을 이용해 여러 계정을 빠르게 탈취하고 있죠. 그러한 문제점을 보완하기 위해 등장한 것이 바로 PassGAN입니다. PassGAN은 생성적 적대 신경망(Generative Adversarial … Read more

중국발 대화형 AI ‘딥시크’, 데이터 보안 우려와 글로벌 파장

생성형AI

딥시크란 무엇인가: 기술적 배경과 차별점 딥시크는 중국에서 개발된 대화형 AI 모델로, 오픈AI의 챗GPT와 유사한 거대 언어 모델(LLM) 기반 서비스를 제공한다. 사용자 질문이나 명령에 대해 실시간으로 문맥을 파악하고, 자연어로 답변을 생성하는 기술을 핵심으로 삼는다. 저비용으로도 뛰어난 성능을 보여준다는 점에서 세간의 이목을 집중시켰으며, 중국 현지에서는 기업용과 개인용 시장 모두에서 폭넓은 활용 가능성을 시사하고 있다. 딥시크가 주목받는 이유 … Read more

정부, 딥시크 개인정보 수집 실태 조사 착수

생성형AI

딥시크란 무엇인가: 거대언어모델(LLM)의 특징 딥시크(DeepSeek)는 중국정부 내 기업에서 개발된 대표적인 생성형 AI 서비스로, 사용자 질문에 대해 자연스러운 언어 처리와 맥락 분석을 통해 답변을 제공하는 거대언어모델(LLM)이다. 전통적인 검색 엔진이 단순한 키워드 매칭 기반으로 동작하는 것과 달리, 딥시크는 대규모 데이터셋을 학습해 맥락과 의미를 파악하고 적절한 응답을 생성한다. 최근 인공지능 산업의 발전 속도를 고려할 때, 이러한 LLM 기반 … Read more

중국발 AI ‘딥시크’ 개인정보 수집 논란: 글로벌 규제와 국내 대응 분석

생성형AI

딥시크의 부상 배경: 고성능과 비용 효율의 이면 최근 생성형AI 분야에서 주목받고 있는 ‘딥시크(DeepSeek)’는 중국 스타트업이 개발한 모델로, 상대적으로 낮은 비용 투자에도 불구하고 상당한 성능을 발휘한다는 점에서 시장의 관심을 받고 있습니다. 특히 전통적인 대형 AI 모델에 비해 개발 과정에서 요구되는 인프라와 자본이 절감된다는 분석이 있어, 스타트업 및 중소 기업들 사이에서는 “차세대 저비용 고효율 인공지능”이라는 기대를 모으고 … Read more