han235 
인공지능(AI) 기술이 빠르게 발전하면서 사회는 전례 없는 혁신과 편의를 누리는 동시에, 사이버 공격·개인정보 유출 등 새로운 보안 위협에 직면하고 있습니다. 이러한 상황은 개인부터 기업, 그리고 국가 차원에 이르기까지 광범위한 영향을 미치고 있으며, 특히 AI를 보안 영역에 적용한 이른바 ‘AI 보안(AI Security)’ 기술에 대한 수요가 큰 폭으로 증가하고 있습니다. AI 기술을 단순히 ‘효율성을 높이는 툴’로 보던 … Read more
최근 들어 대규모 언어 모델(LLM, Large Language Model)을 비롯한 인공지능(AI) 기술이 급격히 발전함에 따라, 조직의 사이버보안 패러다임이 빠르게 변화하고 있습니다. 과거에는 대규모의 자본과 인력이 투입되어야만 가능했던 보안 시스템 구축이, 이제는 AI 모델과 알고리즘을 효율적으로 활용해 한층 간결하고 정교한 방식으로 구현되고 있습니다. 본 블로그 글에서는 LLM이 제공하는 보안 교육 및 안전 문화 고취 효과를 중심으로, 객관적 … Read more
LLM과 사이버보안 시장의 변화 최근(작성일 기준 2025년 4월) 전 세계적으로 인공지능(AI) 기술이 빠르게 발전하면서 사이버보안 분야에서도 LLM(Large Language Model)의 활용 가능성이 급부상하고 있다. LLM은 방대한 텍스트 데이터를 기반으로 학습하여 사람처럼 자연스러운 언어 분석과 생성이 가능해진 모델을 의미한다. 예컨대 GPT 계열 모델이나 BERT 계열 모델이 대표적이다. 과거에는 해커와 보안 전문가 모두 제한된 데이터 세트로 특정 규칙 … Read more
생성형 AI의 부상과 잠재적 리스크 전 세계적으로 생성형 AI 기술이 각종 산업 분야에서 빠르게 주목받고 있다. 특히 대규모 언어 모델(LLM, Large Language Model)을 기반으로 한 자연어 처리 능력과, 방대한 데이터를 활용한 예측 및 분석 기술은 기업과 기관에 매우 매력적인 혁신 기회를 제공한다. 예를 들어 고객 응대 업무의 자동화, 의료 데이터 분석을 통한 진단 보조, 그리고 … Read more
사이버보안 인력 부족과 AI 기술의 교차점 최근 국제정보시스템보안자격협회(ISC2)의 발표에 따르면 사이버범죄로 인한 전 세계 경제적 비용이 급증하고 있으며, 이는 매년 수십조 원 이상으로 추산되는 막대한 손실로 이어지고 있다. 여기에 더해 현재 약 480만 명의 사이버보안 전문가가 부족하다는 통계가 나왔는데, 이런 인력 격차가 해소되지 않는 한 조직과 국가의 보안 리스크는 더욱 커질 수밖에 없다. 한편 글로벌 … Read more
최근 골프존에서 발생한 대규모 개인정보 유출 사고가 다시 한번 산업계와 사회 전반에 큰 충격을 주었습니다. 이 회사는 주민등록번호 등 민감정보를 암호화하지 않은 채 파일서버에 보관하고, VPN을 도입하면서 ID/PW만으로 외부에서 내부망에 접속 가능하도록 방치하는 등 여러 관리 부실이 드러나 75억 원의 과징금과 540만 원의 과태료를 부과받았습니다. 더 나아가 38만여 명의 개인정보가 보유기간이 지났음에도 파기되지 않았다는 사실은 … Read more
1. 생성형 AI 실태점검: 어떤 문제들이 드러났나 (1) 주민등록번호·신용카드번호 등 민감정보가 AI 학습데이터로 2024년 개인정보위는 챗GPT, 구글, MS, 메타, 네이버, 뤼튼 등 6개 주요 생성형 AI 기업을 대상으로 사전 실태점검을 실시했습니다. 그 결과, 대부분의 AI 모델이 인터넷상 공개된 데이터를 대규모로 수집해 학습에 사용하고 있었고, 이 과정에서 주민등록번호나 신용카드번호 등 한국 이용자들의 민감정보가 섞여 있을 수 … Read more
1. AI 프라이버시 리스크 관리모델의 적용 범위와 의의 (1) 적용 대상: AI 개발자와 서비스 제공자 이번 모델은 인공지능(AI) 모델·시스템(이하 “AI 서비스”)을 개발하거나 운영하는 모든 기업·기관이 참고할 수 있도록 만들어졌습니다. 특히 다음과 같은 상황에서 직접적인 도움이 될 수 있습니다. (2) 리스크의 범위: 프라이버시 측면의 중점 이슈 본 모델은 AI의 모든 위험 요소를 아우르기보다, 국내외에서 중점적으로 논의되는 … Read more
1. 생성형 AI와 현행 개인정보보호법의 충돌 지점 (1) 폭발적 성장의 생성형 AI, 짧은 시간에 산업 전반으로 확산 오픈AI의 ChatGPT가 대중적으로 알려진 지 2년도 채 되지 않았지만, 텍스트·이미지·음성 등 다양한 형태의 생성형 AI가 빠르게 산업 전반에 침투하고 있습니다. 글로벌 컨설팅기관 PwC는 2025년까지 기업의 약 40%가 최소 하나 이상의 생성형 AI 솔루션을 업무나 제품에 통합할 것으로 전망합니다(참고: … Read more
1. AI 시대, 왜 프라이버시 리스크 관리가 중요한가 AI가 사회 전반으로 확산되면서, 데이터 처리 방식이 예전과는 크게 달라졌습니다. 과거에는 프라이버시를 특정 목적에 맞춰 사전에 동의를 얻고 수집·활용하는 모델이 일반적이었지만, 이제는 대규모 비정형데이터(이미지·영상·음성 등)까지 자동으로 수집하고, 이를 재가공·학습하는 과정에서 새로운 위험이 발생합니다. 특히 딥페이크(deepfake)로 인한 인격권 침해, 생성형 AI가 부적절하거나 민감한 정보를 사용자에게 노출하는 등 전통적인 … Read more