생성형 AI 보안이란? AI 시대에 새롭게 등장한 보안위험

생성형 AI 시대가 열리면서 보안의 판도 변화

우리는 지금 매일유튜브를 보듯 챗지피티에게 글을 쓰고 그림을 그려달라고 부탁하는 세상에 살고 있습니다. 버튼 몇 번만 누르면 몇 초 만에 완벽한 보고서가 뚝딱 만들어지고 내가 상상하던 이미지가 화면에 펼쳐집니다. 일상과 업무의 풍경을 통째로 바꾼 이 신기하고 놀라운 기술을 우리는 생성형 인공지능이라고 부릅니다. 하지만 빛이 밝을수록 그림자도 짙어지는 법입니다. 인공지능이 우리 삶에 깊숙이 파고들수록 예전에는 상상조차 하기 힘들었던 새로운 형태의 보안 위협들이 고개를 들고 있습니다.

많은 사람들이 인공지능은 기술 대기업들이 알아서 안전하게 만들어 주겠지 하고 가볍게 생각합니다. 하지만 실제로 우리의 일상과 직장에서 인공지능을 어떻게 다루느냐에 따라 내 통장 잔고가 털릴 수도 있고 회사의 기밀이 전 세계에 생중계될 수도 있습니다. 보안이라고 하면 방화벽이나 해커 같은 복잡하고 영화 같은 이야기를 떠올리기 쉽지만 이제는 스마트폰으로 메신저를 하듯 인공지능을 쓰는 우리 모두가 보안의 최전선에 서 있습니다. 생성형 인공지능 보안이라는 낯선 개념이 왜 우리에게 꼭 필요한지 지금부터 하나씩 살펴보겠습니다.

익숙한 편리함 뒤에 숨겨진 인공지능 보안의 실체

생성형 인공지능이 가져오는 보안 위험은 기존의 컴퓨터 바이러스나 해킹과는 결이 조금 다릅니다. 시스템의 허점을 파고드는 기술적인 공격뿐만 아니라 인간의 심리와 습관을 파고드는 위험이 훨씬 많기 때문입니다. 우리가 무심코 던지는 질문 하나가 인공지능의 학습 데이터로 고스란히 흡수되어 엉뚱한 곳에서 튀어나올 수 있다는 사실을 아는 사람은 드뭅니다.

가장 흔하게 일어나는 일은 직장에서의 정보 유출입니다. 오늘 야근을 하다가 머리가 아파서 회사에서 진행 중인 신제품 개발 계획서를 복사해 인공지능에 넣고 요약해달라고 부탁했다고 가정해봅시다. 나 혼자 편리하게 쓰려고 한 행동이지만 이 데이터는 그대로 인공지능 개발사의 서버로 전송됩니다. 만약 이 서버에 보안 구멍이 생기거나 다른 사용자가 우연히 비슷한 질문을 던졌을 때 우리 회사의 일급비밀이 엉뚱한 사람의 화면에 답으로 나타날 수도 있습니다. 편리함이라는 달콤한 사과를 베어 물다가 회사 문을 통째로 열어주는 셈입니다.

우리가 흔히 오해하는 인공지능 보안에 관한 진실

인공지능 보안에 대해 사람들은 대개 두 가지 극단적인 오해를 합니다. 하나는 인공지능이 알아서 내 개인정보를 지켜줄 것이라는 믿음이고 다른 하나는 내가 쓰는 소소한 질문 따위는 아무도 관심 없을 것이라는 방심입니다.

인공지능은 스스로 무엇이 비밀이고 무엇이 공개 정보인지 구분하지 못합니다. 우리가 주는 정보가 비밀 문서인지 만인이 보는 일기장인지 모른 채 그냥 입력된 텍스트로만 받아들입니다. 유명한 인공지능 서비스에 가입할 때 무심코 동의했던 약관을 떠올려보세요. 우리가 입력한 내용은 서비스 개선이라는 명목으로 인공지능을 더 똑똑하게 만드는 데 사용됩니다. 즉 내가 입력한 비밀번호나 고객 정보가 다른 누군가의 질문에 대한 대답의 재료로 쓰일 수 있다는 뜻입니다.

또한 인공지능이 만들어낸 정보는 언제나 정확하고 안전할 것이라는 믿음도 위험합니다. 인공지능은 가끔씩 아주 태연하게 거짓말을 합니다. 이를 환각 현상이라고 부르는데 보안 분야에서는 이 점을 악용해 가짜 보안 지침이나 악성코드를 품은 코드를 정상적인 것처럼 추천하게 유도하기도 합니다. 인공지능이 짜준 프로그래밍 코드를 검증 없이 그대로 가져다 썼다가 서버 전체가 마비되는 사태가 벌어지는 이유도 여기에 있습니다.

일상과 업무에서 마주하는 대표적인 보안 위협 유형

인공지능을 둘러싼 보안 위협은 그 형태가 매우 다양하며 이미 우리 주변 깊숙이 스며들어 있습니다. 어떤 위험들이 도사리고 있는지 유형별로 나누어 보면 다음과 같습니다.

• 프롬프트 인젝션 공격은 악의적인 사용자가 인공지능의 보호 장치를 우회하도록 명령어를 조작해 숨겨진 정보를 빼내거나 해로운 행동을 유도하는 수법입니다.

• 데이터 프라이버시 침해는 사용자가 무심코 입력한 개인정보나 기업의 영업비밀이 인공지능 학습 과정에 포함되거나 외부로 유출되는 문제입니다.
• 딥페이크를 이용한 신종 피싱은 목소리나 얼굴을 완벽하게 흉내 내어 가족이나 직장 상사로 위장해 송금을 요구하는 정교한 사기 수법입니다.
• 독성 데이터 주입은 인공지능이 학습하는 과정에 편향되거나 악의적인 정보를 의도적으로 주입해 인공지능이 차별적이거나 위험한 답변을 하도록 망가뜨리는 것입니다.
• 취약한 서드파티 연동은 안전성이 검증되지 않은 인공지능 플러그인이나 확장 프로그램을 설치했다가 스마트폰이나 PC의 권한을 통째로 탈취당하는 위험입니다.

안전하고 스마트하게 인공지능을 활용하는 실천 지침

위험성이 도사리고 있다고 해서 놀라서 인공지능을 멀리할 필요는 없습니다. 칼이 위험하다고 해서 요리를 포기할 수 없듯이 올바른 사용법만 익히면 생성형 인공지능은 우리의 강력하고 든든한 비서가 되어줍니다. 일상 속에서 바로 실천할 수 있는 유용한 보안 수칙들을 정리했습니다.

첫째, 인공지능과 대화할 때는 내 주민등록번호나 전화번호 그리고 회사 이름 같은 민감한 개인정보를 절대 입력하지 않는 습관을 들여야 합니다. 굳이 이름을 써야 한다면 홍길동 같은 가짜 이름을 넣고 내용을 익명화한 뒤에 물어보는 것이 좋습니다. 둘째, 회사 업무에 인공지능을 도입할 때는 반드시 사내 보안 지침을 확인해야 합니다. 요즘 많은 기업들은 데이터가 외부로 새 나가지 않는 프라이빗 인공지능 환경을 구축해 제공하므로 회사가 허용한 공식 도구만 사용하는 것이 안전합니다.

셋째, 인공지능이 내놓은 결과물은 언제나 크로스체크를 거쳐야 합니다. 특히 법률, 세무, 의료, 보안과 같이 전문적인 지식이 필요한 분야에서는 인공지능의 대답을 맹신하지 말고 반드시 전문가의 검증을 거치거나 원본 문서를 직접 찾아 확인하는 절차가 필수적입니다. 넷째, 인공지능 계정을 만들 때는 다른 사이트와 똑같은 비밀번호를 쓰지 말고 이중 인증 기능을 반드시 켜두어야 합니다. 계정 하나가 털리면 그동안 인공지능과 나누었던 모든 개인 대화 기록이 고스란히 유출될 수 있기 때문입니다.

전문가들이 귀띔하는 인공지능 시대의 보안 마인드셋

사이버 보안 전문가들은 인공지능 시대의 가장 강력한 방패는 기술이 아니라 바로 사용자들의 경각심이라고 입을 모아 말합니다. 기술은 날마다 눈부시게 진화하지만 결국 그 기술을 켜고 끄는 것은 인간이기 때문입니다. 해커들이 가장 노리는 약점은 시스템의 틈새가 아니라 사람의 방심입니다.

인공지능이 너무나 자연스럽게 사람처럼 대답을 건네다 보니 우리는 저도 모르게 상대방이 철저한 보안 시스템을 갖춘 인격체라고 착각하곤 합니다. 하지만 인공지능은 철저한 계산과 확률에 의해 움직이는 도구일 뿐입니다. 내가 건네는 모든 질문은 기록되고 분석될 수 있다는 전제를 항상 기억해야 합니다. 비밀을 지키고 싶다면 인공지능에게도 비밀을 털어놓지 않는 경계심이 필요합니다.

비용을 아끼면서도 보안을 지키는 현명한 활용법

보안을 강화한다고 해서 반드시 비싼 보안 프로그램을 사거나 복잡한 시스템을 구축해야 하는 것은 아닙니다. 일상에서 돈을 들이지 않고도 충분히 지갑을 지키고 정보를 보호할 수 있는 가성비 높은 방법들이 있습니다.

가장 먼저 할 일은 무료로 제공되는 인공지능 서비스의 설정 메뉴를 꼼꼼히 살펴보는 것입니다. 대부분의 대형 인공지능 플랫폼들은 사용자의 대화 기록이 학습에 활용되는 것을 원치 않을 경우 이를 끌 수 있는 옵션을 제공합니다. 설정 창에서 데이터 프라이버시 관련 항목을 찾아 학습 거부 기능을 켜두기만 해도 유출 위험을 크게 낮출 수 있습니다. 이는 추가 비용이 전혀 들지 않으면서도 보안 수준을 단번에 높이는 가장 효과적인 방법입니다.

또한 오픈소스 기반의 인공지능 모델을 내 컴퓨터에 직접 다운로드해 사용하는 방법도 있습니다. 컴퓨터 성능이 어느 정도 받쳐준다면 인터넷 서버를 거치지 않고 내 PC 안에서만 작동하는 인공지능을 구동할 수 있습니다. 이렇게 하면 데이터가 외부로 나갈 일이 원천적으로 차단되므로 기업의 기밀이나 민감한 개인 일기를 다룰 때 비용 부담 없이 완벽한 프라이버시를 누릴 수 있습니다.

인공지능 보안과 관련해 자주 묻는 질문들

인공지능 보안에 대해 사람들이 일상적으로 가장 많이 궁금해하는 내용들을 모았습니다.

질문: 무료로 쓰는 챗봇에 입력한 비밀번호도 해커가 볼 수 있나요?

답변: 해커가 실시간으로 당신의 화면을 훔쳐보는 것이 아니라 해당 서비스를 제공하는 회사의 서버에 데이터가 저장되는 과정에서 문제가 생길 수 있습니다. 서버가 해킹당하거나 관리자의 실수로 데이터가 노출될 경우 입력했던 정보가 유출될 위험이 충분히 존재합니다.

질문: 회사 업무를 할 때 인공지능을 아예 쓰지 않는 것이 안전한가요?

답변: 무조건 금지하는 것은 능사가 아닙니다. 업무 효율성을 엄청나게 높여주는 도구를 외면하기보다는 회사가 공식적으로 허용한 안전한 프로그램을 사용하고 민감한 개인정보나 미공개 재무 정보 등은 절대 입력하지 않는 원칙을 세우는 것이 현명합니다.

질문: 인공지능이 만들어준 코드를 그냥 쓰면 왜 위험한가요?

답변: 인공지능은 인터넷상에 떠도는 수많은 코드 조각을 조합해서 답변을 만듭니다. 그중에는 이미 보안 취약점이 발견되었거나 악성코드가 숨어 있는 오래된 코드가 섞여 있을 수 있어 철저한 검토 없이 실행하면 시스템 전체가 위험해질 수 있습니다.

질문: 딥페이크 보이스피싱인지 어떻게 구별할 수 있나요?

답변: 가족이나 지인에게 평소와 다르게 급하게 돈을 부치라는 연락이 오면 일단 전화를 끊어야 합니다. 그리고 상대방의 원래 번호로 다시 전화를 걸어 본인 확인을 거치거나 통화 중에 둘만 아는 질문을 던져 진짜인지 확인하는 습관을 가져야 합니다.