생성형 AI에 회사 기밀정보를 입력하면 왜 위험할까?

생성형 인공지능 시대의 편리함 뒤에 숨겨진 비밀

요즘 업무를 하거나 글을 쓸 때 챗지피티 같은 생성형 인공지능을 찾는 분들이 정말 많습니다. 질문을 던지면 단 몇 초 만에 훌륭한 답변을 내놓고 복잡한 보고서 초안까지 척척 작성해 주니 그야말로 신세계가 따로 없습니다. 업무 효율을 극적으로 높여주는 이 강력한 도구를 많은 직장인들이 매일같이 활용하고 있습니다.

하지만 이렇게 편리한 기능을 무심코 쓰다가 회사에 씻을 수 없는 타격을 주는 경우가 늘어나고 있습니다. 바로 우리가 입력하는 대화 내용이 인공지능 개발사의 서버로 그대로 전송되기 때문입니다. 내가 무심코 입력한 회사의 핵심 기술이나 고객 정보가 다른 사람의 질문에 대한 답변으로 유출될 수 있다는 사실을 아는 사람은 그리 많지 않습니다.

회사 정보를 입력했을 때 벌어지는 일

우리가 생성형 인공지능에 입력하는 모든 텍스트는 서비스 제공 기업의 데이터베이스에 차곡차곡 쌓이게 됩니다. 기업들은 이 데이터들을 모아서 인공지능의 성능을 더 똑똑하게 업그레이드하는 데 활용합니다. 즉, 내가 입력한 기밀정보가 전 세계의 다른 사용자가 질문할 때 튀어나올 수 있는 재료로 쓰이는 셈입니다.

실제로 유명 기업들에서는 직원들이 사내 소스코드를 인공지능에 넣고 오류 수정을 맡겼다가 내부 보안 코드가 그대로 외부로 유출된 사례가 발생했습니다. 영업 비밀이나 신제품 출시 일정 같은 민감한 내용도 마찬가지입니다. 한번 클라우드 서버로 넘어가 버린 정보는 사실상 회수하는 것이 불가능에 가깝기 때문에 각별한 주의가 필요합니다.

흔히 하는 오해와 진실

많은 사람들이 내가 유료 버전을 쓰고 있으니까 회사 정보가 안전할 것이라고 오해하곤 합니다. 물론 기업용 유료 서비스의 경우 일반 무료 버전보다 보안 정책이 훨씬 엄격한 것은 사실입니다. 사용자가 입력한 데이터를 인공지능 학습에 사용하지 않는 옵션을 제공하기도 합니다.

하지만 그렇다고 해서 완벽한 보안이 보장되는 것은 아닙니다. 유료 서비스를 이용하더라도 서비스 제공 업체의 서버에 데이터가 일시적으로 저장되기 때문에 해킹이나 내부 시스템 오류로 인한 유출 위험이 아예 사라지는 것은 아닙니다. 따라서 유료라는 이름표만 믿고 모든 기밀 문서를 무방비하게 입력하는 것은 대단히 위험한 행동입니다.

또 다른 오해는 개인 아이디로 로그인해서 쓰는 것과 회사 계정으로 쓰는 것이 차이가 없을 거라는 생각입니다. 회사에서 정식으로 도입한 기업용 솔루션이 아니라 개인 메일로 가입해서 쓰는 계정이라면, 회사의 보안 울타리 밖에서 움직이는 것이기 때문에 정보 보호 규정을 위반하는 상황이 될 수도 있습니다.

안전하게 생성형 인공지능을 활용하는 실천 방법

그렇다면 업무 효율을 포기하면서까지 인공지능을 쓰지 말아야 할까요? 그럴 필요는 전혀 없습니다. 몇 가지 간단한 원칙만 지키더라도 보안 사고를 예방하면서 유용하게 써먹을 수 있습니다.

• 문서의 핵심 기밀이나 고유 명사는 무조건 가상 이름으로 바꿉니다

• 숫자나 금액, 구체적인 날짜 등은 뭉뚱그려 익명화 처리를 합니다
• 사내 보안 규정과 인공지능 사용 지침을 반드시 숙지합니다
• 개인 계정 대신 보안 설정이 강화된 기업 전용 플랫폼을 이용합니다
• 소스코드나 재무 제표 같은 민감한 원본 데이터는 절대 입력하지 않습니다

예를 들어 우리 회사의 신제품 출시 계획을 검토하고 싶다면 제품명을 에이 프로젝트로 바꾸고 구체적인 출시 월은 지운 상태로 질문을 던져야 합니다. 이렇게 마스킹 작업을 거치면 인공지능의 뛰어난 분석 능력은 그대로 누리면서도 정보 유출의 위험은 원천 차단할 수 있습니다.

업무 환경에서 꼭 알아두어야 할 지침

회사를 다니는 직장인이라면 나 혼자 조심한다고 끝날 일이 아닙니다. 팀 전체가 인공지능 활용에 대한 명확한 가이드라인을 공유하는 것이 중요합니다. 어떤 정보를 넣어도 되고 어떤 정보는 절대 넣으면 안 되는지 기준을 세워야 합니다.

인사 평가 자료나 고객의 개인정보가 담긴 서류는 어떤 경우에도 입력 대상에서 제외해야 합니다. 반면에 일반적인 시장 동향 조사나 보편적인 문법 교정, 단순 번역 작업 등은 기밀과 무관하므로 마음껏 인공지능의 도움을 받아도 좋습니다. 데이터를 입력하기 전에 이 정보가 외부에 공개되어도 회사가 타격을 입지 않는지 일 초만 더 생각하는 습관이 가장 훌륭한 보안 백신입니다.

자주 묻는 질문과 명쾌한 답변

대화 기록 기능을 꺼두면 내가 입력한 내용이 저장되지 않나요?

대화 기록을 비활성화하면 사용자의 화면에는 기록이 남지 않고 학습에도 쓰이지 않는다고 광고하지만, 악의적인 공격이나 시스템 모니터링을 위해 일정 기간 서버에 임시 보관되는 경우가 많습니다. 따라서 기록을 끈다고 해서 기밀이 완전히 안전해진다고 맹신해서는 안 됩니다.

오픈소스 기반의 인공지능을 직접 설치해서 쓰면 안전할까요?

회사의 자체 서버나 내부망에 오픈소스 인공지능을 직접 구축해서 사용하는 방식은 외부로 데이터가 새어나갈 염려가 없기 때문에 가장 안전한 방법 중 하나입니다. 다만 이를 구축하고 유지 관리하는 데 전문 인력과 비용이 필요하므로 규모가 있는 기업에서 주로 채택하는 방식입니다.

제가 쓴 프롬프트가 법적인 문제로 이어질 수도 있나요?

만약 타사의 영업 비밀이나 특허에 관한 내용을 무단으로 입력했다가 그것이 우연히 외부로 노출되어 경쟁사에 들어가게 된다면, 영업비밀 침해 3자 제공 등의 법적 책임이나 사내 징계 사유가 될 수 있습니다. 기술의 편리함 뒤에는 항상 사용자 본인의 책임이 따른다는 점을 잊지 말아야 합니다.