시스템 프롬프트란? 외부에 노출되면 어떤 문제가 생길까?
인공지능과 대화할 때 숨겨진 설계도를 이해하기 우리가 매일 사용하는 챗봇이나 인공지능 비서 뒤에는 보이지 않는 강력한 지침이 존재합니다. 인공지…
AI 보안
AI 탈옥(Jailbreak)이란? 프롬프트 인젝션과 차이 알아보기
인공지능 시대를 위협하는 보안의 허점 우리는 지금 인공지능이 일상이 된 시대에 살고 있습니다. 스마트폰 비서부터 업무를 도와주는 전문 챗봇까지 …
직접·간접 프롬프트 인젝션은 무엇이 다를까?
인공지능 시대를 위협하는 보이지 않는 손 요즘 우리는 인공지능과 대화하는 것이 아주 익숙한 일상이 되었습니다. 글을 쓰게 시키기도 하고 모르는 …
프롬프트 인젝션이란? 생성형 AI의 지시를 조작하는 공격 원리
생성형 AI 시대의 보이지 않는 위협 우리는 지금 인공지능이 일상의 많은 부분을 대신해 주는 놀라운 시대에 살고 있습니다. 질문을 던지면 몇 초…
AI 학습 데이터와 사용자 입력 데이터는 무엇이 다를까?
인공지능 시대를 살아가는 우리를 위한 데이터 이야기 요즘 우리는 매일같이 인공지능과 대화하고 인공지능이 만들어낸 결과물을 소비하며 살아가고 있습…
AI에 개인정보를 입력하면 어떤 보안 문제가 발생할까?
인공지능 시대의 편리함 뒤에 숨겨진 보안의 함정 요즘 인공지능 서비스를 이용하지 않는 사람을 찾아보기 힘들 정도로 AI는 우리 일상에 깊숙이 들…
생성형 AI에 회사 기밀정보를 입력하면 왜 위험할까?
생성형 인공지능 시대의 편리함 뒤에 숨겨진 비밀 요즘 업무를 하거나 글을 쓸 때 챗지피티 같은 생성형 인공지능을 찾는 분들이 정말 많습니다. 질…
프롬프트란 무엇인가? 입력한 정보는 AI에서 어떻게 처리될까?
인공지능 시대의 대화법 프롬프트의 모든 것 인공지능 서비스가 우리 일상에 깊숙이 들어와 있습니다. 글을 대신 쓰게 하고 복잡한 자료를 요약하며 …
LLM은 어떻게 작동할까? 보안을 이해하기 위한 대규모 언어모델의 원리
거대 언어 모델의 세계로 들어가는 문 스마트폰 화면을 두드려 인공지능과 대화하고, 몇 마디 지시사항만으로 복잡한 보고서나 감성적인 글을 완성하는…