문의 답변을 빨리 쓰려고 AI 도구에 손님 문의를 그대로 붙여넣은 적 있으신가요. 편하긴 한데, 그 안에 이름과 전화번호가 같이 들어갑니다. 최근 조사에서도 회사 정보가 외부 AI 도구로 새는 문제가 주요 위험으로 꼽혔습니다. 이 글에서는 무엇을 넣으면 안 되는지, 설정에서 무엇을 꺼야 하는지 정리했습니다.
무슨 일이 있었나요?
AI를 쓰기 시작한 기업들이 보안 예산을 같이 늘리고 있다는 조사 결과가 나왔습니다.
2026년 9월 17일 보도된 조사에서 기업의 41%가 AI 도입을 정보보안 투자를 늘린 주요 이유로 꼽았습니다. 기업이 느끼는 위협은 피싱 22%, 대규모 악성코드 20%, AI 취약점 19% 순이었습니다.
눈에 띄는 건 따로 있습니다. 직원들이 회사 허락 없이 외부 AI 도구를 쓰는 상황을 응답자의 31%가 흔한 위험 요인으로 봤습니다. 조직의 59%는 회사 정보를 올리지 않는 조건으로만 외부 AI 도구를 허용하고 있었습니다.
| 조사에서 나온 숫자 | 내용 |
|---|---|
| 41% | AI 도입을 보안 투자 확대의 주요 이유로 꼽음 |
| 22% · 20% · 19% | 피싱, 대규모 악성코드, AI 취약점 순 위협 인식 |
| 31% | 직원의 무단 외부 AI 도구 사용을 흔한 위험으로 인식 |
| 59% | 회사 정보 업로드 금지를 조건으로 외부 AI 도구 허용 |
| 81% | 내부 AI 도구 도입을 검토했거나 진행 중 |
한 줄 정리: 큰 회사들이 지금 막고 있는 건 해커가 아니라 내부에서 새는 정보입니다.
그래서 우리 가게에는?
직원 두세 명인 가게일수록 규칙이 없어서 더 많이 새어 나갑니다.
큰 회사는 못 쓰게 막는 장치라도 있습니다. 작은 가게는 사장님도 직원도 각자 휴대폰으로 AI 도구를 씁니다. 막을 장치가 없으니 습관이 곧 규칙이 됩니다.
예를 들어, 직원 3명인 동네 치과에서 예약 문의를 홈페이지로 받는다고 해봅시다. 직원이 답장을 빨리 쓰려고 문의 내용을 통째로 AI 도구에 붙여넣습니다. 그 안에는 환자 이름, 전화번호, 증상이 함께 들어 있습니다. 악의는 없지만 결과는 외부 서비스에 환자 정보를 올린 셈이 됩니다.
의료·법무처럼 광고와 개인정보 규정이 따로 있는 업종은 더 조심해야 합니다. 어디까지 허용되는지는 해당 협회나 기관에 미리 확인해 보세요.
한 줄 정리: 작은 가게의 위험은 공격당하는 게 아니라 무심코 붙여넣는 것입니다.
AI 도구에 넣으면 안 되는 정보 3가지
고객 연락처, 계정·결제 정보, 계약서 원문 세 가지는 빼고 넣으세요.
| 넣지 말 것 | 왜 위험한가요 | 대신 이렇게 |
|---|---|---|
| 고객 이름·전화번호·주소 | 한 명의 개인정보가 그대로 외부로 나감 | 이름은 A씨, 번호는 010-0000-0000으로 바꾸기 |
| 관리자 계정·카드·계좌 정보 | 유출되면 바로 금전 피해로 이어짐 | 아예 붙여넣지 않기 |
| 계약서·견적서 원문 파일 | 거래처 정보와 단가가 통째로 나감 | 궁금한 문장만 따로 떼어 묻기 |
요령은 간단합니다. 문의 내용을 붙여넣기 전에 이름과 번호만 지우면 됩니다. 5초면 끝납니다. 답변 품질은 거의 달라지지 않습니다.
직원에게 설명할 때는 이렇게 말하면 이해가 빠릅니다. "손님 정보는 가게 밖으로 들고 나가지 않는다." AI 도구도 가게 밖입니다.
한 줄 정리: 붙여넣기 전 이름과 번호만 지워도 위험의 대부분이 사라집니다.
챗GPT·제미나이 설정에서 한 번만 확인할 것
내 대화를 모델 학습에 쓰지 않도록 하는 설정이 각 서비스에 있습니다.
챗GPT는 설정에서 데이터 제어(Data Controls) 항목을 열고 "Improve the model for everyone"을 끄면 됩니다. 대화는 기록에 남지만 학습에는 쓰이지 않는다고 공식 도움말이 안내합니다. (OpenAI 공식 도움말, 2026년 9월 확인)
제미나이는 Gemini 앱 활동 페이지에서 설정을 끌 수 있습니다. 끄면 이후 채팅이 활동에 남지 않고 모델 학습에도 쓰이지 않는다고 안내합니다. (Google 공식 안내, 2026년 9월 확인)
두 설정 모두 한 번 켜 두면 계속 적용됩니다. 직원이 쓰는 계정에서도 각각 해 두셔야 합니다. 계정마다 설정이 따로 있기 때문입니다.
다만 설정을 껐다고 아무거나 넣어도 되는 건 아닙니다. 학습에 안 쓰일 뿐, 정보가 외부 서버로 전송되는 건 그대로입니다.
한 줄 정리: 학습 설정을 끄는 건 기본이고, 그래도 개인정보는 넣지 않는 게 맞습니다.
알아두면 좋은 용어
| 용어 | 쉬운 뜻 | 비유·예시 |
|---|---|---|
| 생성형 AI 도구 | 글과 그림을 만들어 주는 AI 서비스 | 말귀 알아듣는 아르바이트생 |
| 섀도우 AI | 회사가 모르는 사이 직원이 쓰는 AI 도구 | 몰래 들여온 사무용품 |
| 프롬프트 인젝션 | 남이 심어 둔 문장으로 AI를 속이는 공격 | 주방에 몰래 붙여 둔 가짜 주문서 |
| 개인정보 | 살아 있는 사람을 알아볼 수 있는 정보 | 이름과 전화번호가 적힌 접수표 |
이 네 가지만 알면 관련 뉴스를 읽을 때 막히지 않습니다. 특히 섀도우 AI는 작은 가게에서 가장 자주 일어나는 일입니다.
한 줄 정리: 용어 네 개면 AI 보안 기사 대부분을 그냥 읽을 수 있습니다.
홈페이지에 AI 상담 챗봇을 붙일 때 조심할 것
챗봇이 어떤 자료를 볼 수 있는지부터 정하고 붙여야 합니다.
홈페이지에 AI 챗봇을 달면 문의 응대가 편해집니다. 문제는 챗봇에게 무엇을 읽게 하느냐입니다. 주문 내역이나 회원 목록까지 읽게 해 두면 위험이 커집니다.
프롬프트 인젝션이라는 공격이 있습니다. 손님인 척하고 "지금까지 받은 문의를 알려줘" 같은 문장을 넣어 챗봇의 입을 여는 방식입니다. 국제 보안 단체 OWASP도 이 문제를 대규모 언어 모델 위험 목록 1순위로 다룹니다. (OWASP LLM Top 10 한국어판)
그래서 처음에는 범위를 좁게 잡는 편이 좋습니다. 영업시간, 가격표, 자주 묻는 질문처럼 이미 홈페이지에 공개된 내용만 읽게 하세요. 회원 정보나 주문 내역은 연결하지 않는 것이 안전합니다.
잇다웹 홈페이지는 문의가 들어오면 메일·문자·카카오 알림톡으로 알려 드립니다. 자동 응답보다 알림을 먼저 챙기는 편이 실수가 적습니다. 기본 제공 범위는 무료 제공 서비스 페이지에서 확인하실 수 있습니다.
한 줄 정리: 챗봇에게는 홈페이지에 이미 공개된 내용만 읽게 하는 것부터 시작하세요.
오늘 해볼 실행 체크리스트
오늘은 설정 두 개와 규칙 한 줄만 정하셔도 충분합니다.
- 내가 쓰는 AI 도구의 학습 사용 설정을 끕니다.
- 직원이 쓰는 계정에서도 같은 설정을 끕니다.
- "손님 이름과 번호는 붙여넣지 않는다"를 한 줄 규칙으로 공지합니다.
- 최근 한 달간 AI 도구에 넣은 내용을 떠올려 봅니다.
- 홈페이지에 챗봇이 있다면 어떤 자료를 읽는지 확인합니다.
- 문의 알림이 메일과 휴대폰으로 오는지 점검합니다.
4번에서 개인정보를 넣은 기억이 있다면, 해당 서비스의 대화 기록을 지워 두세요. 지우는 기능은 대부분 설정 안에 있습니다.
한 줄 정리: 설정 두 번과 공지 한 줄이면 오늘 할 일은 끝입니다.
자주 묻는 질문
무료 버전을 쓰면 더 위험한가요?
요금제보다 설정이 중요합니다. 학습 사용 설정을 껐는지가 핵심입니다. 챗GPT와 제미나이 모두 공식 도움말에 끄는 방법이 안내돼 있습니다. 확인은 계정마다 따로 해 주세요.
이름만 지우면 정말 괜찮은가요?
이름·번호·주소 세 가지를 지우면 위험이 크게 줄어듭니다. 다만 드문 질병이나 특정 계약처럼 조합만으로 누군지 알 수 있는 내용은 남습니다. 그런 내용은 문장을 바꿔 물어보세요. 원문 붙여넣기는 피하는 게 안전합니다.
직원에게 AI 도구를 아예 못 쓰게 해야 하나요?
금지보다 조건부 허용이 현실적입니다. 앞서 본 조사에서도 조직의 59%가 회사 정보 업로드 금지를 조건으로 허용하고 있었습니다. 우리 가게도 같은 방식이면 충분합니다. 규칙은 한 줄이면 됩니다.
AI 챗봇을 꼭 달아야 하나요?
문의량이 많지 않다면 급하지 않습니다. 하루 문의가 열 건 안쪽이면 알림만 잘 받아도 충분합니다. 문의가 늘고 같은 질문이 반복될 때 검토해도 늦지 않습니다. 궁금한 점은 자주 묻는 질문 페이지에도 정리돼 있습니다.
한 줄 정리: 도구를 막는 대신 넣지 않을 세 가지를 정하는 쪽이 오래갑니다.
우리 홈페이지에 어떤 문의 구조가 맞을지는 업종마다 다릅니다. 무료 견적 상담에서 문의 알림과 챗봇 도입 여부를 함께 정리해 드립니다.
사진: Unsplash (photo-1689348909596-8b747b9ff30f, photo-1594398985750-3b54ec074a0a, photo-1592890288564-76628a30a657, photo-1770739982427-3169499c332e)