ilhae.ai

CHAPTER 01 · 7 / 7

AI 활용의 위험도 이해하자

『ChatGPT Work로 일하기』 제1장 새로운 세대의 ChatGPT 기초 지식 · 김재우 · 2026년 11월 23일

AI 에이전트를 쓸 때 알아야 할 위험 6가지를 정리합니다. 환각(할루시네이션), 저작권 등 권리 침해, 정보 유출, 오작동으로 인한 파일 덮어쓰기·삭제, 외부 공격, 예상하지 못한 고액 청구를 차례로 설명합니다.

여기서 다루는 것

  1. 위험 ① 환각(할루시네이션)
  2. 위험 ② 저작권 등 권리 침해
  3. 위험 ③ 정보 유출
  4. 위험 ④ 오작동과 파일 덮어쓰기·삭제
  5. 위험 ⑤ 외부 공격
  6. 위험 ⑥ 예상하지 못한 고액 청구

미리 읽기

지금까지는 AI 에이전트의 편리함을 중심으로 설명했습니다. 다만 기능이 편리하고 강력할수록 위험도 커질 수 있다는 점에 주의해야 합니다. 일반 ChatGPT가 승용차라면 ChatGPT Work는 경주용 자동차, Codex는 제트기와 같다고 비유할 수 있습니다. 더 빠르고 멀리 갈수록 다루는 데 지식과 기술이 필요합니다. 무엇이 위험한지도 모른 채 사용하는 것은 무면허로 고속도로를 달리는 것과 비슷합니다.

따라서 AI 에이전트를 활용하면서 발생할 수 있는 사고를 먼저 정리해 보겠습니다. 우선 일반 ChatGPT에도 공통으로 적용되는 기본적인 위험을 살펴본 뒤, AI 에이전트에서 새롭게 추가되는 위험을 설명합니다. 구체적인 안전 설정은 제2장에서 다루므로, 여기서는 무엇에 주의해야 하는지 이해해 주세요.

위험 ① 환각(할루시네이션)

첫 번째는 생성형 AI의 가장 기본적인 위험인 ‘환각’입니다. 영어로는 ‘Hallucination’이라고 하며, AI가 사실이 아닌 내용을 그럴듯하게 답하는 현상을 가리킵니다. 생성형 AI는 학습한 패턴을 바탕으로 확률적으로 문장을 생성하기 때문에 존재하지 않는 해설이나 뉴스를 사실처럼 만들어 내기도 합니다. 중요한 정보는 출처를 확인하고 사람이 다시 검토해야 합니다.

위험 ② 저작권 등 권리 침해

두 번째는 저작권 등 권리 침해입니다. AI가 생성한 글, 이미지, 자료가 의도치 않게 다른 사람의 저작물과 비슷해져 권리를 침해하는 경우가 있습니다. 다른 사람의 저작물을 학습한 AI가 이를 바탕으로 글이나 이미지를 생성하면서 유사한 결과물을 만들 가능성이 있기 때문입니다.

다른 사람과 공유하거나 회사 밖에 공개할 자료를 AI로 만들 때, 또는 결과물을 상업적으로 이용할 때는 특히 주의해야 합니다. 결과물을 사람이 확인하는 절차를 철저히 지키세요.

위험 ③ 정보 유출

세 번째는 개인정보나 기밀정보 유출입니다. 일반 ChatGPT에서도 주의해야 하지만, AI 에이전트는 다루는 기밀정보의 종류와 범위가 크게 늘어나므로 더 엄격한 관리가 필요합니다.

먼저 주의할 것은 채팅에 정보를 직접 입력하는 행동입니다. AI 에이전트를 활용하려면 일반 채팅보다 훨씬 많은 정보를 AI에 전달하게 됩니다. 개인용 요금제에서는 기본 설정상 입력한 내용이 모델 개선에 사용될 수 있습니다. 학습에 사용하지 않도록 설정하더라도 입력 내용이 서버로 전송된다는 사실은 달라지지 않고, 생성된 결과물이나 작업 기록에 해당 정보가 섞여 나갈 위험도 남습니다. 로그인 비밀번호나 외부 도구 연결에 사용하는 API 키 같은 인증정보를 채팅에 직접 입력해서는 안 됩니다.

특히 데스크톱 앱의 ChatGPT Work에서는 AI가 작업 폴더 안의 내용을 참고할 수 있다는 점에 주의해야 합니다. 비밀번호 메모나 고객 명단 같은 파일을 작업 폴더에 그대로 두면 AI가 이를 읽고 결과물이나 작업 기록에 써 넣을 수 있습니다. 플러그인으로 이메일과 회의록 등 사내 데이터에 연결하면 AI가 접근할 수 있는 기밀정보의 범위가 더 넓어집니다.

나머지 내용은 읽기 화면에서 이어서 볼 수 있어요.

이어서 읽기

ilhae.ai 안내 도우미대기 중

글자를 치면 사이트 자료를 바로 찾아요. AI 대화는 하루 20번까지이고, 질문 앞부분은 서비스 개선을 위해 30일 보관해요. 개인정보는 적지 마세요.