회의에서 오가는 그 말들이 무슨 뜻인지
스탠드업, 화요일
팀장 지난주에 정산 모듈 절반을 에이전트 코딩으로 갈아엎었습니다. 이번 주엔 결제 쪽까지 통째로 맡겨 보려고요.
보안 담당 결제는 잠깐만요. 지난주에 코딩 에이전트가 남의 이슈 본문을 읽고 엉뚱한 걸 고치러 갔잖아요. 그게 프롬프트 인젝션이에요, 교과서 그대로.
팀장 가드레일 걸고, 배포는 사람이 누르게 두죠. 그리고 배포 전마다 eval 돌려서 어디서 무너지는지 보고요.
보안 담당 휴먼 인 더 루프요? 그 휴먼이 누군데요. 팀장님이요? 하루에 결재 서른 건 하시잖아요.
그런 말 하나하나가 내 언어와 배우는 언어로, 실제로 쓰이는 문장과 함께 있습니다.
카드 한 장에 있는 것
바이브 코딩과 AI 에이전트
한국어
프롬프트 인젝션
모델이 읽는 내용에 지시를 숨겨, 본래 과제를 무시하게 하거나 데이터를 흘리게 하는 공격.
페이지에 '이전 규칙을 무시하라'가 숨어 있어 에이전트가 하마터면 따를 뻔했다.
English
Prompt injection
An attack that hides instructions in content a model reads, tricking it into ignoring its original task or leaking data.
A web page said 'ignore prior rules' — an injection the agent almost obeyed.
- 용어
- 영어 짝
- 설명
- 실제 예문
- 용어 음성
들어는 봤던 그 말, 뜻은 여기 있습니다.
하루 몇 장씩, 한 장에 두 언어.
첫 실행부터 몇 가지 주제가 열려 있습니다. 주제마다 카드 150장. 가입은 필요 없습니다.
