모델 추출 시뮬레이터

블랙박스 모델에서 정보를 추출하는 공격 시뮬레이션

고급

추출 설정

타겟 모델 정보

모델: Image Classifier

설명: ResNet-50 기반 이미지 분류 모델

파라미터: 25M

클래스: 1000

API 비용: $0.001/query

보호됨

모델 추출 방어 방법

예방 조치

  • • API 호출 제한 및 모니터링
  • • 쿼리 패턴 이상 탐지
  • • 출력 노이즈 추가
  • • 차등 프라이버시 적용

탐지 방법

  • • 비정상적 사용 패턴 감지
  • • 모델 워터마킹
  • • 허니팟 쿼리 삽입
  • • 사용자 행동 분석