개발 slecs

Claude API 직접 연동으로 AI 상담 품질과 속도 개선

목차

AI 폴백 로직 추가 및 하드코딩 셀렉터 학습 로직 보완

2026-03-27에 AI 상담 기능을 추가하거나 개선했음.

기존에 외부 서비스를 통하던 AI 상담을 Claude API 직접 호출 방식으로 전환했음. 응답 품질과 커스터마이징 자유도가 올라갔고, 중간 레이어가 없어지니 레이턴시도 줄었음.

기능 구조

사용자 질문
  → 내부 클래스 (API 호출)
    → Claude API (messages endpoint)
  → 응답 파싱
  → 채팅 UI 렌더링

보안 측면에서 몇 가지를 추가했음:
- 로그인 필수 처리
- 부적절 이용 시 경고 후 30분 정지 로직
- 경고/정지 횟수 DB 저장

AI 상담사 이름과 역할 소개 문구도 정리했음. 처음 접속 시 어떤 걸 물어볼 수 있는지 안내가 있어야 사용자가 어색하지 않게 쓸 수 있음.

FAQ 주입 방식

시스템 프롬프트에 FAQ 목록을 주입해서 자주 묻는 질문엔 일관된 답변이 나오게 함. FAQ는 DB나 파일에서 로드해서 주입하는 구조임.

다음

작업 규모는 크지 않았지만 운영 안정성을 위한 필요한 변경이었음. 이런 작은 수정들이 쌓여서 전체 시스템의 신뢰도를 높임.

운영 관점에서 본 Rate Limit

Rate Limit을 설정할 때 단순히 "얼마나 많이 막을 것인가"보다 중요한 건 "정상 사용자를 막지 않으면서 공격을 차단하는가"임. 너무 타이트하게 잡으면 정상 사용자가 피해를 보고, 너무 느슨하면 의미가 없음.

Redis의 슬라이딩 윈도우 방식은 고정 윈도우 대비 경계 구간 버스팅 공격에 강함. 단, Redis가 단일 장애점이 되지 않도록 연결 풀과 타임아웃 설정을 같이 챙겨야 함.

다음

댓글 0

첫 댓글 달아줘.