2025/05 2

부하테스트 개념 및 작업 흐름 정리

처리량(throughput) -> 서버가 1초 안에 최대 수용가능한 요청수지연시간 (letency) -> 요청 응답시간부하테스트 주의점부하테스트를 할때는 부하테스트 하고자 하는 환경과 분리된 곳에서 하는 것이 좋다. 부하테스트 툴도 결국 컴퓨터 자원을 쓰기 때문에 타겟 서버의 부하를 트래킹 하기 힘들기 때문개인용 컴퓨터로 하면 안된다.개인용 컴퓨터는 컴퓨터 자체적으로 부하를 발생시킬 때 제한이 걸릴 때가 종종 있다. EC2 같은 클라우드서버 띄워서 사용하는 것을 권장.병목지점에 스로풋이 곧 전체 스로풋이라고 좀 보수적으로 보는 관점을 권장.적절한 부하 테스트 시간모니터링 환경에 맞게 최소 부하테스트 시간 설정프로덕션 환경과 비슷한 데이터 세팅부하테스트 흐름부하테스트 흐름 인식트래픽 예측에 대한 불확실성이..

카테고리 없음 2025.05.31

Google Cloud Model Armor 정리

Google Cloud에 Model Armor라는 서비스가 나왔습니다.최근 SK사태 (물론 AI관련 보안이슈는 아니였지만..)를 통해 보안에 대한 경각심이 일깨워지는 요즘... 재밌는 서비스가 있어서 정리해 봅니다.출처 : https://cloud.google.com/security-command-center/docs/model-armor-overview?hl=koModel Armor?Google Cloud의 Model Armor는 생성형 AI 애플리케이션의 보안과 안전성을 강화하기 위한 완전 관리형 서비스입니다. 이 서비스는 대규모 언어 모델(LLM)의 프롬프트와 응답을 분석하여 다양한 보안 및 안전 위험 요소를 탐지하고 차단합니다Model Armor의 주요 기능모델 및 클라우드 독립성Model Arm..

AI 2025.05.02