k6로 부하 걸어 SLO 지표 확인하기
일부러 느리게 만든 HTTP 서버에 k6 컨테이너로 부하를 걸어 응답 지연 p95, 에러율, 초당 요청 수가 어떻게 움직이는지 실측했다. 목표치를 threshold로 걸어두면 SLO 위반이 종료 코드로 떨어져 CI에서 자동으로 잡아낼 수 있다는 것까지 확인한 기록이다.
Blog
MoE 추론 정리
MoE의 총 파라미터와 활성 파라미터가 왜 다른지부터 짚고 top-k 라우팅과 공유 전문가 구성을 정리했다. Dense 대비 메모리와 연산의 트레이드오프도 표로 비교한다.
llama.cpp로 MoE와 Dense 추론 성능 비교하기
Apple Silicon에서 llama.cpp로 MoE 35B-A3B와 Dense 27B를 나란히 돌려봤다. prefill과 decode 속도, KV cache 크기, 양자화별 차이를 실측해 비교한 기록이다.
Service Mesh 정리
사이드카, 앰비언트, eBPF 세 가지 데이터 플레인 배치가 프록시 개수와 기능 범위를 어떻게 맞바꾸는지 비교했다. mTLS 처리 주체와 장애 반경을 기준으로 정리한 글이다.
kind에 Istio 앰비언트 올려 mTLS 확인하기
kind 단일 노드에 Istio 앰비언트를 설치해 mTLS 전환 전후의 패킷을 tcpdump로 대조했다. L4와 L7 인가 정책이 waypoint에 어떻게 의존하는지도 실측한 기록이다.
사내 Claude Code 게이트웨이 Claude Apps Gateway 구축 정리
개발자에게 API 키를 나눠주지 않고 Claude Code를 사내에 배포하는 자체 호스팅 게이트웨이를 정리했다. 사설 네트워크만 허용하는 제약에서 파생되는 AWS 구성과 배포 절차를 다룬다.
CloudTrail 네트워크 활동 이벤트 정리
VPC 엔드포인트를 지나는 API 호출을 기록하는 CloudTrail 네트워크 활동 이벤트를 정리했다. 이벤트 유형마다 갈리는 userIdentity.arn 지원 범위와 조건 평가 규칙도 비교한다.
MCP vs API 차이점 정리
기존 API가 AI 에이전트에 맞지 않는 이유와 MCP가 그 틈을 메우는 방식을 JSON-RPC 메시지 단위로 비교했다. 도구 탐색, 호출 규격, 변경 전파 관점으로 정리한 글이다.
partial 인덱스 seq scan 인시던트
DB CPU가 낮은데도 태스크가 15분마다 재시작되던 장애를 wait event로 추적했다. partial 인덱스의 함정을 찾아 인덱스 하나로 해결한 실전 기록이다.
AWS 고성능 네트워킹 정리
Nitro 기반의 향상된 네트워킹과 ENA의 SR-IOV 노출, ENA Express의 SRD 멀티패스, EFA의 OS bypass를 공식 스펙 기준으로 비교했다. GPUDirect RDMA 지원까지 정리한 글이다.