This post documents the process of using the Model Context Protocol (MCP) through LiteLLM's MCP server management features. It covers how to configure a test server, register it with LiteLLM, manage permissions, and forward requests.01. Configuring a Test MCP ServerWe will create a simple MCP server that accepts an organization (org) and repository (repo) name from a corporate GitHub instance an..
✅ Gemini offers various regions for each model. You can choose from the comprehensive "global" option to specific local regions close to your location, such as the US, Europe, or Asia. The issue, however, is that the specifications of the models provided can vary by region. In this test, we sent identical requests to different regions to compare response times and identify performance difference..
최근 다양한 배포 환경을 테스트하던 중, Argo Rollouts이 PodDisruptionBudgets (PDB)와 상호작용하는 과정에서 Kubernetes의 일반적인 Deployment와는 다르게 동작하는 흥미로운 이슈를 발견했습니다.특히 Pod가 재시작(Restart)되는 과정에서 겪은 문제상황과 그 원인을 분석한 내용을 정리해 보았습니다.테스트 환경비교를 위해 두 가지 환경을 구성했습니다. 두 환경 모두 replicas: 1, minAvailable: 1 이라는 타이트한 제약 조건을 가지고 있습니다.1. Standard Deployment & PDB일반적인 Kubernetes Deployment 환경입니다.deploy.yaml, pdb.yamlapiVersion: apps/v1kind: Deplo..
- Total
- Today
- Yesterday
- sk브로드밴드 nas
- prompt engineering
- ArgoRollouts
- 데몬셋
- LLM Ops
- 맥북초기셋팅
- langfuse
- k8s
- 쿠버네티스 기초
- k8s pod
- 데몬셋업데이트
- k8s스터디
- k8s job
- LLM Observability
- 쿠버네티스
- 맥북초기세팅
- synology nas router manual setup
- 맥북개발자세팅
- Gemini Region Comparison
- LLM Evaluation
- k8s study
- 맥북프로m1세팅
- M1세팅
- Gemini PerformanceTest
- kubectl
- 맥북창정렬
- 429 Too Many Request
- jmx exporter
- litllme mcp
- self-hosting
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 |