This post documents the process of using the Model Context Protocol (MCP) through LiteLLM's MCP server management features. It covers how to configure a test server, register it with LiteLLM, manage permissions, and forward requests.01. Configuring a Test MCP ServerWe will create a simple MCP server that accepts an organization (org) and repository (repo) name from a corporate GitHub instance an..
✅ Gemini offers various regions for each model. You can choose from the comprehensive "global" option to specific local regions close to your location, such as the US, Europe, or Asia. The issue, however, is that the specifications of the models provided can vary by region. In this test, we sent identical requests to different regions to compare response times and identify performance difference..
최근 다양한 배포 환경을 테스트하던 중, Argo Rollouts이 PodDisruptionBudgets (PDB)와 상호작용하는 과정에서 Kubernetes의 일반적인 Deployment와는 다르게 동작하는 흥미로운 이슈를 발견했습니다.특히 Pod가 재시작(Restart)되는 과정에서 겪은 문제상황과 그 원인을 분석한 내용을 정리해 보았습니다.테스트 환경비교를 위해 두 가지 환경을 구성했습니다. 두 환경 모두 replicas: 1, minAvailable: 1 이라는 타이트한 제약 조건을 가지고 있습니다.1. Standard Deployment & PDB일반적인 Kubernetes Deployment 환경입니다.deploy.yaml, pdb.yamlapiVersion: apps/v1kind: Deplo..
이 글은 Strimzi Kafka Connect에서 JMX Exporter가 기동되지 않아(Connection Refused) 문제를 겪었던 트러블슈팅 사례를 다룬다. 미리 공개하자면 원인은 Strimzi Operator와 커스텀 이미지 간의 버전 불일치였다.에러 메시지: curl: (7) Failed to connect to localhost port 9404: Connection refusedStrimzi Kafka Connect?StrimziKubernetes에서 Kafka, Kafka Connect, MirrorMaker 등을 CRD(Custom Resource Definition) 기반으로 관리하는 오퍼레이터이다.Pod, Service, 설정, 롤링 업데이트 등을 Kubernetes 네이티브 방..
This post summarizes the architecture of Langfuse, a detailed guide on experimenting with its core features (Tracing, Evaluation, Sessions, Prompts), and troubleshooting tips for self-hosting.Reference: Langfuse Self-Hosting ArchitectureArchitecture1) Langfuse WebMain Server Application: Provides both the UI and API.Responsibilities: Handles browser-based UI interactions and processes internal/e..
- Total
- Today
- Yesterday
- jmx exporter
- 맥북프로m1세팅
- prompt engineering
- k8s
- k8s job
- M1세팅
- k8s study
- 데몬셋
- litllme mcp
- Gemini PerformanceTest
- k8s스터디
- 맥북초기셋팅
- 쿠버네티스
- LLM Evaluation
- 맥북초기세팅
- Gemini Region Comparison
- langfuse
- kubectl
- synology nas router manual setup
- 맥북개발자세팅
- 맥북창정렬
- ArgoRollouts
- LLM Observability
- 데몬셋업데이트
- self-hosting
- 429 Too Many Request
- 쿠버네티스 기초
- sk브로드밴드 nas
- k8s pod
- LLM Ops
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 |