Platform Engineering
One Prometheus to Rule Them All: Multi-Tenancy Kubernetes with Centralized Monitoring and vCluster Private Nodes
Discover how platform teams can implement centralized metrics for multi-tenant Kubernetes using vCluster. This article walks through observability patterns for both regular vClusters and private-node vClusters, showing how a centralized Prometheus and Grafana stack can serve many isolated tenant clusters, laying the foundation for scalable, production-ready multi-tenant observability.
Entwicklung einer einheitlichen LLM API Plattform mit LiteLLM
Dieser Blog behandelt das Identifizieren der Vorteile und Herausforderungen einer Architektur mit mehreren LLM-Providern und wie diese mit der Open-Source-Software „LiteLLM“ gelöst werden können. Dazu werden die unterschiedlichen Features von LiteLLM vorgestellt und erklärt, warum das Zentralisieren von LLM-Providern das Verwalten von Benutzern, Berechtigungen und Kosten erleichtert. Dies führt zusätzlich zu einer kürzeren Entwicklungszeit für agentenbasierten Workflows and LLM-Applikationen.
Solving Kubernetes Multi-tenancy Challenges with vCluster
Erfahren Sie, wie vCluster die Einschränkungen der Mandantenfähigkeit von Kubernetes für interne Entwicklerplattformen durch die Erstellung isolierter virtueller Cluster innerhalb von Host-Umgebungen löst. Dieser technische Deep Dive untersucht, wie Plattformteams Benutzern die vollständige administrative Kontrolle über ihre Umgebungen ermöglichen und gleichzeitig eine angemessene Isolierung aufrechterhalten können – und damit die Ressourcenbeschränkungen auf Namespace-Ebene lösen, die typischerweise eine Herausforderung für mandantenfähige Architekturen darstellen. Erfahren Sie, wie vCluster Teams die Bereitstellung von clusterweiten Ressourcen wie CRDs ermöglicht und gleichzeitig die Sicherheit und Governance durch nahtlose Integration mit Sicherheitstools auf Host-Ebene gewährleistet.
Building an eBPF based Open-Source observability platform
In today's world maintaining Observability and understanding what is happening inside your system in near real-time is a challenging task. The complexity arises due to the distributed nature of Cloud Infrastructure and especially Microservice based Software that has multiple components that need to communicate between each other. Keeping track of this communication and the processes involved is time consuming to track on its own.
Using the extended Berkeley Packet Filter (eBPF) technology helps transform Observability itself by allowing deep, safe, and efficient instrumentation of running systems.
KubeCon + CloudNativeCon NA 2024 Recap
KubeCon + CloudNativeCon NA in Salt Lake City was a hot pot. In addition to many projects graduating within the Cloud Native Computing Foundation, the end users in the US often show how far you can be already in technology adoption if you are just a little bit more brave and curious. Also, the event was a strong statement that Platform Engineering is the foundation for GenAI.
