LLM İzleme

LocalAI, Prometheus uyumlu metrikler sunarak sunucunuzdaki yapay zeka iş yüklerini izlemenizi sağlar. Bu yazıda Prometheus entegrasyonunu nasıl kuracağınızı ve önemli metrikleri nasıl takip edeceğinizi ele alıyoruz. Grafana ile görselleştirme ve uyarı kuralları oluşturma konularını da adım adım inceliyoruz.