Phoenix

Phoenix Arize ist eine Open-Source-Plattform zur Beobachtung von KI, die entwickelt wurde, um Anwendungen von Sprachmodellen (LLM) zu verfolgen, zu bewerten und zu optimieren. Basierend auf OpenTelemetry ist sie anbieterunabhängig, frameworkunabhängig und sprachunabhängig. Dies bietet Flexibilität und umfassende Einsicht in die inneren Abläufe von KI- Anwendungen. Sie unterstützt die Bewertung vor der Bereitstellung und das Troubleshooting direkt von einem lokalen Computer, was sie ideal für Entwickler in frühen Phasen macht.

• Leistungsüberwachung
• Dashboards
• LLM-Bibliothek zur Bewertung
• Sichtbarkeit auf Span-Ebene
• Prompt-Spielplatz

• Troubleshooting von LLM-Anwendungen
• Optimierung von Prompt-Vorlagen
• Verringerung von Halluzinationen
• Bewertung der Relevanz von RAG
• Überwachung der KI-Leistung