Nahtlose Integration von KI und ML in Ihre Projekte
Hinweis: Diese Inhalte wurden mit Unterstützung von Künstlicher Intelligenz erstellt und redaktionell überprüft (Transparenzhinweis gemäß Art. 50 EU AI Act).
Nahtlose Integration von KI und ML in Ihre Projekte
Allgemeine Frameworks mit LLM Inferenzfunktionen
LLM-Inferenz-Engines
- vLLM
- Hugging Face Text Generation Inference (TGI)
- llama.cpp
- OpenVINO
- GGML - LLM-Inferenz-Engines
ML-Compiler
- Apache TVM
- Google MLIR (Multi-Level Intermediate Representation)
- TensorFlow XLA
- Meta Glow
- ONNX (Open Neural Network Exchange)
Webframework
- official Microsoft AI - Microsoft AI bietet eine Vielzahl von Tools und Diensten für die Entwicklung von KI-Anwendungen. Einsatzgebiet: KI-Modelle trainieren und bereitstellen, KI-Modelle in Anwendungen integrieren, KI-Modelle in der Cloud oder lokal ausführen.
- Microsoft AI
- official Spring AI - Spring AI bietet eine Vielzahl von Tools und Diensten für die Entwicklung von KI-Anwendungen. Einsatzgebiet: KI-Modelle trainieren und bereitstellen, KI-Modelle in Anwendungen integrieren, KI-Modelle in der Cloud oder lokal ausführen.
- Go AI wiki
- AI Studio google
Weblink
Hinweis: Diese Inhalte wurden mit Unterstützung von Künstlicher Intelligenz erstellt und redaktionell überprüft (Transparenzhinweis gemäß Art. 50 EU AI Act).