Foto: Ionos SE
Der Karlsruher Cloud-Anbieter Ionos startet mit dem AI Model Hub eine Plattform zur Nutzung mehrerer generativer Open-Source-KI-Modelle von deutschen Rechenzentren aus. Kunden können die Modelle zur Generierung von Text oder Bildern per API in ihre eigenen Anwendungen integrieren. Als konkretes Anwendungsbeispiel nennt Ionos etwa KI-basierte Chatbots, die für den Kundenservice genutzt werden können.
Demokratisierung der KI
Das Ziel von Ionos sei es, "künstliche Intelligenz zu demokratisieren und diese Technologie auch kleinen und mittelständischen Unternehmen einfach und schnell zur Verfügung zu stellen", sagte CEO Achim Weiß bei der Vorstellung der neuen Plattform. Die Kunden könnten sich ganz auf die Integration von künstlicher Intelligenz in ihre spezifischen Anwendungen konzentrieren.
Außerdem müssten sie sich "weder um die komplexe Infrastruktur dahinter noch um Datensicherheit und digitale Souveränität kümmern - das übernimmt Ionos", so Weiß. Die verwendeten Daten blieben "ausschließlich in Deutschland sowie beim Anwender". Außerdem würden sie nicht genutzt, um die KI-Modelle weiter zu trainieren.
Die durch den Internetanbieter bereitgestellte API vereinfache die Bereitstellung und Skalierung der Dienste. Außerdem erfülle sie die Vorgaben von OpenAI, was eine Migration der Kunden von diesem und anderen Anbietern erleichtere. Dadurch, dass Ionos nur Open-Source-Modelle einsetze, verhindere man einen Vendor-Lock-in und reduziere die Abhängigkeit von einzelnen Herstellern.
Zum Start stehen von Meta die textgenerierenden Open-Source-Modelle Llama 3 8B Instruct, Llama 3 70B Instruct sowie Code Llama 13b Instruct HF zur Verfügung. Dazu kommen Mistral 7B Instruct v0.2 sowie Mixtral 8x7B von Mistral.AI.
Zur Bildgenerierung setzt Ionos auf Stable Diffusion XL von Stability.AI. Weitere Modelle sollen später hinzukommen. Es werde für die Kunden sogar möglich sein, eigene Modelle einzubinden. Bereits jetzt können eigene Dokumente über die Vektor-Datenbank ChromaDB hochgeladen werden, um die Ergebnisse der vorhandenen Sprachmodelle per Retrieval Augmented Generation (RAG) zu verbessern.
AI Model Hub ist ab sofort verfügbar. Die Abrechnung erfolgt auf Basis von "Token-per-Use". Die Kosten beginnen bei 0,15 Euro für eine Million Input-Token beziehungsweise 0,25 Euro für eine Million Output-Token.