nele.ai Wiki

Anbieter von KI-Modellen

nele.ai ist eine Plattform, die vielfältige generative Sprachmodelle von unterschiedlichen Anbietern bereitstellt. Aktuell gehören prominente Anbieter wie Microsoft Azure und OpenAI zu den verfügbaren Partnern. Durch ihre Partnerschaften bietet nele.ai das Generative Pretrained Transformer (GPT) Modell in den Versionen 3.5 und 4.0. Weitere KI-Modelle sind für die kommenden Monate geplant.

Ein wichtiger Unterschied zwischen den Anbietern besteht in der geographischen Lage ihrer Server. OpenAI hat Serverstandorte in den USA, während Microsoft Azure in Europa ansässig ist.

KI-Modelle

Die angebotenen GPT-Modelle sind in verschiedenen Token-Längen erhältlich, insbesondere 4k, 8k, 32k und 128k. Erforderlich ist hier ein Verständnis von Token: Diese sind als die kleinsten Einheiten von Wörtern zu verstehen. Sie gleichen Buchstaben eines Alphabets, die zu Wörtern, Sätzen und Geschichten kombiniert werden können. Ein Token ist somit die kleinste verarbeitbare Einheit für KI-Modelle wie GPT. Als Faustregel entsprechen 750 englische Wörter ca. 1.000 Token. Im Deutschen entsprechen 1.000 Token nur ca. 300 bis 350 Wörter.

Es ist zu bedenken, dass eine größere Token-Länge eine breitere Analyse und ein tieferes Kontextverständnis ermöglicht, obwohl sie auch mehr Ressourcen erfordert und somit höhere Kosten verursacht. GPT 4 kann Ihre Eingabe besser verstehen als GPT 3.5.

Verrechnung von KI-Modellen

Die Verrechnung von KI-Modellen bei nele.ai variiert je nach verwendeten KI-Modell und der Anzahl an Token bzw. Wörtern. Bei Sprachmodellen erfolgt die Abrechnung pro Token, während bei Bildmodellen der Preis beispielsweise von der gewünschten Bildauflösung abhängt. nele.ai hat ein flexibles und transparentes Preismodell eingeführt, das auf einer Credit-Basis beruht.

nele.ai bietet den besonderen Vorteil, dass es statt Lizenzen mit Fixkosten pro Nutzer und Monat die Abrechnung nach Nutzung anbietet. Das führt dazu, dass jeder Mitarbeitende eines Unternehmens grundsätzlich Zugriff erhalten kann, ohne dass pauschale Kosten entstehen. Mit dem Bewusstsein, dass der Bedarf an intensiver Nutzung von generativer KI bei den Mitarbeitenden eines Unternehmens variiert, garantieren wir nutzungsbasierte Kosten, die fair und gerecht sind.

Ein wichtiger Faktor in diesem Modell ist der KI-Volumen-Verbrauchsfaktor. Dieser beschreibt das Verhältnis der Kosten zum Credit-Verbrauch. Zum Beispiel beträgt der KI-Volumen-Verbrauchsfaktor des GPT-3.5-Modells etwa 0,04 im Vergleich zum Referenzmodell GPT 4 8k mit einem KI-Volumen-Verbrauchsfaktor in Höhe von 1. Dies macht es nur halb so teuer wie das größere GPT-3.5 32k-Modell, das einen Verbrauchsfaktor von ungefähr 0,08 hat. Durch diese Neuordnung können Kosten effektiv optimiert und Ressourcen besser verwaltet werden.

Darüber hinaus wird die Verwaltung der verfügbaren KI-Modelle und somit der anfallenden Kosten durch die Administrationsoberfläche (manage.nele.ai) von nele.ai erleichtert. Administratoren können einstellen, welche KI-Modelle für ihr Team verfügbar sind und auch ob einzelne Nutzer in der Nutzung des KI-Volumens eingeschränkt sind.