Large Language Models

Lokale Modelle

Die EGOTEC AG stellt für Ihre Kunden folgende Modelle zur Verfügung. Diese Modelle können wir auch für Sie in Ihrem eigenen Rechenzentrum betreiben. Auf Grund des self-hostings eignen sich diese Modelle auch für Intranet und Extranet Daten.

Llama3.1

Das Modell wird mit 8k Token Kontext betrieben.

wb_incandescent

Lizenz

Geben Sie den folgenden Satz im Inhalt der Chatbot-Seite ein:

Erstellt mit Meta Llama 3.1. Hosted von der EGOTEC AG in Deutschland im Rahmen der lalamo.cloud.

Datenschutz

Bei Verwendung des Llama3.1 Models erweitern Sie bitte Ihren Datenschutzhinweis auf Ihrer Website um folgenden Absatz:

Chatbot

Wir setzen das Model Llama3.1 von Meta ein. Die Server hierfür werden von der EGOTEC AG in Deutschland im Rahmen der lalamo.cloud betrieben. Es gelangen keine Daten an Dritte.

 

openai

Über openai können weitere Modelle angebunden werden, z.B.:

  • gpt-4o-mini
    128k Token Kontext
  • gpt-4o
    das größere Modell, fällt mit den 17-fachen Kosten zu buche, resp. 1/17 Kontigent

Es können weitere GPT Modelle benutzt werden.

wb_incandescent
  1. Bei der Verwendung von GPT wird keine IP des Users an openai übertragen.
  2. Aber alle Chunks, aus denen des LLM eine Antwort generiert, werden an GPT übertragen.
wb_incandescent

Datenschutz

Bei Verwendung eines openai Models erweitern Sie bitte Ihren Datenschutzhinweis auf Ihrer Website um folgenden Absatz:

Chatbot

Wir setzen GPT von openai als Sprachmodell ein. Ihre Fragen werden daher an openai übertragen. Die Übertragung erfolgt anonymisiert über unseren Server. Ihre IP Adresse wird nicht an openai weitergegeben.