Serge – LLaMA made easy ist eine einfache Möglichkeit selbst einen KI Chatsystem wie ChatGPT zu betreiben. Die Vorteile sind hier, dass ihr alle Daten auf eurem Server habt und es so offline nutzen sowie datenschutzkonform betreiben könnt. In dieser Anleitung zeige ich euch, wie ihr in wenigen Minuten mit Serge eine ChatGPT Alternative betreiben könnt. Dazu nutzen wir Docker, Docker Compose sowie Traefik.
Chatbot
LocalAI + Chatbot UI – KI Chatbot mittels Docker Compose und Traefik installieren
LocalAI ist eine einfache Möglichkeit selbst einen KI Chatsystem wie ChatGPT zu betreiben. Die Vorteile sind hier, dass ihr alle Daten auf eurem Server habt und es so offline nutzen sowie datenschutzkonform betreiben könnt. Zusätzlich nutzen wir noch Chatbot UI, welches uns eine grafische Oberfläche zur Verfügung stellt. Dazu nutzen wir Docker, Docker Compose sowie Traefik.
GPT4All – KI Chatbot unter Windows / Linux und MacOS installieren
GPT4All ist eine weitere Möglichkeit, wie ihr selbst einen KI Chatbot betreiben könnt. Im Gegensatz zu den anderen KI Anleitungen zeige ich euch hier, wie ihr den KI Bot direkt unter Windows / Linux und MacOS installieren könnt. Dies hat in der Regel einen Performance Vorteil gegenüber einem (schwachen) vServer. Die Bilder der Anleitung beziehen sich alle auf die Windows Version. Die Installer für die verschiedenen Betriebssysteme bekommt ihr alle direkt beim Entwickler.