Open WebUI: privatni AI čet na vašem serveru
Jedan poznat prozor za čet za modele koje plaćate, sa nalozima za kolege i razgovorima sačuvanim na serveru koji iznajmljujete.
O aplikaciji Open WebUI
Open WebUI je veb interfejs otvorenog koda za velike jezičke modele. Izgleda i radi slično čet aplikacijama koje ljudi već poznaju, ali nije vezan za jednog dobavljača: povezujete API ključeve za OpenAI, Anthropic ili bilo koji servis kompatibilan sa OpenAI-jem, ili ga usmeravate na lokalnu Ollama instancu.
Pored četa nudi više korisničkih naloga sa ulogama, zajedničke upite, otpremanje fajlova sa pretragom dokumenata, pretragu veba i generisanje slika preko povezanih servisa. Jedan je od najaktivnijih samostalno hostovanih AI projekata na GitHub-u i dobro radi na telefonima kao veb aplikacija koja se instalira.
Timovi ga sami hostuju da bi svima omogućili pristup jakim modelima preko jednog firmenog ključa, bez posebnih pretplata po osobi, i da istorija četova ne bi bila u tuđim čet aplikacijama.
Za šta se koristi
Jedan AI čet za ceo tim
Kreirajte naloge za kolege i omogućite im da koriste iste povezane modele, a administrator odlučuje ko vidi koji model.
Poređenje modela jedan pored drugog
Pošaljite isti upit dvama modelima u jednom razgovoru i izaberite odgovor koji vam odgovara.
Pitanja o vašim fajlovima
Otpremite dokumenta u čet ili u kolekciju znanja i postavljajte pitanja o njihovom sadržaju.
Posle porudžbine
Open WebUI se instalira na vaš server pri prvom pokretanju. Dostupan je na http://adresa-servera:3000/ — port 3000 je za njega otvoren u zaštitnom zidu. Prijavite se imejlom i lozinkom prikazanim u Rivervo panelu; taj nalog je administratorski. Zatim dodajte API ključeve modela u administratorskim podešavanjima i kreirajte naloge za ostale korisnike.
Povezivanje dobavljača modela
Ovaj server pokreće Open WebUI bez lokalnih modela (ENABLE_OLLAMA_API: "false"): odgovori dolaze od dobavljača modela čije API ključeve dodate u Admin Panel → Settings → Connections, kao što je OpenAI ili bilo koji servis kompatibilan sa OpenAI-jem. Korišćenje plaćate direktno tim dobavljačima; ključevi ostaju na vašem serveru.
Vaš domen i HTTPS za Open WebUI
Podrazumevano Open WebUI odgovara na IP adresi servera preko običnog HTTP-a. Da biste mu dali naziv kao što je chat.vasdomen.rs sa sertifikatom, u svom DNS-u kreirajte A zapis za taj naziv koji pokazuje na IPv4 adresu servera, a zatim ispred njega postavite Caddy: Caddy sam pribavlja besplatan Let's Encrypt sertifikat i produžava ga. Komande ispod su za Ubuntu 24.04, na kome rade naši serveri za aplikacije.
U panelu otvorite TCP portove 80 i 443 u zaštitnom zidu servera: Caddy ih koristi da dobije Let's Encrypt sertifikat i da servira sajt.
apt install -y caddy
cat > /etc/caddy/Caddyfile <<'EOF'
chat.example.com {
reverse_proxy 127.0.0.1:3000
}
EOF
systemctl reload caddyKada domen proradi, port 3000 više nikome nije potreban: u /opt/open-webui/compose.yml promenite "3000:…" u "127.0.0.1:3000:…", pokrenite docker compose up -d i uklonite port 3000 iz zaštitnog zida. Open WebUI je tada dostupan samo preko HTTPS-a.
Ažuriranje Open WebUI-ja
Slike u /opt/open-webui/compose.yml su vezane za tačne verzije, pa obična komanda docker compose pull ponovo preuzima istu verziju. Za ažuriranje promenite verziju u redu image: na željenu (prvo pročitajte beleške o izdanju), a zatim preuzmite slike i ponovo kreirajte kontejnere. Podaci se nalaze u Docker volumenima i ostaju sačuvani.
cd /opt/open-webui
nano compose.yml # the new version in the image: line
docker compose pull
docker compose up -dRezervne kopije Open WebUI-ja
U panelu možete uključiti dnevne rezervne kopije celog servera (+20% cene paketa, čuva se poslednjih 7 kopija) i vratiti server iz bilo koje od njih. Ipak je korisno imati i kopiju podataka same aplikacije u fajlu: može da se prenese na drugi server ili vrati bez vraćanja svega ostalog.
Sve što Open WebUI čuva — korisnici, četovi, otpremljena dokumenta, podešavanja i API ključevi koje ste dodali — nalazi se u volumenu open-webui_open_webui:
cd /opt/open-webui && docker compose stop
docker run --rm -v open-webui_open_webui:/data -v /root:/backup alpine \
tar czf /backup/open-webui-$(date +%F).tgz -C /data .
docker compose startKako funkcioniše
- Izaberite Open WebUI na stranici za poručivanje servera i paket sa dovoljno memorije.
- Aplikacija se instalira na server pri prvom pokretanju, obično za nekoliko minuta.
- Otvorite server u panelu: tamo su adresa i pristupni podaci.