אפליקציות / פרודוקטיביות
Local AI
מודל שרץ אצלך בבית
Ollama מריץ מודלי שפה פתוחים על המכונה הזאת, ו-Open WebUI נותן להם ממשק צ'אט. שום דבר שאתה מקליד לא נשלח לשום מקום — וזו כל הנקודה לכל מה שלא היית מדביק באתר. מודלים קטנים שמישים על מעבד; מודלים גדולים צריכים כרטיס גרפי.
קטגוריהפרודוקטיביות
זיכרון~2GB
מודול
localaiהתקנה
פותחים את לוח הבקרה, מוצאים אותה ב-App Store ולוחצים Install. או מטרמינל על השרת:
sudo homebox install localaiאיפה פותחים אותה
| שירות | פורט | התחברות ראשונה |
|---|---|---|
| Open WebUI | :8181 | The first account you create becomes the admin. |
פותחים בכתובת של השרת עם הפורט הזה — לוח הבקרה מקשר אליה ישירות ברגע שהיא רצה.
כדאי לדעת
הטיפים הבאים מופיעים באנגלית, כפי שהם כתובים במודול.
- On 8181, not the 8090 the source uses — Beszel answers there. Two apps cannot share a port
- Start with a 3B or 7B model. On CPU those reply at reading speed; a 70B on CPU produces about a word every few seconds
- Models are large — a few gigabytes each — and live in the module's config directory on the system disk. Check you have room before pulling three
- The first account you create in Open WebUI becomes the admin, so make it before anything else on the network reaches the page