Nightshift to warstwa tła DeepFellow, rozłożona na Server i Infra. Długie zadania nie obciążają ścieżki zapytań: Nightshift ustawia je w kolejce, przetwarza na Twojej infrastrukturze i odkłada wyniki tam, gdzie są potrzebne, więc w ciągu dnia odpowiedzi przychodzą szybko. Instalator konfiguruje go razem z Serverem.
Dlaczego to ważne:
Szybkie odpowiedzi w ciągu dnia
Ciężkie przetwarzanie czeka w kolejce, zamiast spowalniać odpowiedzi na pytania.
Wykorzystaj opłacone już GPU
Uruchamiaj zadania nocą, na tej samej mocy obliczeniowej, która w dzień odpowiada na pytania.
Model, który mówi Twoim językiem
Dostrajanie (fine-tuning) do Twojego słownictwa, na Twoim własnym sprzęcie.