Podłącz model do kwantyzacji

ModelTrim łączy się z wybranym dostawcą AI, aby model mógł planować i pisać skrypty kwantyzujące, podczas gdy Shell wykonuje je na Twoim komputerze lub serwerze. W trybie Ask first zatwierdzasz każdą akcję zmieniającą pliki.

Wybierz źródło modelu

Chmurowy dostawca AI

Korzystaj z chmurowego dostawcy AI przez standardowy punkt końcowy API. Twoje polecenia i tekst plików opuszczają komputer, więc wrażliwe dane trafiają do tego dostawcy. Opcja ta nadaje się do złożonej logiki, gdy potrzebujesz silniejszego modelu niż wbudowany.

Lokalny model na PC

Uruchom model lokalnie na swoim komputerze. Przy lokalnym modelu polecenia i tekst plików nie są wysyłani do dostawcy, choć opcjonalne funkcje sieciowe, takie jak wyszukiwanie w sieci lub sprawdzanie aktualizacji, mogą nadal korzystać z sieci. Opcja ta nadaje się do pracy na danych wrażliwych, gdy wolisz pełną kontrolę nad środowiskiem. Zarządzasz zasobami sprzętowymi potrzebnymi do wnioskowania i wykonywania skryptów.

Model wbudowany

Użyj wbudowanego modelu do szybkich zadań bez konfigurowania zewnętrznych połączeń. Opcja ta jest gotowa do użycia bez Twojego własnego punktu końcowego.

Sprawdź jakość połączenia

Przycisk Test sprawdza połączenie z Twoim punktem końcowym. Pokazuje czas odpowiedzi i rozmiar okna kontekstowego. Pomaga to potwierdzić, że model jest gotowy do zadań kwantyzacji. Widzisz rzeczywiste metryki przed rozpoczęciem jakiejkolwiek pracy.

Wybierz model do zadań

Użyj większego modelu do złożonych refaktoryzacji i logiki. Użyj mniejszego modelu do drobnych edycji. Wysyłaj trudne kroki do większego modelu za pomocą run_on_model. Zapewnia to jakość przy trudnych decyzjach dotyczących kwantyzacji.

Jakość różni się w zależności od modelu i zadania. Zawsze przeglądaj różnice w trybie Ask first. Pozwala to zobaczyć zmiany przed ich zastosowaniem. Zachowujesz kontrolę nad każdą modyfikacją pliku.