Modele językowe dużej skali (LLMs) to zaawansowane systemy AI szkolone do generowania odpowiedzi podobnych do ludzkich. Asystent AI Brave, Leo, oferuje użytkownikom opcje wyboru odpowiedniego modelu i konfiguracji modelu zgodnie z ich potrzebami dotyczącymi prywatności i funkcjonalności. Te LLMs obejmują najnowsze modele Qwen, modele Llama Meta i modele Mixtral AI Mistral, które Brave hostuje samodzielnie przez naszą bezpieczną infrastrukturę, jak również najnowsze modele innych firm, takie jak modele Claude Haiku i Claude Sonnet firmy Anthropic, obsługiwane przez serwery Anthropic. Chociaż modele mają różne możliwości, Brave zapewnia prywatność użytkowników niezależnie od tego, który model jest używany i jak jest obsługiwany.

Wyjaśnienie LLMs

Większe modele, takie jak Qwen i Llama, mają więcej parametrów i większą złożoność, co pozwala im realizować bardziej skomplikowane zadania, ale również wymaga więcej mocy obliczeniowej do efektywnego działania. Modele szkolone na różnorodnych danych, takie jak Claude Sonnet, mają szeroką wiedzę, podczas gdy wyspecjalizowane modele, takie jak Claude Haiku, mają ekspertyzę w specyficznych dziedzinach, takich jak kodowanie lub analiza prawna. Niektóre LLMs są doskonałe w generowaniu tekstu, podczas gdy inne lepiej radzą sobie z zadaniami odpowiadania na pytania lub analizą danych. Szybkość zależy od wielkości modelu, mocy infrastruktury uruchamiającej model, technik optymalizacji, ilości przetwarzanej treści oraz złożoności żądania.

Ważne jest, że gdy Brave udostępnia jeden z naszych samodzielnie hostowanych LLMs, nie następuje wymiana danych między Brave a twórcą modelu. Na przykład Llama w Brave Leo jest zarządzana i obsługiwana wyłącznie przez Brave w bezpiecznych środowiskach, całkowicie niezależnie od twórcy modelu, Meta. Brave również zapewnia ochronę twoich danych, gdy modele są obsługiwane przez zewnętrzne podmioty. Anthropic, na przykład, nie może używać danych użytkowników Brave Leo do celów szkoleniowych, a dane użytkowników nie mogą być przechowywane dłużej niż 30 dni.

Brave Leo oferuje opcje wyboru odpowiedniego modelu do twoich wymagań. Możesz użyć domyślnego modelu hostowanego przez Brave, ręcznie wybrać modele zewnętrzne obsługiwane przez firmy trzecie, lub, dla zaawansowanych użytkowników, podłączyć Leo do swojego własnego modelu.

Modele hostowane przez Brave

Domyślny model w Brave Leo jest hostowany przez Brave. Z modelami hostowanymi przez Brave:

• Twój adres IP jest ukrywany przed serwerami Brave za pomocą odwrotnego proxy. Adresy IP są przechowywane tylko przez krótki okres.
• Twoje rozmowy nie są przechowywane ani rejestrowane przez Brave po wygenerowaniu odpowiedzi. Nie są przechowywane żadne dane osobowe ani transkrypty rozmów. A twoje rozmowy nie są wykorzystywane do celów szkoleniowych modeli.
• Dane rozmów są natychmiast usuwane z serwerów Brave po zakończeniu sesji czatu. Lokalne dane rozmów przechowywane na twoim urządzeniu mogą być usunięte w Ustawieniach poprzez wybór opcji „Wyczyść dane Leo”

Modele hostowane przez Brave będą zmieniać się co jakiś czas, zazwyczaj będą to otwarte LLMs uruchamiane w środowiskach zarządzanych za pomocą bezpiecznej infrastruktury Brave.

Modele hostowane zewnętrznie

Niektóre zaawansowane modele dostępne w Brave Leo są hostowane i obsługiwane zewnętrznie przez firmy partnerskie w ramach umów zapewniających ochronę prywatności. Aby uzyskać dostęp do tych modeli, użytkownicy mogą ręcznie wybrać je na stronie ustawień Leo.

Korzystając z modelu hostowanego zewnętrznie:

• Ukrywamy twój adres IP przed zewnętrznym hostem za pomocą odwrotnego proxy dla zwiększenia anonimowości. Adresy IP są przechowywane tylko przez krótki okres.
• Dane konwersacji są przechowywane przez stronę trzecią przez ograniczony czas określony w naszej polityce prywatności, nie dłużej niż 30 dni. Dane nie są wykorzystywane do trenowania modeli AI.
• Lokalne dane konwersacji przechowywane na twoim urządzeniu mogą zostać usunięte w Ustawieniach poprzez wybranie opcji „Usuń dane Leo”

Modele hostowane zewnętrznie używane w produktach Brave będą serwowane przez dostawców LLM na ich własnych serwerach. Aktualnie, Brave zapewnia dostęp do najnowszych modeli Claude od Anthropic, w tym zarówno Haiku, jak i Sonnet.

Wybór modeli

Panel Leo zawiera ikonę koła zębatego w nagłówku, gdzie można zmienić Ustawienia. Zobaczysz opcje dotyczące Modeli Językowych, które możesz wybrać lub zdecydować się kontynuować z domyślnym modelem.

Możesz także otworzyć zaawansowane ustawienia, które przeniosą cię do brave://settings/leo-assistant, gdzie możesz wybrać model, który chcesz używać domyślnie za każdym razem, gdy korzystasz z Leo.

Modele i funkcje dostępne w Brave Leo zależą od tego, czy używasz darmowej wersji, czy też masz subskrypcję Premium: