Veliki jezični modeli (LLM-ovi) su napredni AI sustavi obučeni za generiranje odgovora sličnih ljudskim. Braveov AI Asistent, Leo, nudi opcije za korisnike kako bi odabrali odgovarajući model i konfiguraciju modela prema njihovim potrebama privatnosti i funkcionalnosti. Ti LLM-ovi uključuju Llama 3 od Meta-e i Mixtral modele od Mistral AI-a koje Brave samostalno hosta putem vlastite sigurne infrastrukture, kao i modele drugih tvrtki poput Claude 3 Haiku i Claude 3 Sonnet modela od Anthropic-a koji se poslužuju putem Anthropic-evih servera. Iako modeli imaju različite sposobnosti, Brave osigurava privatnost korisnika bez obzira na to koji se model koristi i kako se poslužuje.

LLM-ovi Objašnjeni

Veći modeli poput Llama 3 imaju više parametara i složenosti, što im omogućuje obavljanje složenijih zadataka, ali također zahtijeva više računalne snage za učinkovito pokretanje. Modeli obučeni na raznolikim podacima poput Claude 3 Sonnet-a imaju široko znanje, dok specijalizirani modeli poput Claude 3 Haiku imaju stručnost u domenama poput kodiranja ili pravne analize. Neki LLM-ovi su izvrsni u generiranju teksta, dok su drugi bolji u odgovaranju na pitanja ili zadacima analize podataka. Brzina će ovisiti o veličini modela, snazi infrastrukture koja pokreće model, tehnikama korištenim za optimizaciju, količini sadržaja koju obrađuje i složenosti zahtjeva.

Važno je napomenuti da kada Brave pruža pristup jednom od naših samohostiranih LLM-ova nema deljenja podataka između Brave-a i originalnog kreatora modela. Na primjer, Llama 3 u Brave Leo-u upravlja i radi isključivo Brave u sigurnim okruženjima, potpuno neovisno o kreatoru modela, Meta. Brave također osigurava da su vaši podaci zaštićeni kada se modeli poslužuju od strane trećih strana. Anthropic, na primjer, ne može koristiti podatke korisnika Brave Leo-a za potrebe obuke, a korisnički podaci se ne mogu čuvati dulje od 30 dana.

Brave Leo nudi opcije za odabir odgovarajućeg modela prema vašim zahtjevima. Možete koristiti Brave-hostiran zadani model, ručno odabrati eksterno hostirane modele trećih strana ili, za napredne korisnike, povezati Leo-a s vašim vlastitim modelom (uskoro dostupno…).

Brave-hostirani modeli

Zadani model u Brave Leo-u su Brave-hostirani. S Brave-hostiranim modelima:

• Vaša IP adresa je zamagljena Braveovim vlastitim serverima pomoću reverznog proxyja. IP adrese se zadržavaju samo kratko vrijeme.
• Vaši razgovori se ne pohranjuju niti logiraju od strane Brave-a nakon što se generira odgovor. Nema zadržavanja osobnih podataka ili transkripata razgovora. A vaši razgovori se ne koriste za potrebe obuke modela.
• Podaci o razgovoru se brišu iz Braveovih servera odmah nakon završetka sjednice chata. Lokalni podaci o razgovoru pohranjeni na vašem uređaju mogu se ukloniti u Postavkama odabirom opcije “Obriši Leo podatke”

Brave-hostirani modeli će se mijenjati s vremena na vrijeme, obično otvoreni LLM-ovi koji rade u okruženjima upravljenim Braveovom sigurnom infrastrukturom. Trenutno, Brave-hostirani modeli uključuju Mixtral model od Mistral AI-a i Llama 3 od Meta-e.

Eksterno-hostirani modeli

Neki napredni modeli dostupni u Brave Leo-u su hostirani i posluženi eksterno od strane partnerskih tvrtki na temelju ugovora koji osiguravaju zaštitu privatnosti. Za pristup tim modelima, korisnici ih mogu ručno odabrati sa stranice postavki Leo-a.

Kada koristite eksterno-hostirani model:

• Zamagljujemo vašu IP adresu od vanjskog hosta koristeći reverzni proxy radi dodatne anonimnosti. IP adrese se zadržavaju samo kratko vrijeme.
• Podaci o razgovoru koji se čuvaju kod treće strane zadržavaju se ograničeno vrijeme, kako je navedeno u našoj politici privatnosti, ne više od 30 dana. Podaci se ne koriste za treniranje AI modela.
• Lokalni podaci razgovora pohranjeni na vašem uređaju mogu se ukloniti u Postavkama opcijom “Izbriši Leo podatke”

Modeli koji se koriste u Brave proizvodima, a hostiraju se eksterno, bit će posluživani od strane LLM pružatelja usluga na njihovim vlastitim poslužiteljima. Trenutno, Brave pruža pristup Claude 3 modelima tvrtke Anthropic, uključujući Haiku i Sonnet.

Odabir modela

Leo panel uključuje ikonu zupčanika u zaglavlju gdje možete promijeniti Postavke. Vidjet ćete opcije za Jezične Modela koje možete odabrati ili nastaviti s zadanim modelom.

Također možete otvoriti napredne postavke koje će vas odvesti na brave://settings/leo-assistant gdje možete odabrati koji model želite koristiti kao zadani svaki put kada koristite Leo.

Modeli i značajke dostupni u Brave Leo ovise o tome koristite li besplatnu verziju ili imate premium pretplatu: