Feature Brave Leo's Bring Your Own Model (BYOM) omogućava vam spajanje vlastitih AI modela na Leo, bilo da rade lokalno na vašem uređaju ili su udaljeno hostani. Ovo vam omogućuje veću kontrolu nad vašim AI interakcijama uz održavanje Brave-ove predanosti privatnosti.

Što je BYOM?

BYOM je opcionalan način korištenja Lea koji vam omogućuje:

• Pokrenite lokalne AI modele izravno na svom uređaju, čuvajući svoje podatke privatnima
• Povežite se sa svojim udaljenim modelima krajnjih točaka
• Koristite API treće strane kao što je OpenAI's ChatGPT
• Održavajte kontrolu nad svojim AI interakcijama od kraja do kraja

Zahtjevi

Da biste koristili BYOM, trebat će vam:

• Brave preglednik verzija 1.69 ili viša
• Platforma za računala (Windows, macOS, ili Linux)
• Za lokalne modele: Kompatibilan okvir za posluživanje (npr., Ollama)
• Za udaljene modele: Valjane API akreditacije za vašu odabranu uslugu

Hardverski zahtjevi za lokalne modele

• Minimalno 8GB RAM
• Prostor za pohranu ovisno o odabranoj veličini modela (u rasponu od 829MB do 40GB)
• Dovoljna procesorska snaga za inferenciju modela

Odabir modela

Kada pokrećete modele lokalno, razmislite o korištenju modela koji odgovaraju vašim hardverskim mogućnostima i slučajevima upotrebe. Na primjer, LLama 3.2 modeli su optimizirani za višejezične dijaloge i zadatke sažimanja.

• Manji varijanti idealni za uređaje ograničenih resursa:
  • 3B varijanta (2.0GB)
    • Nadmašuje modele slične veličine u slijeđenju uputa, sažimanju i upotrebi alata
    • Dobro za zadatke opće namjene
  • 1B varijanta
    • Učinkovita za edge uređaje
    • Prikladna za zadatke osobnog upravljanja informacijama i prepravljanje
• Službeno podržava 8 jezika: engleski, njemački, francuski, talijanski, portugalski, hindi, španjolski i tajlandski
• Treniran na dodatnim jezicima izvan službeno podržanih

Pogledajte cijeli popis podržanih modela na Ollama's popis modela.

Postavljanje BYOM-a

Korištenje lokalnih modela

1. Prvo, postavite lokalni okvir za posluživanje modela. Na primjer, za korištenje Ollama:
   1. Posjetite https://ollama.com/download
   2. Preuzmite i instalirajte Ollama za svoju platformu
   3. Otvorite terminal i povucite željeni model (npr. ollama pull deepseek-r1)
2. Konfigurirajte Leo za korištenje vašeg lokalnog modela:
   1. Otvorite Brave postavke
   2. Navigirajte do Leo postavki
   3. Pomaknite se do Donesite vlastiti model odjeljka
   4. Kliknite Dodaj novi model
   5. Ispunite potrebna polja: 
      • Oznaka: Ime koje će se pojaviti u izborniku za odabir modela
      • Model zahtjev ime: Identifikator modela (npr. "deepseek-r1")
      • Server krajnja točka: Vaša lokalna krajnja točka (za Ollama, koristite http://localhost:11434/v1/chat/completions)
      • API ključ: Ostavite prazno ako vaš okvir to ne zahtijeva

Korištenje udaljenih modela

Da biste povezali Leo s udaljenim modelima ili API-ima treće strane (kao što je OpenAI's ChatGPT):

1. Dobijte svoje API vjerodajnice od svog odabranog pružatelja usluga
2. U Brave, Postavke > Leo > Donesite vlastiti model:
   • Kliknite Dodaj novi model
   • Ispunite detalje:
     • Oznaka: Vaše odabrano ime za model
     • Model zahtjev ime: Identifikator modela (npr. "gpt-4" za OpenAI)
     • Server krajnja točka: API krajnja točka (npr. https://api.openai.com/v1/chat/completions za OpenAI)
     • API ključ: Vaše vjerodajnice za autentifikaciju

Korištenje vašeg modela

Jednom kada je konfigurirano:

1. Otvorite Leo u pregledniku
2. Kliknite na izbornik za odabir modela
3. Odaberite svoj prilagođeni model s popisa
4. Počnite razgovarati sa svojim konfiguriranim modelom

Privatnost i sigurnost

Omogućavanje alternativnih modela pomoću značajke BYOM daje vam veću kontrolu nad vašim iskustvom i kako se vaši razgovori obrađuju, ali zaštita privatnosti će varirati. Zadane postavke Brave Leo osiguravaju da vaši podaci nisu pohranjeni, praćeni ili korišteni za obuku, i možete koristiti uslugu bez stvaranja računa (Pogledajte našu Politika privatnosti za više). Lokalni i udaljeni modeli trećih strana imat će različite karakteristike privatnosti.

Za lokalne modele

• Sav proces se odvija izravno na vašem uređaju
• Razgovori, web stranice i upiti nikada ne napuštaju vaš stroj
• Potpuna privatnost podataka za osjetljive informacije

Za udaljene modele (Važna obavijest o privatnosti)

Kada koristite BYOM s uslugama trećih strana poput OpenAI ili drugih udaljenih krajnjih točaka:

• Vaši podaci će biti podložni politikama privatnosti i praksama podataka treće strane
• Zaštite privatnosti Brave (poput obrnutog proxyja i politika zadržavanja podataka) ne vrijede
• Treća strana može:
  • Pohraniti vaše razgovore i unose
  • Koristiti vaše podatke za obuku modela
  • Dijeliti ili analizirati vaše podatke prema njihovim uvjetima
  • Imati različite razdoblja zadržavanja podataka
  • Obrađivati vaše podatke u raznim jurisdikcijama

Tehnička implementacija:

• Izravna veza između vašeg uređaja i krajnje točke modela
• Zahtjevi u potpunosti zaobilaze Braveove servere
• Brave nema pristup ili vidljivost u promet
• API vjerodajnice su sigurno pohranjene u vašem pregledniku
• Potpuna kontrola nad vašim podacima i interakcijama s modelom

💡 Važno: Prije korištenja modela treće strane, pregledajte njihovu politiku privatnosti i prakse rukovanja podacima. Nemojte predavati osjetljive osobne informacije, zdravstvene podatke, financijske detalje ili druge povjerljive informacije osim ako niste zadovoljni kako treća strana rukuje takvim podacima. Prije korištenja modela treće strane, pregledajte njihovu politiku privatnosti i prakse rukovanja podacima. Nemojte predavati osjetljive osobne informacije, zdravstvene podatke, financijske detalje ili druge povjerljive informacije osim ako niste zadovoljni kako treća strana rukuje takvim podacima.