La funzione Porta il tuo modello (BYOM) di Brave Leo ti permette di collegare i tuoi modelli di intelligenza artificiale a Leo, che siano in esecuzione localmente sul tuo dispositivo o ospitati in remoto. Questo ti dà più controllo sulle tue interazioni con l'IA mantenendo l'impegno di Brave per la privacy.

Che cosa è BYOM?

BYOM è un modo opzionale per usare Leo che ti permette di:

• Eseguire modelli di intelligenza artificiale locali direttamente sul tuo dispositivo, mantenendo i tuoi dati privati
• Collegare i tuoi endpoint di modello remoto
• Utilizzare API di terzi come ChatGPT di OpenAI
• Mantenere il controllo end-to-end delle tue interazioni con l'IA

Requisiti

Per utilizzare BYOM, avrai bisogno di:

• Versione di Brave Browser 1.69 o successiva
• Piattaforma desktop (Windows, macOS o Linux)
• Per modelli locali: Un framework di serving compatibile (ad es., Ollama)
• Per modelli remoti: Credenziali API valide per il servizio scelto

Requisiti hardware per i modelli locali

• Minimo 8GB di RAM
• Spazio di archiviazione a seconda della dimensione del modello scelto (da 829MB a 40GB)
• Potenza di elaborazione sufficiente per l'inferenza del modello

Selezione del modello

Quando esegui modelli localmente, considera di usare modelli che corrispondono alle capacità hardware e ai casi d'uso. Ad esempio, i modelli LLama 3.2 sono ottimizzati per dialoghi multilingue e compiti di riassunto.

• Varianti più piccole ideali per dispositivi con risorse limitate:
  • Variante da 3B (2,0GB)
    • Supera i modelli di dimensioni simili nel seguire istruzioni, riassumere e utilizzare strumenti
    • Buono per compiti generici
  • Variante da 1B
    • Efficiente per dispositivi edge
    • Adatto per la gestione delle informazioni personali e i compiti di riscrittura
• Supporta ufficialmente 8 lingue: Inglese, Tedesco, Francese, Italiano, Portoghese, Hindi, Spagnolo e Thai
• Addestrato su lingue aggiuntive oltre a quelle ufficialmente supportate

Visualizza l'elenco completo dei modelli supportati nella lista dei modelli di Ollama.

Impostare BYOM

Utilizzare i modelli locali

1. Per prima cosa, configura un framework per il serving di modelli locali. Ad esempio, per utilizzare Ollama:
   1. Visita https://ollama.com/download
   2. Scarica e installa Ollama per la tua piattaforma
   3. Apri il terminale e scarica il modello desiderato (ad esempio, ollama pull deepseek-r1)
2. Configura Leo per utilizzare il tuo modello locale:
   1. Apri le Impostazioni di Brave
   2. Vai alle impostazioni di Leo
   3. Scorri fino alla sezione Porta il tuo modello
   4. Clicca su Aggiungi nuovo modello
   5. Compila i campi richiesti: 
      • Etichetta: Nome che apparirà nel menu di selezione del modello
      • Nome richiesta modello: Identificatore del modello (ad esempio, "deepseek-r1")
      • Punto finale del server: Il tuo endpoint locale (per Ollama, usa http://localhost:11434/v1/chat/completions)
      • API Key: Lascia vuoto se non richiesto dal tuo framework

Utilizzo di Modelli Remoti

Per connettere Leo a modelli remoti o API di terze parti (come ChatGPT di OpenAI):

1. Ottieni le tue credenziali API dal provider scelto
2. In Brave, Impostazioni > Leo > Porta il tuo modello:
   • Clicca su Aggiungi nuovo modello
   • Compila i dettagli:
     • Etichetta: Il nome scelto per il modello
     • Nome richiesta modello: Identificatore del modello (ad esempio, "gpt-4" per OpenAI)
     • Punto finale del server: L'endpoint API (ad esempio, https://api.openai.com/v1/chat/completions per OpenAI)
     • API Key: Le tue credenziali di autenticazione

Utilizzo del Tuo Modello

Una volta configurato:

1. Apri Leo nel browser
2. Clicca sul menu di selezione del modello
3. Scegli il tuo modello personalizzato dall'elenco
4. Inizia a conversare con il modello configurato

Privacy e Sicurezza

Abilitare modelli alternativi utilizzando la funzione BYOM ti offre un maggiore controllo sulla tua esperienza e su come vengono gestite le tue conversazioni, ma le protezioni per la privacy varieranno. Le impostazioni predefinite di Brave Leo garantiscono che i tuoi dati non siano memorizzati, tracciati o utilizzati per l'addestramento e puoi utilizzare il servizio senza creare un account (Consulta la nostra Informativa sulla privacy per maggiori dettagli). Modelli locali e modelli remoti di terze parti avranno caratteristiche di privacy diverse.

Per i modelli locali

• L'elaborazione avviene direttamente sul tuo dispositivo
• Le conversazioni, le pagine web e i prompt non lasciano mai la tua macchina
• Completa privacy dei dati per informazioni sensibili

Per i modelli remoti (Avviso importante sulla privacy)

Quando si utilizza BYOM con servizi di terze parti come OpenAI o altri endpoint remoti:

• I tuoi dati saranno soggetti alle politiche e alle pratiche di gestione dei dati della terza parte
• Le protezioni per la privacy di Brave (come il proxy inverso e le politiche di conservazione dei dati) non si applicano
• La terza parte potrebbe:
  • Memorizzare le tue conversazioni e i tuoi input
  • Utilizzare i tuoi dati per l'addestramento del modello
  • Condividere o analizzare i tuoi dati in base ai loro termini
  • Avere diversi periodi di conservazione dei dati
  • Elaborare i tuoi dati in varie giurisdizioni

Implementazione tecnica:

• Connessione diretta tra il tuo dispositivo e l'endpoint del modello
• Le richieste bypassano completamente i server di Brave
• Brave non ha accesso o visibilità sul traffico
• Le credenziali API sono memorizzate in modo sicuro nel tuo browser
• Controllo end-to-end sui tuoi dati e interazioni con il modello

💡 Importante: Prima di utilizzare un modello di terze parti, esamina la loro politica sulla privacy e le pratiche di gestione dei dati. Non inviare informazioni personali sensibili, dati sanitari, dettagli finanziari o altre informazioni riservate a meno che tu non ti senta a tuo agio con il modo in cui la terza parte gestisce tali dati. Prima di utilizzare un modello di terze parti, esamina la loro politica sulla privacy e le pratiche di gestione dei dati. Non inviare informazioni personali sensibili, dati sanitari, dettagli finanziari o altre informazioni riservate a meno che tu non ti senta a tuo agio con il modo in cui la terza parte gestisce tali dati.