I Large Language Models (LLM) sono sistemi avanzati di AI addestrati per generare risposte simili a quelle umane. L'Assistente AI di Brave, Leo, offre opzioni per gli utenti di scegliere il modello e la configurazione del modello appropriati per le loro esigenze di privacy e funzionalità. Questi LLM includono i modelli più recenti Qwen, Llama di Meta e Mixtral AI di Mistral, che Brave auto-ospita attraverso la nostra infrastruttura sicura, così come i modelli più recenti di altre aziende come i modelli Claude Haiku e Claude Sonnet di Anthropic serviti tramite i server di Anthropic. Sebbene i modelli abbiano capacità diverse, Brave garantisce la privacy degli utenti indipendentemente dal modello utilizzato e da come viene servito.

LLMs spigati

I modelli più grandi come Qwen e Llama hanno più parametri e complessità, consentendo loro di gestire compiti più complessi ma richiedendo anche maggiore potenza di calcolo per funzionare in modo efficiente. Modelli addestrati su dati diversificati come Claude Sonnet hanno una conoscenza ampia, mentre modelli specializzati come Claude Haiku hanno esperienza nel dominio come la codifica o l'analisi legale. Alcuni LLM eccellono nella generazione di testo, mentre altri sono migliori nei compiti di risposta alle domande o nell'analisi dei dati. La velocità dipenderà dalle dimensioni del modello, dalla potenza dell'infrastruttura che esegue il modello, dalle tecniche utilizzate per ottimizzarlo, dalla quantità di contenuti che sta elaborando e dalla complessità del compito richiesto.

È importante sottolineare che, quando Brave fornisce l'accesso a uno dei nostri LLM auto-ospitati, non c'è condivisione di dati tra Brave e il creatore originale del modello. Ad esempio, Llama in Brave Leo è gestito e operato esclusivamente da Brave in ambienti sicuri, totalmente indipendente dal creatore del modello, Meta. Brave garantisce anche che i vostri dati siano protetti quando i modelli sono serviti da terze parti. Anthropic, ad esempio, non può usare i dati degli utenti di Brave Leo per scopi di addestramento e i dati degli utenti non possono essere conservati per più di 30 giorni.

Brave Leo offre opzioni per scegliere il modello appropriato per le vostre esigenze. È possibile utilizzare il modello predefinito ospitato da Brave, selezionare manualmente modelli ospitati esternamente da terze parti o, per utenti avanzati, collegare Leo al proprio modello.

Modelli ospitati da Brave

Il modello predefinito in Brave Leo è ospitato da Brave. Con i modelli ospitati da Brave:

• Il vostro indirizzo IP è offuscato dai server propri di Brave utilizzando un reverse proxy. Gli indirizzi IP sono trattenuti solo per un breve periodo.
• Le vostre conversazioni non vengono memorizzate o registrate da Brave dopo che una risposta è stata generata. Nessun dato personale o trascrizione delle conversazioni viene conservato. E le vostre conversazioni non sono utilizzate a scopi di addestramento dei modelli.
• I dati delle conversazioni sono eliminati dai server di Brave immediatamente dopo la fine della sessione di chat. I dati delle conversazioni locali memorizzati sul vostro dispositivo possono essere rimossi nelle Impostazioni selezionando l'opzione “Cancella i dati di Leo”

I modelli ospitati da Brave cambieranno di volta in volta, tipicamente LLM open-source eseguiti in ambienti gestiti usando l'infrastruttura sicura di Brave.

Modelli ospitati esternamente

Alcuni modelli avanzati disponibili in Brave Leo sono ospitati e serviti esternamente da aziende partner sotto contratti che garantiscono la protezione della privacy. Per accedere a questi modelli, gli utenti possono selezionarli manualmente dalla pagina delle impostazioni di Leo.

Quando si utilizza un modello ospitato esternamente:

• Offuschiamo il vostro indirizzo IP dall'host esterno usando un reverse proxy per una maggiore anonimato. Gli indirizzi IP sono trattenuti solo per un breve periodo.
• I dati delle conversazioni sono trattenuti dalla terza parte per un periodo limitato come specificato nella nostra privacy policy, non più di 30 giorni. I dati non sono utilizzati per addestrare i modelli AI.
• I dati delle conversazioni locali memorizzati sul vostro dispositivo possono essere rimossi nelle Impostazioni selezionando l'opzione “Cancella i dati di Leo”

I modelli ospitati esternamente utilizzati nei prodotti Brave saranno serviti dai fornitori LLM sui loro server. Attualmente, Brave fornisce accesso ai modelli Claude più recenti di Anthropic, inclusi sia Haiku che Sonnet.

Selezione dei Modelli

Il pannello Leo include un'icona a forma di ingranaggio nell'intestazione dove è possibile modificare le Impostazioni. Vedrà le opzioni per i Modelli di Linguaggio che può selezionare o scegliere di continuare con l'opzione predefinita.

Può anche aprire le impostazioni avanzate che lo porteranno a brave://settings/leo-assistant dove può selezionare quale modello desidera utilizzare come predefinito ogni volta che utilizza Leo.

I modelli e le funzionalità disponibili in Brave Leo dipendono dal fatto che si stia utilizzando la versione gratuita o si abbia un abbonamento premium: