Gli agenti IA possono girare in locale? Modelli locali per una piccola azienda
Sì, gli agenti IA possono girare in locale. Il modello di IA che sta dietro a un agente può funzionare su un computer che possiedi, invece che presso un'azienda di IA su internet. Il tuo testo allora non esce mai dal tuo edificio. Se per una piccola azienda ne valga la pena dipende da quanto sono delicati i tuoi dati e da quanto sono impegnativi i compiti.
Cosa vuol dire «in locale»
Un agente IA è un'IA che svolge compiti al posto tuo, come riassumere un contratto o smistare le email in arrivo. A ragionare è un modello di IA, un grande programma che legge e scrive testo. La maggior parte delle persone usa modelli che girano presso un'azienda di IA. Mandi il testo via internet e la risposta torna indietro.
Un modello locale funziona in modo diverso. Scarichi il modello e lo fai girare sulla tua macchina. Alcuni modelli si possono scaricare gratis proprio per questo scopo. Spesso si chiamano modelli open source.
Perché un'azienda dovrebbe volerlo
Il motivo di solito è la riservatezza. Uno studio legale, un ambulatorio medico o un'azienda con contratti molto rigidi con i clienti può non voler far uscire certi documenti dalla propria sede. Un modello locale lo rende possibile.
Per la maggior parte del lavoro di tutti i giorni non è necessario. Le aziende di IA offrono contratti che regolano il trattamento dei tuoi dati, e molte imprese lavorano bene con quelli.
Tre modi di far girare il modello
| Presso un'azienda di IA | Riservato a te | Sulla tua macchina | |
|---|---|---|---|
| Dove gira | Su internet, condiviso con altri clienti | In un data center, solo per la tua azienda | Nel tuo ufficio |
| Dove va il tuo testo | All'azienda di IA | Alla tua area riservata | In nessun posto all'esterno |
| Cosa ti serve | Un account | Un contratto e un po' di configurazione | Un computer potente e qualcuno che se ne occupi |
L'opzione di mezzo si chiama spesso private endpoint. È una scelta frequente per le aziende che vogliono più controllo ma non vogliono gestire macchine in proprio.
Cosa fanno bene i modelli locali e cosa richiedono
I modelli che stanno su un normale computer aziendale sono più piccoli dei più grandi su internet. Per molti compiti quotidiani basta: riassumere documenti, smistare ed etichettare, estrarre una data o un importo da un testo, scrivere brevi risposte. I compiti lunghi e con molti passaggi sono più difficili per loro e vanno provati prima.
Conta anche il computer. Un modello piccolo può girare su un portatile recente. Un modello che serve un intero team a una velocità comoda richiede una macchina potente tutta sua.
Quattro domande prima di decidere
- Quali dati ti preoccupano? Se è un solo tipo, come i fascicoli del personale, solo i compiti che li toccano hanno bisogno di un modello locale.
- Cosa ti viene richiesto esattamente? Spesso una regola riguarda la regione e il contratto. Un modello riservato nella regione giusta può soddisfarla.
- Quanto sono difficili i compiti? Provali su un modello piccolo prima di comprare qualcosa.
- Chi se ne occupa? Aggiornamenti e riparazioni sono un lavoro continuo, e qualcuno deve farlo.
Non devi sceglierne uno solo per tutto
Molte aziende mescolano. Un modello locale o riservato gestisce i pochi compiti con materiale delicato, e un modello presso un'azienda di IA gestisce il resto. Funziona quando il tuo software ti permette di scegliere il modello per ogni agente separatamente.
Come lo gestisce Worknano
In Worknano il modello è un'impostazione di ogni agente. Puoi iniziare con i modelli gestiti e non hai bisogno di nessuna attrezzatura IA tua. Se la tua azienda lo richiede, puoi collegare un modello a tua scelta, compreso un modello locale, un modello open source o il private endpoint della tua azienda, a seconda del tipo di installazione. Con l'hosting regionale nell'UE, negli Stati Uniti o in APAC, i dati del workspace e l'elaborazione IA restano in quella regione. Un'istanza dedicata alla sola tua azienda o un'installazione sui tuoi server è disponibile con il piano Enterprise.