Il New York Times ha pubblicato questo mese un articolo su un piccolo fenomeno che sta diventando serio. Gli avvocati d'azienda cominciano le loro riunioni virtuali nello stesso modo in cui lo fanno le discoteche: buttando fuori chiunque non dovrebbe essere lì. L'ospite indesiderato è l'assistente di IA per gli appunti.
Jeffrey Gifford, avvocato d'azienda a San Antonio, ha raccontato al giornale che apre ogni chiamata con un appello. “Ehi, Mike, Jim, Barbara, vedo che è spuntato l'assistente di IA per gli appunti. Lo spengo e lo butto fuori dalla riunione.” Li usano tutti, ha detto, dal primo all'ultimo. Dirigenti, membri del consiglio di amministrazione, avvocati interni. E ognuno di quegli strumenti sta silenziosamente divorando il sistema immunitario aziendale.
Due bombe a orologeria legali in un'unica categoria di prodotto
L'articolo mette a fuoco due rischi distinti che tengono svegli gli avvocati alle tre del mattino.
Il primo è la discovery. Una riunione del consiglio non ha di norma un verbale che registri ogni battuta a margine. I verbali sono selezionati: catturano le decisioni, non i momenti che le precedono. Una trascrizione generata dall'IA cattura tutto: la battuta che non sarebbe mai dovuta finire agli atti, la proposta abbozzata e ritirata dieci secondi dopo, il dirigente che dice che il suo prodotto “dominerà la categoria” in una frase pensata come incoraggiamento e che un'autorità di vigilanza leggerà come prova in materia di antitrust. Una volta che quella trascrizione esiste, è un documento. E i documenti si possono acquisire agli atti.
Il secondo è il segreto professionale. Le comunicazioni fra avvocato e cliente godono di una protezione speciale nella legge, ma la perdono se la conversazione viene condivisa con un soggetto esterno. È questa la regola che rende nervosi gli avvocati di fronte agli assistenti di IA per gli appunti nelle riunioni legali. L'assistente è un fornitore. Le trascrizioni finiscono sui server del fornitore. I termini di servizio del fornitore gli consentono di farci diverse cose. Se un tribunale tratta il fornitore come terza parte ai fini del segreto professionale – e oggi esiste una pronuncia federale che dice che alcuni di questi fornitori sono esattamente questo – allora condividere la riunione con il bot equivale a condividerla con qualcuno fuori dal perimetro del segreto. Il segreto svanisce. La conversazione che doveva essere protetta diventa una prova.
Cosa ha detto davvero il giudice Rakoff
Nel febbraio di quest'anno il giudice federale Jed S. Rakoff ha stabilito, nel Distretto Meridionale di New York, che le trascrizioni prodotte da un imputato chiedendo consulenza legale a Claude non erano coperte dal segreto professionale fra avvocato e cliente. Il ragionamento conta più dell'esito. A fare il danno sono stati due fatti relativi al rapporto con il fornitore.
Primo: il modello veniva addestrato sugli input degli utenti. La parte di conversazione dell'imputato era, in linea di principio, carburante per la versione successiva del prodotto.
Secondo: l'informativa sulla privacy del fornitore conteneva clausole sulla propria facoltà di condividere i dati degli utenti con terze parti, comprese le “autorità di regolamentazione governative”. L'imputato, ha ritenuto il giudice, non poteva nutrire alcuna ragionevole aspettativa di riservatezza quando il fornitore stesso si era riservato il diritto di divulgare.
È questo il precedente che ha spaventato gli avvocati d'azienda. Ed è anche un precedente che ruota attorno a due fatti architettonici e contrattuali relativi al fornitore, non a qualcosa di intrinseco alla tecnologia dei grandi modelli linguistici. Il che significa che lo si può aggirare per progettazione. Basta costruire un prodotto che non abbia quelle due proprietà.
Cosa abbiamo costruito
Ostler RemoteCapture è il registratore di riunioni e chiamate incluso nell'Ostler Hub. Fa lo stesso lavoro di Otter, Fathom, Granola e Read.ai. Ascolta l'audio, produce una trascrizione, riassume la conversazione e archivia il risultato. Sul piano funzionale, in una demo non riusciresti a distinguerli.
Sul piano architettonico, non appartengono alla stessa categoria di prodotto.
RemoteCapture esegue la trascrizione sul Mac del cliente stesso. Nella pipeline non c'è alcun server del fornitore. Usiamo WhisperKit di Argmax, un'implementazione on-device del modello Whisper di OpenAI che gira interamente sul Mac del cliente. L'audio non lascia mai il dispositivo. La trascrizione non lascia mai il dispositivo. Il riassunto è generato dal modello linguistico locale che i clienti fanno girare sul proprio Hub. Creative Machines – l'azienda che produce Ostler – non vede mai una sola parola della tua riunione.
Non è un'affermazione di marketing. È una proprietà di dove vanno i byte. Puoi verificarlo con il firewall di rete di macOS. Puoi verificarlo con Little Snitch. Puoi disconnetterti del tutto da internet e la registrazione, la trascrizione, il riassunto e l'archiviazione continuano a funzionare tutti quanti. In questa pipeline non abbiamo un server perché l'architettura non ne ha bisogno.
Quella proprietà non è accidentale. È tutto il punto. È ciò che rende impossibile ripetere i due fatti che hanno fatto il danno in Rakoff:
1. Non addestriamo sulle tue riunioni. Non perché promettiamo di non farlo. Perché i dati non esistono su nessun sistema che controlliamo. Non c'è alcuna fase di caricamento in cui potrebbero essere intercettati, alcuna fase di registrazione in cui potrebbero essere conservati, alcuna fase di addestramento in cui potrebbero essere assorbiti. I dati esistono sulla tua macchina, in una cartella che ti appartiene e che puoi cancellare.
2. Non abbiamo alcuna policy che consenta la divulgazione a terzi delle tue riunioni, perché non abbiamo riunioni da divulgare. Notificaci pure tutti gli ordini di esibizione che vuoi. Non abbiamo nulla da consegnare. La macchina del cliente continua a contenere ciò che contiene, e quella macchina è raggiungibile solo attraverso il cliente stesso. Che è esattamente il punto in cui il procedimento legale dovrebbe atterrare.
Il registro dei consensi – cos'è, e cosa non è
C'è un secondo elemento su cui vale la pena essere precisi, compreso il limite di ciò che fa. RemoteCapture tiene sulla macchina del cliente un registro dei consensi che rende evidenti le manomissioni. Ogni sessione di registrazione viene annotata con la base giuridica scelta dal cliente, le regole sul consenso alla registrazione vigenti nella giurisdizione e una catena crittografica che rende visibile qualsiasi alterazione successiva. Il database è cifrato a riposo con SQLCipher. La catena è concatenata blocco per blocco tramite HMAC.
Ciò che il registro annota è la dichiarazione del cliente, non un fatto verificato. Quando il cliente indica il “consenso di tutte le parti” prima di avviare una registrazione, ciò che viene annotato è che il cliente ha dichiarato il consenso di tutte le parti. Il registro non può verificare in modo indipendente se ogni partecipante abbia davvero acconsentito. Quella parte è responsabilità del cliente.
La cosa taglia da due lati. Se il cliente ha davvero ottenuto il consenso, il registro aiuta a stabilire che la registrazione è stata una decisione deliberata e attestata anziché un incidente, insieme a qualunque prova contestuale del mondo reale il cliente possieda. Se il cliente non ha ottenuto il consenso e ha spuntato comunque la casella, il registro mostrerà ciò che ha fatto. Non crediamo che un prodotto debba aiutare qualcuno a registrare le persone di nascosto fingendo il contrario.
Cosa significa questo in pratica:
- Giurisdizioni a consenso di una sola parte (la maggior parte degli stati USA, e altre): è sufficiente il consenso del cliente stesso. Il registro si limita a documentare ciò che è stato fatto.
- Giurisdizioni a consenso di tutte le parti (Regno Unito, UE, California, circa 11 altri stati USA): il cliente deve ottenere davvero il consenso da ogni partecipante prima di poter far valere il registro come parte di una qualsiasi difesa. Spuntare la casella non sostituisce l'ottenimento del consenso. Se spunti la casella in modo disonesto e la registrazione viene poi contestata, il registro mostra che lo hai fatto.
- In qualsiasi giurisdizione: il registro vive sul dispositivo del cliente. Non viene condiviso con noi, e non possiamo esibirlo su ordine dell'autorità perché non lo abbiamo mai. La discovery contro il dispositivo resta possibile; la discovery contro Ostler no.
Il consenso è una questione giuridica reale. Il compito di Ostler è fornire le primitive architettoniche – cattura locale, registro che rende evidenti le manomissioni, nessuna divulgazione da parte del fornitore – e lasciare la scelta nelle mani del cliente. Il contenuto giuridico ed etico di quella scelta resta al cliente. Se registri chiamate nella tua vita professionale, devi conoscere le regole della tua giurisdizione. Il prodotto non può deciderlo al posto tuo.
I limiti, detti onestamente
È importante essere schietti su cosa il local-first ti dà e cosa non ti dà.
Local-first non significa “la tua riunione non comparirà mai in un contenzioso”. Se un tribunale ordina l'esibizione del dispositivo e la trascrizione è sul dispositivo, la trascrizione viene esibita. La protezione qui non è dalla discovery contro il cliente. È dalla discovery contro il fornitore, dall'esposizione accidentale a terzi e dalla rinuncia al segreto professionale che nasce quando le conversazioni vengono condivise fuori dal perimetro protetto. Sono queste le modalità di fallimento che preoccupano gli avvocati nell'articolo del Times. Sono queste le modalità di fallimento che il local-first elimina per costruzione.
Local-first non significa “non ti serve una politica di conservazione dei documenti”. Ti serve. La trascrizione sulla tua macchina resta un documento. Rientra comunque nel ciclo di vita della tua gestione documentale. La preoccupazione sulla discovery espressa dall'articolo del Times – che l'IA catturi tutto, comprese le cose che avresti preferito non fossero mai state messe per iscritto – è mitigata, non eliminata, da dove risiede la registrazione.
Ciò che il local-first significa davvero è che il rischio per il segreto professionale emerso in Rakoff non si applica. I fatti architettonici che hanno fatto pendere la decisione contro l'imputato sono assenti nel nostro prodotto, per progettazione.
Cosa consiglieremmo agli avvocati
Se sei un avvocato e un cliente ti chiede se dovrebbe usare un assistente di IA per gli appunti, vale la pena porre tre domande:
Dove va l'audio? Se la risposta è “su un server del fornitore”, il calcolo sul segreto professionale è il calcolo di Rakoff. Se la risposta è “sul dispositivo del cliente stesso”, non lo è.
Il fornitore sta dentro il perimetro del segreto? Un fornitore che detiene la tua trascrizione è una terza parte. Un software sulla macchina del tuo cliente che tiene la trascrizione sulla stessa macchina non lo è. La categoria giuridica è diversa.
Chi registrava aveva davvero il consenso? Un registro locale che rende evidenti le manomissioni documenta ciò che il cliente ha dichiarato in quel momento, il che è una prova utile in entrambi i casi. Ma non sostituisce l'effettiva acquisizione del consenso nelle giurisdizioni a consenso di tutte le parti. Se il cliente ha spuntato la casella senza essersi assicurato il consenso, il registro mostrerà fedelmente che lo ha fatto.
Il punto più ampio
L'ondata di produttività dell'IA è reale. Gli assistenti di IA per gli appunti in cloud non spariranno perché il New York Times ha scritto un articolo preoccupato. Sono troppo comodi e troppo economici per svanire davanti a un argomento sul segreto professionale di cui la maggior parte degli utenti non ha mai sentito parlare.
Ma il divario fra “economico e comodo” e “sicuro da usare in una professione regolamentata” è esattamente il divario che i prodotti local-first colmano. Avvocati, membri di consigli di amministrazione, dirigenti, medici, chiunque abbia conversazioni con un peso legale – è questo il cliente che ha bisogno dell'architettura, non del marketing. L'architettura è la policy. L'architettura è il calcolo sul segreto professionale. L'architettura è la cosa che l'articolo del New York Times sta, indirettamente, dicendo a quei clienti di pretendere.
Ostler RemoteCapture è incluso nell'Hub v1.0, disponibile da oggi su ostler.ai. L'Hub costa $99, una volta sola. Le tue riunioni restano sul tuo Mac.
Riflessioni, domande o obiezioni a hello@ostler.ai.