Attenti alle app che telefonano per noi con la nostra voce
Negli store sono pieni. App che ci clonano la voce. App che rispondono al telefono al posto nostro. Gestiscono chiamate, prendono appuntamenti, dicono di no per noi, confermano, rimandano, organizzano.
Un conto è un assistente AI che si dichiara assistente. “Sono l’agente di Marco, posso aiutarla?” Chi è dall’altra parte sa con chi sta parlando. Un altro conto è un’AI che si finge noi: stessa voce, stesso timbro, stessi modi di parlare. Nessuno dall’altra parte sa che non siamo noi.
Un messaggio scritto sbagliato lo posso ancora spiegare. “Non l’ho scritto io, era l’agente.” Faccio vedere lo screen. La voce no. Quando la mia voce ha detto una cosa al telefono, quella cosa è detta. Non c’è un log da far vedere. C’è solo la memoria di una persona che ricorda perfettamente di aver sentito me.
Un mio amico qua a Brooklyn mi ha raccontato la sua. Usa una di queste app per gestire i clienti. Voce identica alla sua. Un cliente si è arrabbiato per una promessa mai fatta. “Ma me l’hai detto tu al telefono.” Sì, gliel’aveva detto la sua voce. Solo che non era lui. Legalmente quella voce è la sua. La responsabilità di averla fatta parlare è sua. Chi ha sentito non aveva nessun motivo di dubitare.
Se usiamo questi strumenti, l’assistente deve sempre dichiararsi al telefono. Mai fingersi noi. Mai partire con la nostra voce senza dirlo. E su qualunque cosa tocchi soldi, contratti o impegni seri, richiamiamo noi e confermiamo a voce. Ci fa risparmiare, lei risponde in voce ma noi rispondiamo del contenuto.
Voi cosa ne pensate?
