Pretty please? No, grazie Google

Il motivo di questo è spinto dai sani principi. È destinato a situazioni familiari con bambini presenti. La feature Pretty Please di Assistant, così si chiama, fa sentire appagati gli utenti per aver dato comandi vocali con l’utilizzo di paroline magiche come “Per favore”, elogiandoli con risposte come “Grazie per aver detto per favore” e “Che modo gentile di chiedere”.

• Le 6 nuove funzioni di Google Assistant che non potete non conoscere

All'evento Scott Huffman di Google, VP di engineering per Google Assistant, ha sottolineato che i bambini utilizzano l'Assistant per porre domande, giocare e ascoltare storie (le famiglie hanno riprodotto oltre 130,000 ore di storie ai propri figli tramite Assistant solo negli ultimi due mesi).

A quanto pare ciò ha causato tra il team Google la preoccupazione per il fatto che i loro figli potessero imparare cattive maniere comandando a bacchetta tutto il giorno l’Assistant. È così che nasce Pretty Please. È una feature opzionale, quindi i meno raffinati tra noi possono dormire sonni tranquilli. L’Assistant, sia chiaro, non può rimproverarci per non essere sufficientemente educati.

Ciononostante, dietro tutte le buone maniere, c'è qualcosa che mi infastidisce nel fatto di dover essere rispettoso nei confronti dell'Assistant. Per quanto Google Assistant sia utile, trattarlo come se avesse sentimenti che potrebbero essere feriti o sentire che provi gratitudine, mi turba.

L'Assistant merita rispetto?

Google vuole che le nostre interazioni con l'Assistant siano più naturali, più "umane". In una certa misura ciò implica anche l'accettazione di una sorta di "personalità" del rappresentante di Google nelle nostre interazioni sociali. Cortesia, rispetto, buone maniere, gentilezza e così via.

La differenza è che l'Assistant non è una persona. È una macchina, una macchina davvero utile che paghiamo in gran parte cedendo i nostri segreti più intimi ad essa in cambio di tutte le comodità che offre. Anche se i vostri sentimenti possono variare su quanto questa relazione sia unilaterale, è una transazione tra noi e un'azienda tech potente. C’è quindi bisogno di dire per favore?

L’Assistant che acquisisce personalità, che ci parla con la voce seducente di John Legend o qualunque sia la vostra celebrità preferita, ci lascia in qualche modo vulnerabili alla manipolazione emotiva da parte di un algoritmo che ci conosce molto bene, ma che non ha emozioni proprie.

Ho parlato con startup che lavorano con i comandi vocali ed è noto nel settore come le agenzie di recupero crediti, i call center ed altre aziende, per l’utilizzo di bot, preferiscano voci più persuasive perché quando qualcosa suona caldo, umano e carismatico, il nostro istinto ci permette di essere più facilmente influenzati. Avvicinandoci all’interazione con Assistant come se fosse una persona, rischiamo di perdere di vista la macchina dietro la maschera.

Quando pensate ai bambini, è già un po' inquietante il fatto che ripetendo “Google”, più e più volte all'Assistant (anche se presto avrete solo bisogno di farlo all'avvio di una conversazione), vengano indottrinati per amare e fidarsi di un marchio mentre le loro menti sono vulnerabili. Inoltre la necessità di mostrare cortesia e rispetto mi sembra un passo troppo lungo.

Forse se un Assistant parla con una voce umana, deve anche essere trattato come un essere umano. Soprattutto da parte dei bambini, che potrebbero non capire quale sia la differenza tra parlare con un umano e parlare con un'IA. Le maniere che imparano a usare con l'Assistant potrebbero trasmettersi nel più vasto mondo dell'interazione umana.

Ma i genitori, prima di passare all'opportunità di assegnare all’Assistant il ruolo di educatore dei propri figli, potrebbero considerare che vale la pena insegnare loro questa differenza fin dalla tenera età, da tenere a mente per il futuro connesso in cui cresceranno.

Cosa ne pensate? È giusto trattare gli assistenti vocali come fossero delle persone o dovremmo mantenere una chiara distinzione?