Il chatbot AI valuta troppo l'usato del cliente: la concessionaria è costretta a onorare l'offerta
Attenzione a fidarsi troppo dell'AI. Il chatbot della concessionaria BMW di Toronto sbaglia la valutazione di un'auto usata: la concessionaria prova a rinegoziare, ma alla fine accetta di pagare l'auto a un prezzo fuori mercato.
Di intelligenza artificiale applicata al mercato automotive ne stiamo sentendo parlare ormai spesso. E soprattutto di chatbot legati a shop online che aiutano un potenziale cliente a gestire problematiche di qualsiasi genere. Il chatbot interviene come sostegno ad un azione richiesta e come informatore dedicato a situazioni specifiche in cui può rispondere. Fatta questa premessa siamo venuti a conoscenza di una vicenda alquanto interessante e che riportiamo molto volentieri come case history. E’ accaduto in Canada e la protagonista “in negativo” è stata in questa circostanza una concessionaria BMW.
Il caso della promessa mancata alla BMW di Toronto
La vicenda, documentata dall’emittente canadese CBC, è avvenuta nello specifico presso la concessionaria ufficiale BMW di Toronto. Protagonista della storia è un certo Zack Giacomelli, proprietario di una BMW X3 XDrive 30i del 2021. Giacomelli, esasperato dai costi elevati per le riparazioni della vettura ha deciso di contattare la concessionaria per verificare se fossero interessati a riacquistare il veicolo.
Ad accoglierlo sul sito web dell’azienda c’era Quinn, l’assistente virtuale della concessionaria. Tramite uno scambio di messaggi di testo, Quinn ha formulato un’offerta formale di 27.162,79 dollari. La cifra era calcolata esattamente per coprire il saldo rimanente del finanziamento dell’auto, specificando che l’accordo non avrebbe comportato “nessun debito residuo e nessun esborso di contanti” per il cliente.
Soddisfatto della proposta, Giacomelli ha rilanciato per puro scrupolo a 28.000 dollari. L’assistente Quinn ha definito la controproposta “ragionevole”, invitando esplicitamente il cliente a recarsi in sede alle 15:30 dello stesso giorno per “blindare l’accordo”.
Tuttavia, poco dopo, la situazione, diciamo… è precipitata. Perché un consulente commerciale umano della BMW di Toronto ha contattato telefonicamente Giacomelli per revocare l’offerta. La giustificazione? Quinn non era un dipendente in carne e ossa, ma un chatbot basato su intelligenza artificiale che aveva formulato la proposta per errore.
La responsabilità aziendale
Parliamoci chiaro. Le aziende non possono avere la botte piena e la moglie ubriaca. Troppo facile usare un software a costo zero, e poi fare spallucce se il robottino “svende una macchina”. Come ha detto Giacomelli alla CBC: “Se usi l’AI per fare il lavoro dei tuoi dipendenti, poi ascolti quello che dice”. Se un venditore umano prende una cantonata, l’azienda paga il conto. Se lo fa un software, che tra l’altro può fare danni molto più velocemente di un uomo, deve valere la stessa regola. Il dramma vero è che questi chatbot sembrano intelligentissimi finché si tratta di dare risposte standard, ma non hanno la più pallida idea di cosa sia una BMW o del valore del denaro. Giocano a fare gli umani con i dati degli altri, ma non sanno letteralmente nulla del mondo reale.
La conclusione della vicenda
Alla fine la BMW di Toronto ha fatto marcia indietro, ha scelto la via del buon senso e ha staccato l’assegno da 27.162,79 dollari per prendere la BMW di Giacomelli. E molto probabilmente le conveniva assolutamente farlo. Se la concessionaria avesse deciso di andare allo scontro legale, rischiava seriamente di uscirne con le ossa rotte. In Canada c’è infatti già un precedente che fa scuola. Nel 2024 infatti la compagnia aerea Air Canada aveva provato a fare lo stesso identico “giochino” scaricando la colpa sul proprio assistente virtuale, ma i giudici le hanno risposto picche, stabilendo un principio chiarissimo. Se il tuo bot promette qualcosa, la promessa va mantenuta.
