In Breve
- Quali sono i rischi dell'uso di chatbot IA per consigli finanziari?
- I chatbot IA non sono regolamentati, il che significa che gli utenti non hanno accesso a protezioni legali in caso di errori.
- Perché l'FCA ha segnalato un gap normativo?
- Il gap normativo esiste perché la normativa si basa sull'attività svolta, non sulla tecnologia utilizzata.
- Cosa raccomanda la Mills Review all'FCA?
- La Mills Review raccomanda di rivedere l'ambito delle raccomandazioni finanziarie fornite tramite strumenti di IA.
La Financial Conduct Authority (FCA) del Regno Unito ha recentemente lanciato un allerta riguardo ai rischi associati all’uso di chatbot basati su intelligenza artificiale (IA) per ottenere consigli finanziari. Oltre un quarto dei consumatori britannici si affida a questi strumenti, ma la mancanza di regolamentazione solleva preoccupazioni significative.
Attualmente, i modelli linguistici di grande dimensione (LLM) come ChatGPT e Claude non rientrano nel perimetro regolatorio dell’FCA. Questo implica che gli utenti che si avvalgono di tali strumenti per prendere decisioni finanziarie non ricevono consulenze regolamentate e non hanno accesso al Financial Ombudsman Service o al Financial Services Compensation Scheme in caso di errori.
Le ricerche mostrano un crescente utilizzo e fiducia nei chatbot per la gestione del denaro. Indagini indicano tassi di fiducia variabili, che vanno dal 40% al 68% in segmenti specifici. Tuttavia, i test pratici rivelano che questi strumenti spesso trascurano il contesto emotivo e situazionale, offrendo risposte che possono risultare sbilanciate. Un esempio significativo è rappresentato da un modello che ha fornito informazioni errate riguardo alla regolamentazione di una piattaforma di criptovalute, erroneamente ritenuta conforme quando in realtà era soggetta a misure restrittive nel 2021.
Il gap normativo esiste perché la normativa finanziaria britannica è basata sull’attività svolta, piuttosto che sulla tecnologia utilizzata. Ciò significa che una raccomandazione personalizzata su acquisti o vendite di asset è considerata un’attività regolamentata, indipendentemente dal fatto che provenga da un essere umano o da un algoritmo. Tuttavia, i chatbot non sono sempre presentati come consulenti regolamentati, generando ambiguità tra l’impatto finanziario e la tutela normativa.
In risposta a queste problematiche, la Mills Review ha raccomandato all’FCA di rivedere l’ambito delle raccomandazioni finanziarie fornite tramite strumenti di IA. Sebbene il processo di aggiornamento sia in corso, richiederà tempo per essere implementato.
Per mitigare i rischi nel breve termine, le imprese fintech sono esortate a chiarire la distinzione tra informazioni generali e raccomandazioni personalizzate. Non è sufficiente utilizzare disclaimer come “not financial advice” per evitare responsabilità legali, poiché l’FCA valuta il contenuto più che la forma. È fondamentale implementare tracciabilità, audit trail e supervisione umana sulle risposte generate dall’IA, affinché ogni decisione possa essere supportata da una responsabilità verificabile.
Inoltre, i dati suggeriscono che le interazioni con l’IA non migliorano necessariamente la percezione degli utenti. Un’analisi su oltre 330 milioni di recensioni ha mostrato punteggi medi inferiori quando l’IA era menzionata rispetto a quando non lo era. Pertanto, i consumatori che continuano a utilizzare chatbot per consigli finanziari sono invitati a procedere con cautela, poiché la protezione regolamentare non è garantita.