La simulazione dei processi di intelligenza umana con l’ausilio di sistemi informatici, esaltata come rivoluzionaria negli ultimi anni, non è priva di inconvenienti.

“Alla parola “progresso” riconosco il solo valore di risparmiare energia. La cosa strepitosa della nostra specie è che le macchine del progresso, del risparmio di sforzo, non sono state usate per avere poi più tempo libero, anzi per aumentare il prodotto del lavoro. Aumentavano gli arnesi del progresso e non diminuiva il tempo del lavoro. La nostra specie accumula progresso, ma non sollievo”.(Erri De Luca)

Sinceramente e tristemente in accordo con quanto afferma Erri De Luca, è sempre più necessario abbandonare atteggiamenti tacciabili come “reazionari” per abbracciare una visione legata alla comprensione delle dinamiche attuali, tecnologiche e sociali, che ormai permeano la vita quotidiana.

Non si tratta tanto di schivare l’idea stessa di progresso (sempre ammesso che ci si possa concretamente opporre alla sua inesorabile avanzata), quanto piuttosto di ampliare quanto più possibile la conoscenza di determinati meccanismi che inesorabilmente influiscono sulle scelte di ogni essere umano, comprendendo i potenziali rischi a cui vanno incontro i consumatori.

“La crescente presenza dell’intelligenza artificiale (AI) nella vita dei consumatori ha messo le nostre società di fronte a un bivio” ha affermato Rebeca Grynspan, segretario generale dell’UNCTAD, in occasione della celebrazione della Giornata mondiale dei diritti dei consumatori lo scorso 15 marzo (1).

Il segretario generale è intervenuto a un evento a Ginevra sull’esperienza dei consumatori e l’intelligenza artificiale generativa, riunendo organizzazioni internazionali, imprese e gruppi per i diritti dei consumatori.

Avanzando a una velocità vertiginosa, l’intelligenza artificiale basata sui dati, rappresenta una grande opportunità per il benessere dei consumatori, attraverso la personalizzazione di prodotti e servizi, l’ottimizzazione dell’assistenza clienti e la risoluzione delle controversie online, per fare alcuni esempi.

Allo stesso tempo, crescono le preoccupazioni sull’uso per così dire “giusto, responsabile ed etico” dell’intelligenza artificiale.

Attualmente è noto che solo una manciata di giganti tecnologici globali controlla la maggior parte dei flussi di dati e dei ricavi derivanti dai servizi digitali.

La concentrazione di una tale mole di dati letteralmente nelle “mani di pochi” fa sorgere un dubbio affatto incerto circa la minaccia alla concorrenza leale e all’aumento dei divari tecnologici già esistenti basati su geografia, genere, reddito e razza.  A livello globale, infatti, miliardi di persone rischiano di rimanere indietro nella rivoluzione dell’intelligenza artificiale, con due terzi della popolazione nei paesi meno sviluppati offline.

L’UNCTAD (la Conferenza delle Nazioni Unite sul Commercio e lo Sviluppo) principale organo sussidiario permanente dell'Organizzazione delle Nazioni Uniteoperante nei settori del commercio, sviluppo, finanza, tecnologia, imprenditoria e sviluppo sostenibile, sta intensificando gli interventi per una maggiore sensibilizzazione e solidi quadri normativi globali – inclusa una nuova generazione di politiche di protezione dei consumatori – per garantire che l’AI avvantaggi tutti.

Esistono anche rischi incombenti di abusi, dato che i deepfake (2) potrebbero fuorviare enormemente i consumatori, diffondere disinformazione e destabilizzare le società.

Esaminiamo i vantaggi

E’ ormai riconosciuta dai più come migliorativa l’esperienza di acquisto dei consumatori grazie all’utilizzo dell’Intelligenza artificiale, dato che la stessa consente una più veloce e facile identificazione delle offerte presenti sul mercato attraverso una personalizzazione dei prodotti e dei servizi sulla base delle proprie esigenze ed interessi.

Inoltre, i meccanismi di IA consentono non solo di aumentare la velocità e ridurre l’errore umano nelle transazioni commerciali, ma anche di sviluppare servizi e prodotti con prestazioni e funzionalità aggiuntive, con un conseguente miglioramento della qualità di vita delle persone.

... E gli svantaggi/pericoli

Ma come sempre accade, l’attenzione deve essere rivolta all’altra faccia della medaglia considerato che l’IA può veicolare pratiche commerciali scorrette ad un livello molto più pervasivo ed impattante.

Ad esempio, quando si procede ad acquisti on line, le informazioni personali dei consumatori (le ricerche effettuate sul web, gli acquisti, gli importi impegnati...) sono sfruttate dagli algoritmi con conseguente vantaggio per i “venditori” che calibrano le proprie offerte per guidare gli acquisti, o predisporre offerte, o segnalare prezzi vantaggiosi....

Potenzialmente e concretamente, gli algoritmi sono in grado di influenzare le scelte di acquisto dei consumatori predisponendo la visualizzazione di offerte di determinati prodotti o servizi, attraverso l’utilizzo dei sistemi di riconoscimento delle emozioni (vocale o delle espressioni del viso, ripreso dalla fotocamera dei dispositivi), con un evidente effetto manipolatorio, spingendo a procedere ad acquisti non corretti o del tutto impulsivi.

Questa raccolta massiva di dati e l’analisi comparata delle scelte dei consumatori presta il fianco ad un potenziale pericolo di lesione della privacy dei consumatori, se gli stessi non dovessero essere utilizzati in modo etico e trasparente. 

Last but not least, sussiste un concreto pericolo riguardo le frodi: l’intelligenza artificiale generativa infatti può produrre immagini false, voci false ed altri inganni difficilmente distinguibili dal c.d. uomo della strada.

Quanto al potenziale pericolo di pratiche anticoncorrenziali  attuate con l’ausilio di alcune applicazioni della Intelligenza Artificiale, è evidente che esse possano teoricamente e praticamente consentire alle imprese, ad esempio, di fissare prezzi di vendita concordati e notevolmente più alti, o di attuare un meccanismo collusione tra imprese volto alla spartizione dei mercati, o di realizzare un c.d. geoblocking (3) con conseguente discriminazione dei consumatori in base al luogo di residenza. 

Un meccanismo inquietante che rende necessario un focus e una riflessione approfondita circa le potenziali e concrete discriminazioni relative alla esclusione di determinati gruppi sociali, anche in base alla posizione geografica, meno rappresentati e di conseguenza estromessi ad arte da alcuni diritti, primo fra tutti il diritto alla informazione.

ALCUNI SUGGERIMENTI

Allo stato attuale, pur apprezzando gli interventi legislativi nazionali ed europei a tutela dei cittadini, è sempre più importante attuare in autonomia forme di autotutela per proteggersi ed essere consapevoli dei meccanismi in atto, imparando, in primo luogo, a confrontare le offerte di beni e servizi, attraverso consultazioni plurime e comparazione dei prezzi, per verificare il reale vantaggio proposto dalle piattaforme di e-commerce.

Nell’interazione con un chatbot (4), è necessario ricordare che - anche se la conversazione appare “naturale - in realtà si sta interagendo con una macchina.

Occorre evitare o limitare grandemente l’utilizzo di applicazioni che chiedono l’autorizzazione e l’accesso dei dati sensibili, evitando di inserire dati personali anche sui motori di ricerca in quanto gli stessi possono essere ripresi e comunicati a terzi, se presenti bug dei sistemi. 

Tra i pericoli presenti sul web, è molto frequente infine quello di imbattersi nelle c.d. deep fakes (5), ossia foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce (5).

L’UE interviene con la prima legge al mondo sull’Intelligenza Artificiale 

Lo scorso 21 maggio 2024 il Consiglio dell’Unione Europea ha approvato l'Artificial intelligence (AI) act, primo del suo genere al mondo, la cosiddetta legge sull'intelligenza artificiale, che mira ad armonizzare le norme sull'intelligenza artificiale con un approccio "basato sul rischio", il che significa che maggiore è il rischio di causare danni alla società, più severe saranno le regole.

Tale provvedimento ha lo scopo di promuovere lo sviluppo e l'adozione di sistemi di IA sicuri e affidabili nel mercato unico dell'UE, garantire il rispetto dei diritti fondamentali dei cittadini dell'UE e stimolare gli investimenti e l'innovazione nel campo dell'intelligenza artificiale in Europa. 

La legge sull'IA si applica solo ad ambiti soggetti al diritto dell'UE e prevede esenzioni, ad esempio, per i sistemi utilizzati esclusivamente per scopi militari e di difesa, nonché per scopi di ricerca.

La nuova legge classifica, inoltre, diversi tipi di intelligenza artificiale in base al rischio, mette al bando i sistemi di intelligenza artificiale (come, ad esempio, la manipolazione cognitivo comportamentale e il punteggio sociale) e vieta l'uso dell'intelligenza artificiale per politiche predittive basate sulla profilazione (4) e sistemi che utilizzano dati biometrici per classificare le persone in base a categorie specifiche come razza, religione o orientamento sessuale.

Le sanzioni per le violazioni sono fissate in percentuali del fatturato annuo dell'azienda colpevole nell'anno finanziario precedente o in un importo predeterminato, a seconda di quale sia il più elevato.

Come ha riferito la vicepremier belga Petra de Sutter, “L’AI Act contribuirà all'autonomia strategica dell'UE perché poter contare su una legislazione che è una novità mondiale come l'AI Act, può essere un vantaggio competitivo ed è essenziale per la nostra sicurezza economica è fondamentale sfruttare il potenziale del mercato unico e dotarsi di un approccio coerente e omogeneo per sostenere le società nel loro percorso di adeguamento alle regole digitali”.

(1) Fonte: https://unctad.org/meeting/webinar-artificial-intelligence-and-consumer-protection-risks-consumers

(2) I deepfake sono foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce.

(3) Il Geo-blocking, anche chiamato blocco geografico, è una tecnologia che esiste da molti anni e che ha lo scopo di filtrare i contenuti di internet in base alla posizione geografica da cui ci si connette. Si applica a film, serie TV, musica ed eventi sportivi, ma anche a settori come il gioco d’azzardo, gli acquisti online e le news.

(4) Per profilazione dell'utente si intende correntemente l'insieme di attività di raccolta ed elaborazione dei dati inerenti agli utenti di servizi (pubblici o privati, richiesti o forzosi) per suddividere l'utenza in gruppi di comportamento.

(5) Un chatbot è un software che simula ed elabora le conversazioni umane (scritte o parlate), consentendo agli utenti di interagire con i dispositivi digitali come se stessero comunicando con una persona reale.

(6) Fonte: www.garanteprivacy.it.