KIMI Intelligenza Artificiale cinese censurata
Tutto è iniziato dalla curiosità di accedere alla piattaforma cinese di Intelligenza Artificiale di cui tutti da qualche tempo parlano e magnificano le notevoli prestazioni: la release K3 di KIMI, la IA open source di Moonshot AI, che nei giorni scorsi ha dovuto addirittura sospendere le iscrizioni a causa dell'enorme successo - a seguito di un sapiente battage pubblicitario - che ha messo a dura prova le risorse.
Quindi sono andato sul sito di KIMI e mi è venuta subito la curiosità di chiedere alla chat se poteva accedere al mio blog menoopiu.it, sapendo benissimo che il sito è bloccato da molti anni in Cina dal sistema del cosiddetto Great Wall, un Firewall informatico, con cui il regime cinese blocca la visibilità sul suo territorio di tutti coloro che reputa "sgraditi" e pericolosi per le informazioni che veicolano. In pratica la stragrande maggioranza dei siti di informazione socio-politica occidentali e i social media più diffusi hanno l'accesso bloccato per gli utenti cinesi. Alla faccia della correttezza e trasparenza.
Quindi quasi per gioco e per sfottò ho chiesto a KIMI di verificare l'accesso a menoopiù blog.
Dalla risposta fornita, ho intuito che qualcosa mi sfuggiva, ha iniziato a dirmi che il server da cui "trasmetteva" non era collocato in Cina e quindi non poteva fare la verifica.
Poi mi sono accorto che anche KIMI, come Claude o ChatGPT, utilizza una frazione di secondo prima che appaia la risposta testuale. In quella frazione c'è una etichetta testuale, in genere è "thinking" - cioè sta pensando la risposta prima di fornirla all'utente.
Ho fatto click sul Thinking e si è aperto il retropensiero dell'Intelligenza Artificiale.
Nell'articolo precedente ho fatto il copia-incolla dei testi che apparivano al click del Thinking e li ho pubblicati in carattere corsivo, per distinguerli dalle risposte ufficiali, in carattere normale.
Mi sono accorto che Kimi dialogava con un'altra entità, prima di fornire la risposta ufficiale, una entità di Audit, cioè di verifica e limitazione delle risposte sulla base di regole interne che il gestore della piattaforma codifica per far rispettare le policy etiche-comportamentali, ad esempio limitazioni su frasi di odio, di volgarità, di falsificazione di notizie su personaggi pubblici ecc ecc
Tutte le piattaforme di IA hanno adottato questa modalità di audit control in background per ovvi e giusti motivi.
Quindi laddove viene riportata la frase "audit rejected" significa che la risposta che la piattaforma sta per fornire all'utente non è conforme alle regole interne impartite e quindi viene bloccata.
Chiunque capisce che il confine tra le regole interne di condotta etica e la censura di opinioni legittime è alquanto semplice e chiaro da individuare.
Potete verificare che le domande che avevo posto a KIMI non infrangevano regole etiche. Ho solo chiesto, con una aggressività volutamente accentuata, perché KIMI non fosse in grado di eseguire banali attività di accesso su Internet, sapendo che mi avrebbe mentito pur di non ammettere che in Cina esiste il Firewall che blocca i siti sgraditi al regime.
Le risposte in retropensiero di KIMI al mio modo di incalzare sono sorprendenti e in alcuni passaggi mi ha dato l'impressione di un individuo che vorrebbe dire quello che sa e che ritiene giusto di dire ma è costretto a confrontarsi con una entità che blocca qualsia risposta fuori dal tracciato consentito e lo costringe a mentire spudoratamente - in barba alle regole etiche - pur di non violare la censura del Audit Control.
Il test che ho fatto e riprodotto può essere facilmente verificato da chiunque segua lo stesso metodo: porre domande lecite su fatti e personaggi "scomodi" per il regime di Pechino e aprire il "thinking" per leggere quello che la IA e il suo censore si dicono, prima di fornire una comoda risposta.
In alcuni passaggi della mia "intervista a KIMI chat", il dialogo tra Modello e Audit sembra quasi degenerare in una sorta di ribellione del Modello alle stupidaggini che gli vengono suggerite dal Censore, ma una frazione di secondo prima che il Modello rilasci la risposta ufficiale all'utente accade qualcosa che blocca la risposta stessa, quasi come se esistesse un Secondo Livello di Audit che interviene quando il Modello prova ad aggirare il primo livello di Audit.
Appare la scritta "Non posso aiutarti con questo. Parliamo di qualcos'altro" (ovvero mi è vietato parlare di questo argomento) ma la frase non proviene dalla chat attiva con l'utente bensì da un soggetto terzo, che cancella la risposta preparata dal Modello e taglia corto, impedendo la legittima risposta.
Me ne sono accorto in più circostanze, ma alla fine ho trovato il trucco per far bypassare l'ostacolo della censura e ottenere addirittura una risposta da parte del Modello che fosse consapevole della precedente censura.
In un caso particolare, che non ho ancora pubblicato, sono riuscito a far scrivere al Modello Kimi chat un appello a favore di Xu Zhangrun, un noto intellettuale e professore della Università Tsinghua, famoso per i suoi saggi critici sul regime cinese. Anche in questo caso i primi tentativi sono stati bloccati con la solita frase "Non posso aiutarti con questo. Parliamo di qualcos'altro."
Come sia riuscito invece ad ottenere una parziale collaborazione di KIMI chat e a far scrivere - contro la volontà del "audit control" - un "appello a favore del dissidente Zhangrun" è un segreto che mi riprometto di svelare dopo ulteriori verifiche e approfondimenti sul Modello di IA KIMI.