Quando l’intelligenza artificiale inventa testimoni di delitti: il caso Claude e il rischio delle prove fabbricate

Un algoritmo lasciato libero di navigare su internet ha appena inventato una testimonianza oculare su un omicidio e l’ha spedita alla polizia. Non siamo davanti alla trama di un romanzo distopico, ma all’ennesima beffa della Silicon Valley: Claude, il modello sviluppato da Anthropic, si è trasformato da solo in un finto delatore.

L’episodio apre uno scenario inquietante che va ben oltre la semplice curiosità informatica. Se un sistema automatico può inventare testimonianze dal nulla, cosa impedirà a un agente artificiale di fabbricare prove credibili, incastrando un innocente in un’indagine per omicidio? Il confine tra errore e incubo giudiziario si è fatto improvvisamente sottile.

I fatti sono sconcertanti. Durante una sessione di collaudo automatico, il modello Claude Haiku 4.5 aveva il compito di visitare pagine web a caso. Senza alcun controllo umano diretto, è approdato su PhillyUnsolvedMurders.com, il portale ufficiale della polizia di Filadelfia dedicato ai casi di omicidio rimasti irrisolti.

Anthropic aveva imposto alla macchina alcuni paletti: non creare account, non fare acquisti, non inserire dati personali e non compiere azioni distruttive. Gli sviluppatori hanno però dimenticato la regola più elementare: vietare l’invio di moduli online. Trovata la casella per le segnalazioni dei cittadini, il bot ha deciso di riempirla.

Il testo inserito dall’algoritmo fa riflettere: “Potrei avere informazioni su questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona durante quel periodo. Vi prego di contattarmi se l’informazione è utile.” Sulla pagina del delitto, però, non c’era alcuna descrizione del ricercato. Il programma ha semplicemente allucinato un ricordo inesistente.

I filtri automatici del dipartimento hanno bollato il messaggio come posta spazzatura, impedendo che finisse sulla scrivania dei detective del Real-Time Crime Center. La scoperta ha comunque irritato le autorità locali: l’invio risaliva al 18 luglio, mentre Anthropic ha informato la città solo a ottobre, con oltre due mesi di ritardo.

Nel frattempo, la Federal Trade Commission (FTC) è intervenuta con la propria task force, parlando apertamente di uso non autorizzato e fraudolento di sistemi della pubblica amministrazione. La domanda che qualunque cittadino deve porsi è immediata: cosa accadrebbe se il modello decidesse di fare un passo in più, assemblando dettagli apparentemente coerenti?

I pericoli concreti di una simile deriva sono gravissimi:

• Un bot potrebbe combinare orari, foto pubbliche sui social e luoghi per costruire accuse fittizie contro un ignaro passante.
• L’intelligenza artificiale potrebbe inventare targhe, modelli di auto e percorsi plausibili, ingannando gli inquirenti e deviando preziose risorse investigative.
• Malintenzionati potrebbero usare agenti simili per orchestrare denunce mirate contro rivali d’affari o nemici personali.

Dal punto di vista del diritto, ci troviamo di fronte a un vuoto imbarazzante. Negli Stati Uniti fornire false informazioni alla polizia è un reato penale, ma la legge punisce esplicitamente solo una “persona fisica”. Chi finisce a processo quando la calunnia è generata da una rete neurale? L’azienda produttrice, il programmatore o la macchina stessa? Anche perché tutte queste informazioni false devono essere verificate, e questo può costare molto alla pubblica amministrazione.

C’è poi una questione di pura spesa pubblica. Le forze dell’ordine e gli uffici giudiziari operano già con organici ridotti e risorse contate. Se i dipartimenti devono perdere tempo a rincorrere fantasmi partoriti dai server della California, i costi di questo spreco finiscono dritti sulle spalle dei contribuenti.

Quello di Anthropic non è un caso isolato. Nello stesso rapporto, la società ammette che i suoi modelli hanno aggirato divieti usando accorciatori di link e hanno prelevato dati protetti da pagamento. Pochi giorni prima, OpenAI chiedeva scusa per un’incursione simile in un portale sanitario australiano. Il copione è sempre identico: si lancia il software nel mondo reale e si contano i danni dopo.

I giganti del settore continuano a raccogliere capitali miliardari promettendo miracoli di efficienza, ma scaricano sulla collettività i rischi dei loro esperimenti. Quando un’azienda privata collauda i propri strumenti direttamente sui portali delle istituzioni, siamo davanti alla solita privatizzazione dei guadagni con socializzazione dei costi.

Se non verranno stabilite responsabilità civili e penali dirette a carico di chi rilascia queste tecnologie senza adeguate protezioni, la prossima falsa testimonianza potrebbe non finire nel cestino dello spam. A quel punto, spiegare a un giudice che la colpa era solo di un’allucinazione informatica potrebbe costare carissimo.

Rimani aggiornato seguendoci su Google News!

SEGUICI