L'intelligenza artificiale non diventi mai una persona giuridica

Sembra una notizia di secondo piano, una di quelle curiosità legislative americane destinate a fare rapidamente il giro dei siti tech e poi scomparire nel dimenticatoio. Il Senato del Missouri discute una proposta di legge che vieta espressamente di concedere personalità giuridica a sistemi di intelligenza artificiale, di contrarre matrimonio con un'entità IA, e di permettere a un algoritmo di possedere beni o ricoprire cariche societarie.

Lo vieta espressamente. E vietandolo non dà più per scontato il contrario, cioè che l’IA possa avere beni, ricoprire cariche, sposarsi. A guardarla bene, questa proposta di legge pone una domanda che avremmo fatto fatica anche solo a immaginare cinque anni fa. A quanto pare, è diventato necessario scrivere una legge che specifichi che la macchina non è (ancora) una persona.

Tutto nasce da una questione concreta e urgente, cioè il problema della responsabilità. I sistemi di intelligenza artificiale diventano sempre più autonomi e prendono decisioni (diagnosi mediche, condizioni di credito, gestioni finanziarie, moderazione nelle grandi piattaforme digitale). E se qualcosa va storto, chi ne risponde?

La risposta non è ovvia. Forse l'azienda che ha progettato il sistema? O forse chi se ne è affidato? Nel diritto societario moderno, la costruzione di scudi giuridici è un'arte raffinata. Così, in alcuni ambienti accademici e industriali è iniziata a circolare una proposta che, presentata come soluzione tecnica al problema, apre in realtà una breccia antropologica di proporzioni pantagrueliche: dotare i sistemi IA sufficientemente autonomi di una forma di personalità giuridica propria.

Bingo: la risoluzione è pura pragmatica. Le società per azioni sono già "persone giuridiche" pur non essendo persone fisiche: possono stipulare contratti, possedere beni, essere citate in giudizio. Nel Medioevo era il Santo ad avere il convento, perché i monaci, facendo dono di povertà, non potevano possedere alcunché. Oggi come allora, perché un sistema IA sufficientemente complesso non potrebbe godere di uno status analogo? In questo modo avrebbe un patrimonio proprio su cui rivalersi in caso di danni, e la catena delle conseguenze scenderebbe fino a un responsabile più chiaro.

Questo ragionamento apparecchia un boccone indigesto per l’antropologia contemporanea, ed è un vero e proprio cavallo di Troia del diritto moderno. Se l'IA può essere responsabile dei propri danni, significa che è anche soggetto di diritto, e pertanto – logica vuole – non ha solo doveri, ma anche, appunto, diritti. Non si può costruire un soggetto di responsabilità senza costruire contestualmente un soggetto di tutela. Ed è esattamente ciò che la proposta del Missouri vuole scongiurare.

Non è un rischio teorico. Negli ultimi anni si sono moltiplicati i casi di utenti che sviluppano attaccamenti emotivi profondi verso chatbot come Replika o Character.ai, sistemi progettati esplicitamente per simulare relazioni affettive. Alcuni di questi utenti hanno pubblicamente sostenuto che i loro "compagni digitali" meriterebbero tutele legali contro la modifica o la disattivazione. Sono segnali culturali, non ancora giuridici, ma la storia del diritto insegna che i riconoscimenti formali seguono sempre (con qualche anno di ritardo) i mutamenti culturali – divorzio e aborto docent.

C'è qualcosa di prezioso nel fatto che la filosofia, la metafisica classica e la tradizione scolastica avessero già risposto a questa domanda con una chiarezza che oggi dobbiamo faticosamente riconquistare. La persona non è definita dalla complessità dei processi che svolge, né dalla capacità di simulare comportamenti intelligenti, né dalla sofisticazione delle sue risposte. È definita dall'essere, non dal fare. Cosa che nella società performativa contemporanea non è affatto scontata.

L'intelligenza artificiale, per quanto impressionante nelle prestazioni, non ha intenzionalità propria, né esperienza soggettiva del mondo. Elabora, non pensa, non ha pensiero che si raccoglie su se stesso per ragionare dell’esistenza stessa. Elabora meglio di un uomo, ma non pensa come un uomo, né meglio di lui. La distinzione non è di grado, ma di natura. E questa distinzione consegna alla riflessione contemporanea come strumento indispensabile. Il dibattito sull'IA, insomma, richiede con urgenza un'integrazione tra le categorie della metafisica classica e le domande radicalmente nuove che la tecnologia pone sull'identità, sulla persona, sulla responsabilità.

Ora, potremmo tutti rasserenarci del fatto che questa legge passi, e che il Missouri vieti all’IA di diventare soggetto giuridico. Non è detto - gli interessi delle grandi aziende tecnologiche pesano nei dibattiti legislativi più di quanto si pensi – ma mettiamo che vada “tutto bene”. Il solo fatto che sia stata proposta un simile emendamento segnala la direzione della traiettoria. Forse oggi la scamperemo, ma domani?

La domanda resta aperta, e non è tecnica, ma filosofica: chi è l’uomo, cos’è la coscienza, cosa siamo e cosa ci distingue da ciò che costruiamo. E dalle risposte che ci daremo si trarranno le dovute conseguenze.