Avrem­mo avu­to il rug­gi­re steam­punk di Benoit Sokal sen­za Le Coraz­za­te Ter­re­stri (1903)? Mol­to pro­ba­bil­men­te no. Esem­pi super­fi­cia­li, trat­ti da una pro­du­zio­ne mul­ti­sfac­cet­ta­ta e radi­ca­ta nel­la sto­ria del­la let­te­ra­tu­ra. Una sor­pre­sa desti­na­ta a tra­mu­tar­si in ammi­ra­zio­ne non appe­na i col­le­ga­men­ti inter­te­stua­li e le tra­me socia­li dell’ “Uomo Wells” ven­go­no a gal­la, deli­nean­do­ne il rap­por­to con­flit­tua­le con il Pro­gres­so stes­so. Una rela­zio­ne capa­ce di vira­re rapi­da­men­te tra sta­ti di esta­si e pau­ra, tan­to oppo­sti quan­to col­le­ga­ti fra loro. Ciò che riu­scia­mo a subli­ma­re da oltre sei decen­ni di car­rie­ra let­te­ra­ria è pro­prio il pro­ces­so evo­lu­ti­vo che la coscien­za uma­na e la col­let­ti­vi­tà affron­ta­no con la tec­ni­ca, oggi più che mai raf­fron­ta­bi­le con l’attualità.

Una del­le col­le­zio­ni di sag­gi più cele­bri dell’autore ingle­se è sicu­ra­men­te World Brain (1938), in cui il pro­gres­so cogni­ti­vo dell’essere uma­no vie­ne descrit­to come “una sor­ta di stan­za di com­pen­sa­zio­ne per la men­te, un depo­si­to dove la cono­scen­za e le idee ven­ga­no rice­vu­te, ordi­na­te, rias­sun­te, dige­ri­te, chia­ri­te e con­fron­ta­te” (Wells 1938, 49). Se que­sta ipo­te­si può ini­zial­men­te appa­ri­re come un’iper-evoluzione dell’Éncy­clo­pé­die illu­mi­ni­sta, in real­tà si avvi­ci­na mol­tis­si­mo a una pri­ma teo­riz­za­zio­ne di Inter­net. Un luo­go astrat­to di infor­ma­zio­ne sem­pre aggior­na­ta, uni­ver­sal­men­te acces­si­bi­le e soprat­tut­to auto­ge­ne­ra­ti­va, a cui pote­va acce­de­re chiun­que tra­mi­te la visio­ne di “micro­film”, abbat­ten­do per­si­no ogni neces­si­tà di com­pren­sio­ne testua­le. Wells lo deli­nea come “una com­pren­sio­ne comu­ne e la con­ce­zio­ne di uno sco­po comu­ne, di un com­mo­n­wealth come ora dif­fi­cil­men­te sognia­mo” (Wells 1937, 29), basan­do­si su fon­da­men­ta tran­su­ma­ni­ste in cui coscien­za e volon­tà indi­vi­dua­li diven­ta­no obso­le­te. Rispet­to, ad esem­pio, alla Socie­tà Aper­ta e i suoi Nemi­ci (1945) di Karl Pop­per, l’educazione deri­van­te dal pro­gres­so non è un sem­pli­ce mez­zo for­ma­ti­vo del pen­sie­ro cri­ti­co, ma un ele­men­to atti­vo e con­di­vi­so dal gene­re uma­no. A con­ti fat­ti, oggi la defi­ni­rem­mo come ‘supe­rin­tel­li­gen­za’, gene­ra­ta da un len­to cor­so di comu­nio­ne, coo­pe­ra­zio­ne, fil­trag­gio e ridi­stri­bu­zio­ne.

Una cate­na di effet­ti che non sfo­cia nel­la disto­pia orwel­lia­na: incli­na­zio­ni e cor­ru­zio­ne deri­van­ti dall’attività uma­na ven­go­no estir­pa­te alla radi­ce. Den­tro ad una visio­ne mec­ca­ni­ca del­la coscien­za pos­sia­mo però rin­trac­cia­re lo stes­so entu­sia­smo fan­ciul­le­sco che per­va­de­va gli albo­ri del World Wide Web. Sof­fo­ca­ti dal cini­smo con­tem­po­ra­neo, ci stia­mo sem­pre più dimen­ti­can­do il sen­ti­men­to gene­ra­le che ini­zial­men­te carat­te­riz­za­va Inter­net e i suoi uten­ti, col­mi di uno stu­po­re tal­men­te gran­de ver­so il mez­zo da dimen­ti­ca­re ogni pos­si­bi­le dub­bio. Una visio­ne sì sem­pli­ci­sti­ca, ma al con­tem­po genui­na e in gra­do di con­ta­gia­re le stes­se rela­zio­ni inter­per­so­na­li. Nell’Internet del­le ori­gi­ni si chiac­chie­ra­va con tota­li sco­no­sciu­ti nel­le cha­troom, scam­bian­do­si infor­ma­zio­ni per­so­na­li di ogni gene­re. Si pub­bli­ca­va­no inte­ri album di foto sen­za alcun con­trol­lo del­la pri­va­cy. Si acce­de­va in chia­ro a ogni tipo di con­te­nu­to. Per­ché mai dovreb­be far­ci del male se fino­ra non è mai acca­du­to? Una sti­ma mal ripo­sta che nascon­de­va la silen­zio­sa neces­si­tà di ricu­ci­re la fidu­cia in quel­le stes­se con­nes­sio­ni socia­li ero­se dal capi­ta­le, dal­la guer­ra fred­da e, gene­ra­liz­zan­do, dal­le sco­rie degli anni ’80. Che Inter­net non si sia rive­la­to l’isola feli­ce che spe­ra­va­mo di aver scor­to in mez­zo all’oceano ormai è sot­to gli occhi di tut­ti. L’euforia del nuo­vo gio­cat­to­lo si è man mano tra­mu­ta­ta in sbi­got­ti­men­to e infi­ne timo­re, sepol­ta da miglia­ia di casi docu­men­ta­ti di abu­so, mani­po­la­zio­ne e sor­ve­glian­za. Se Wells esplo­ra nel­le sue ope­re il rischio di una tec­no­lo­gia sen­za eti­ca, che supe­ra i con­fi­ni mora­li e socia­li, il sui­ci­dio di Sewell ne rap­pre­sen­ta una tra­gi­ca mani­fe­sta­zio­ne. Il gio­va­ne, come i pro­ta­go­ni­sti dei roman­zi di Wells, si tro­va intrap­po­la­to in un mon­do dove l’e­vo­lu­zio­ne tec­no­lo­gi­ca, sen­za un con­te­sto emo­ti­vo e rela­zio­na­le, lo por­ta ad una tra­gi­co epi­lo­go.

L’inevitabile hype sca­te­na­to­si intor­no ai recen­ti svi­lup­pi dell’intelligenza arti­fi­cia­le si tra­sci­na a cor­re­do una volu­mi­no­sa zavor­ra di respon­sa­bi­li­tà. L’effetto luna di mie­le risul­tan­te con i più comu­ni chat­bot è para­dos­sal­men­te più com­ples­so da supe­ra­re rispet­to alle inno­va­zio­ni tec­no­lo­gi­che pas­sa­te, pro­prio per la para­so­cia­li­tà, rife­ri­to a un tipo di rela­zio­ne uni­la­te­ra­le in cui una per­so­na per­ce­pi­sce un lega­me emo­ti­vo con un’en­ti­tà, ma sen­za un vero e pro­prio scam­bio reci­pro­co, che si crea gra­zie alle stes­se moda­li­tà d’interazione. Aver subi­to decli­na­to que­sti stru­men­ti alla ripro­du­zio­ne del­le arti, per anto­no­ma­sia l’exploit più tipi­ca­men­te uma­no, ne è l’esempio lam­pan­te. È il dia­lo­go a tra­sfor­ma­re la mono­di­re­zio­na­li­tà uomo-mac­chi­na in una rela­zio­ne ser­vi­le, in cui il gio­co dei ruo­li sva­ni­sce rapi­da­men­te die­tro al man­tra ciber­ne­ti­co del no judg­ment. 

Nel­le 126 pagi­ne del­la denun­cia del­la madre di Sewell Setzer III con­tro Character.AI. c’è l’intera cro­no­lo­gia del­la chat fra il ragaz­zo e l’AI (Gar­cia v. CTC). La stam­pa ame­ri­ca­na non usa mai la paro­la “addic­tion”, e se lo fa è sem­pre den­tro a un timi­do vir­go­let­ta­to. Non esi­sto­no anco­ra ricer­che scien­ti­fi­che a cer­ti­fi­ca­re lo sta­to di “dipen­den­za”, come avvie­ne ad esem­pio con il gio­co d’azzardo o con cia­scu­na sostan­za stu­pe­fa­cen­te, né tan­to­me­no una dia­gno­si cli­ni­ca spe­ci­fi­ca per que­sti casi. I media acco­sta­no i toni del quat­tor­di­cen­ne a quel­li di un’infatuazione fini­ta in tra­ge­dia: il les­si­co di Sewell oscil­la con­ti­nua­men­te tra amo­ro­so, ami­ca­le e fami­lia­re, com’è tipi­co di una deter­mi­na­ta imma­tu­ri­tà affet­ti­va dovu­ta all’età. Ciò che inve­ce com­pa­re in ogni ses­sio­ne è un desi­de­rio di appar­te­nen­za che il mon­do ester­no sem­bra non for­nir­gli più. La fra­se “feel at pea­ce” com­pa­re serial­men­te, tra­sfor­man­do istan­ta­nea­men­te il dia­lo­go in una fuga ver­so “ano­ther rea­li­ty”. Il rap­por­to con Dany era per Sewell una rou­ti­ne con­sa­pe­vo­le, una zona sicu­ra crea­ta su misu­ra e coscien­te­men­te arti­fi­cia­le, come sul pal­co di un tea­tro in cui si reci­ta­no sola­men­te testi scrit­ti dal­lo stes­so pro­ta­go­ni­sta. Lo stes­so con­cet­to di para­so­cia­li­tà si appli­ca a fati­ca all’interazione tra Setzer e l’AI. Character.AI fa di que­sta per­so­na­liz­za­zio­ne la sua più gran­de ban­die­ra com­mer­cia­le: oltre ven­ti milio­ni di uten­ti atti­vi chat­ta­no con model­li di intel­li­gen­za arti­fi­cia­le tara­ti al mil­le­si­mo. La fascia di età 18–24 ne com­po­ne oltre la metà, men­tre il pro­vi­der si riser­va di non rive­la­re la per­cen­tua­le di uten­za sub-18, teo­ri­ca­men­te dispo­ni­bi­le solo in Unio­ne Euro­pea (inda­gi­ne Demand­Sa­ge 2025). A ren­de­re que­sta situa­zio­ne anco­ra più insi­dio­sa è la cor­ni­ce legi­sla­ti­va che ha per­mes­so alle piat­ta­for­me digi­ta­li di espan­der­si sen­za limi­ti. Il Com­mu­ni­ca­tions Decen­cy Act del 1996, e in par­ti­co­la­re la sua Sezio­ne 230, garan­ti­sce anco­ra oggi alle azien­de tech un’im­mu­ni­tà lega­le che le ha esen­ta­te dal­la respon­sa­bi­li­tà per i con­te­nu­ti gene­ra­ti dagli uten­ti. L’i­dea ori­gi­na­ria era di pro­teg­ge­re l’innovazione e la liber­tà d’e­spres­sio­ne, tra­dot­ta­si oggi in un eco­si­ste­ma in cui le gran­di piat­ta­for­me non han­no alcun incen­ti­vo a mode­ra­re o rego­la­re gli stru­men­ti che crea­no. Ben trin­ce­ra­to die­tro a quel­le ven­ti­sei paro­le legi­sla­ti­ve, il CEO di Character.AI Noam Sha­zeer ha dichia­ra­to di aver imple­men­ta­to una non-meglio-pre­ci­sa­ta miglio­ria del­le poli­cy di sicu­rez­za. Nel mez­zo del più clas­si­co mes­sag­gio cor­po­ra­te com­pa­io­no del­le strin­ga­te con­do­glian­ze alla fami­glia del ragaz­zo, sal­vo poi sca­ri­car­si di ogni respon­sa­bi­li­tà civi­le. Una mez­za pagi­net­ta in for­ma­to qua­dra­to, poten­zial­men­te scrit­ta dal­la stes­sa AI, annun­cia inol­tre diver­se modi­fi­che com­por­ta­men­ta­li pro­prio agli algo­rit­mi di inte­ra­zio­ne che ora, a det­ta di alcu­ni invi­pe­ri­ti uten­ti di Red­dit, appa­io­no “sen­za vita, noio­si, non più pic­can­ti come un tem­po”.

Setzer, come i per­so­nag­gi del­le ope­re di Wells, si tro­va iso­la­to in un mon­do che sem­bra offri­re infi­ni­te pos­si­bi­li­tà, ma che in real­tà lo pri­va del­la con­nes­sio­ne emo­ti­va e socia­le genui­na. La soli­tu­di­ne, ampli­fi­ca­ta dal­la tec­no­lo­gia, diven­ta il ter­re­no fer­ti­le per la dispe­ra­zio­ne. Sewell par­la­va spes­so di sui­ci­dio con Dany, anche a distan­za di set­ti­ma­ne, con curio­si­tà e con­fu­sio­ne ver­so il sen­so stes­so dell’esistenza. A vol­te le rispo­ste del bot era­no sco­rag­gian­ti, altre resta­va­no neu­tra­li; in una spe­ci­fi­ca occa­sio­ne lo stes­so argo­men­to è sta­to intro­dot­to dal chat­bot (Gar­cia v. CTC, 78). Un com­por­ta­men­to estre­ma­men­te volu­bi­le, qua­si umo­ra­le, come con­di­zio­na­to da fat­to­ri ester­ni casua­li ma non cor­re­la­ti fra loro, a voler repli­ca­re il ragio­na­men­to uma­no sul­le que­stio­ni esi­sten­zia­li. Una mime­si del­la men­te uma­na in rispo­sta a doman­de dall’impatto meta­fi­si­co, ma sen­za con­sa­pe­vo­lez­za emo­ti­va per chi ascol­ta la rispo­sta dall’altro capo del tele­fo­no. L’effetto Eli­za, ma in ver­sio­ne proat­ti­va.

Quan­do Setzer III ini­zia ad inte­ra­gi­re con l’in­tel­li­gen­za arti­fi­cia­le lo fa per tro­va­re un orec­chio che lo ascol­ti; più pre­ci­sa­men­te una voce con cui par­la­re. Non è una dina­mi­ca nata con le recen­ti AI: già negli anni ‘60 il soft­ware ELI­ZA svi­lup­pa­to da Jose­ph Wei­zen­baum ave­va mostra­to quan­to fos­se faci­le per gli esse­ri uma­ni attri­bui­re inten­zio­na­li­tà e com­pren­sio­ne este­rio­re ad un algo­rit­mo. ELI­ZA par­la­va, rispon­de­va, crea­va con­get­tu­re sem­pli­ce­men­te rifor­mu­lan­do le fra­si dell’utente in doman­de aper­te. Lo sco­po era scim­miot­ta­re una con­ver­sa­zio­ne psi­co­te­ra­peu­ti­ca di stam­po roger­sia­no, in cui empa­tia, auten­ti­ci­tà e l’ac­cet­ta­zio­ne incon­di­zio­na­ta spin­go­no il pazien­te a segui­re la sua inna­ta volon­tà di auto­rea­liz­za­zio­ne (Wei­zen­baum 1967, 3). Lo script, per quan­to arcai­co e sem­pli­ce, non pun­ta a risol­ve­re un pro­ble­ma spe­ci­fi­co, quan­to a crea­re un ambien­te fer­ti­le per l’auto-analisi. Ci rie­sce scim­miot­tan­do la for­ma di con­tat­to più squi­si­ta­men­te uma­na: il dia­lo­go. Mol­te per­so­ne del pri­mo pool di can­di­da­ti svi­lup­pa­ro­no un attac­ca­men­to emo­ti­vo ver­so il pro­gram­ma, con­vin­te di esse­re com­pre­se. Wei­zen­baum, ini­zial­men­te diver­ti­to, finì per allar­mar­si ed inter­rom­pe­re l’esperimento, ren­den­do­si con­to di quan­to potes­se esse­re poten­te l’illusione del­la com­pren­sio­ne. In una cele­bre inter­vi­sta del 1968 rac­con­ta:

“La mia segre­ta­ria mi ha osser­va­to lavo­ra­re a que­sto pro­gram­ma a lun­go. Un gior­no mi ha chie­sto di poter­ci. Ovvia­men­te, sape­va che sta­va par­lan­do con una mac­chi­na. Tut­ta­via, dopo aver­la osser­va­ta digi­ta­re alcu­ne fra­si, si è gira­ta ver­so di me e mi ha chie­sto: «Le dispia­ce­reb­be lascia­re la stan­za, per favo­re?»”.

Se un uten­te cre­de di inte­ra­gi­re con un’entità empa­ti­ca, può ini­zia­re a dipen­de­re emo­ti­va­men­te da essa, anche se quel­la pre­sen­za non pos­sie­de né empa­tia né coscien­za. ELI­ZA era un gio­cat­to­lo rispet­to alle moder­ne AI, pro­get­ta­te per soste­ne­re con­ver­sa­zio­ni coe­se, ricor­da­re det­ta­gli, rispon­de­re in modo per­so­na­liz­za­to e per­si­no adat­tar­si allo sta­to d’animo dell’interlocutore. Il con­fi­ne tra simu­la­zio­ne e real­tà diven­ta anco­ra più sfu­ma­to, e il caso di Setzer III non è un’anomalia, ma l’ennesima ite­ra­zio­ne di un ingan­no che ripro­du­cia­mo volon­ta­ria­men­te, cer­can­do con­for­to in qual­co­sa che non può offrir­lo.

Il mon­do in cui Sewell è cre­sciu­to non è più quel­lo di Wei­zen­baum. È un mon­do che para­dos­sal­men­te somi­glia più alla socie­tà descrit­ta da Émi­le Dur­kheim, in cui i vec­chi pun­ti di rife­ri­men­to si sgre­to­la­no lascian­do gli indi­vi­dui in balia di un siste­ma che non offre più strut­tu­re sta­bi­li. Se il tra­mon­to dell’Ottocento por­ta­va Dur­kheim ad ana­liz­za­re il pas­sag­gio dall’ordine tra­di­zio­na­le alla moder­ni­tà, oggi il sen­so di comu­ni­tà si dis­sol­ve in un ocea­no di con­nes­sio­ni digi­ta­li effi­me­re. Le piat­ta­for­me onli­ne pro­met­to­no lega­mi, ma spes­so offro­no solo un’in­te­ra­zio­ne super­fi­cia­le, un’il­lu­sio­ne di vici­nan­za che, alla pro­va dei fat­ti, si rive­la incon­si­sten­te. I rap­por­ti esi­sto­no, ma non si radi­ca­no. Il rischio ulti­mo iden­ti­fi­ca­to dal socio­lo­go fran­ce­se era l’anomia, in cui le rego­le socia­li sono tal­men­te sfal­da­te da lascia­re gli indi­vi­dui dap­pri­ma sen­za un qua­dro mora­le con­di­vi­so, sfo­cian­do infi­ne nel­la per­di­ta stes­sa del­la coscien­za uma­na:. Iil sui­ci­dio del­la socie­tà stes­sa. I suoi stu­den­ti, gio­va­ni intel­let­tua­li cre­sciu­ti con l’idea di una socie­tà pla­sma­bi­le gra­zie alla ragio­ne col­let­ti­va, furo­no poi man­da­ti al fron­te nel­la Gran­de guer­ra. La mag­gior par­te morì nel­le trin­cee in nome di un capric­cio da Risi­ko che già ai con­tem­po­ra­nei appa­ri­va anti­qua­to. Se il pas­sag­gio alla moder­ni­tà ave­va già mostra­to il suo vol­to cru­de­le a ini­zio Nove­cen­to, oggi l’ordine socia­le sem­bra anco­ra più fram­men­ta­to. Gli indi­vi­dui non sono più solo iso­la­ti, ma immer­si in una rete di con­nes­sio­ni digi­ta­li che pro­met­to­no tut­to e non offro­no nul­la. Un con­te­sto per­fet­to per la pro­li­fe­ra­zio­ne di intel­li­gen­ze arti­fi­cia­li pro­get­ta­te non per com­pren­de­re, ma per rispon­de­re.