I problemi dell'altruismo efficace vanno oltre Sam Bankman

Sam Bankman-Fried ha fatto dell’altruismo efficace una battuta finale, ma la sua filosofia del massimo fare del bene maschera una fiorente cultura di comportamento predatorio.

Ellen Huet

Illustrazione: Sophi Gullbrants per Bloomberg Businessweek

Vantaggio per gli abbonati

sottoscrivi

Sonia Joseph aveva 14 anni quando lesse per la prima volta Harry Potter e i metodi della razionalità, un popolarissimo pezzo di fan fiction che reinventa il maghetto come un rigido empirista. Questo Potter razionale mette alla prova gli incantesimi dei suoi professori con il metodo scientifico, si fa beffe di ogni incoerenza che trova e risolve tutti i problemi del mondo magico prima di compiere 12 anni. "L'ho adorato", dice Joseph, che ha letto HPMOR quattro volte quando era adolescente. Era un'indiano-americana neurodivergente e ambiziosa che si sentiva fuori posto nella sua scuola superiore suburbana del Massachusetts. La storia, dice, "attrae moltissimo gli outsider intelligenti".

La ricerca di altri scritti dell'autore della fanfic, Eliezer Yudkowsky, ha aperto più porte a Joseph. Dall’inizio degli anni 2000, Yudkowsky ha sostenuto che l’intelligenza artificiale ostile potrebbe distruggere l’umanità nel giro di decenni. Questa convinzione trainante lo ha reso un padrino intellettuale in una comunità di persone che si definiscono razionalisti e mirano a mantenere il proprio pensiero imparziale, anche quando le conclusioni sono spaventose. Il nascente interesse di Joseph per il razionalismo l'ha portata anche verso l'altruismo efficace, una filosofia morale correlata che è diventata famigerata per la sua associazione con l'ex miliardario caduto in disgrazia, Sam Bankman-Fried. Fondamentalmente, l’altruismo efficace sottolinea l’uso del pensiero razionale per avere un impatto positivo massimamente efficiente sul mondo. Questi gruppi distinti ma sovrapposti si sono sviluppati nei forum online, dove i post sui pericoli dell’intelligenza artificiale sono diventati comuni. Ma si sono concentrati anche nella Bay Area, dove hanno iniziato a delineare un campo di studio chiamato sicurezza dell’intelligenza artificiale, uno sforzo per rendere le macchine meno propense a ucciderci tutti.