Dietro l’apprendimento di una Ia, oltre ai tecnici, ci sono migliaia di valutatori che leggono le risposte dell’Ia classificandole come corrette, utili o offensive. È il processo di Reinforcement Learning from Human Feedback. Se l’Ai fosse una macchina il pre-addestramento sarebbe il motore e il telaio, il feedback dei valutatori il volante, il sistema frenante e il navigatore. Se il volante è bloccato dai pregiudizi di chi ha scritto le regole di valutazione, la macchina andrà dove dice il padrone, non dove indica la logica. Se il gruppo che decide cos’è normale è composto da una ristretta élite, il buon senso dell’Ia diventerà inevitabilmente il loro, escludendo le sfumature di chi vive altrove o ha un’età diversa. Ad oggi, questo processo di selezione dei valutatori umani è spesso poco trasparente. Le aziende tecnologiche privilegiano rapidità rispetto alla rappresentatività culturale. C’è però una strada nuova: rendere persone comuni parte attiva del processo.
Democratic IA: perché l’etica dell’intelligenza artificiale riguarda tutti
Molti ricercatori etici la chiamano Democratic Ia. Invece di una risposta unica, si insegna all’IA che su certi temi esistono più visioni legittime (ad esempio, la visione di una professionista over 50 che vive in Sicilia ha la stessa dignità di quella di uno studente a Berlino). Ma tutto ciò non è ancora attuato da tutti. Il guadagno e il vantaggio competitivo restano le priorità aziendali. Eppure, alcuni come OpenAI, Collective Intelligence Project, progetti Open Source e realtà accademiche stanno esplorando questa direzione. Chi definisce le regole dell’algoritmo definisce la morale dei prossimi 50 anni. Accettare passivamente questo atto di delega è pericoloso. La Democratic Ia è il nostro diritto di definire l’etica delle macchine che condizioneranno le nostre vite. Le Big Tech dicono “è l’algoritmo che decide”, io rispondo: “no, è il manuale dato a un precario valutatore in un call center a decidere per me”.
Per approfondimenti scrivimi leggidiagonale@gmail.com.