Note
La confidenza non è verifica
Un modello sicuro di sé non ha ancora dimostrato nulla. L'etica comincia dove una certezza si può rifiutare.
Abbiamo allenato una generazione di sistemi a parlare con sicurezza. L'interfaccia premia la scorrevolezza, la demo la velocità, la dashboard un numero verde. In quella catena la certezza prende il posto della verità, e quasi nessuno se ne accorge.
La verifica è lenta, e non fa bella figura. Chiede chi può contestare un output, su quali basi, con quali prove, e prima di quale decisione. La confidenza resta nel modello. La verifica sta fuori: nei registri, nel diritto di obiezione, nelle stanze in cui un rifiuto ha ancora peso.