In Corea del Sud un uomo è stato ucciso da un robot.
Il braccio meccanico ha confuso l’operaio con una scatola di verdure e l’ha afferrato, schiacciandolo.
Non è la prima volta che un robot ferisce un essere umano: nel luglio del 2022 per citare un caso meno drammatico, un braccio meccanico utilizzato per giocare a scacchi non è riuscito a riconoscere correttamente il dito di un bambino e l’ha afferrato, fratturandolo.
Ma com’è possibile che succedano episodi simili?
Gli algoritmi che riescono ad identificare un essere umano sono utilizzati in tantissimi ambiti, per esempio negli aeroporti. In condizioni ottimali hanno una precisione molto alta, anche piu del 99%,
Però ogni algoritmo non avrà mai una precisione del 100%, non sarà mai infallibile.
Per semplificare:prova a pensare allo sblocco del tuo telefono, a volte non va
Si possono avere casi di falsi positivi e falsi negativi.
Un falso positivo avviene quando un oggetto viene identificato erroneamente come essere umano, un falso negativo è invece il contrario, quando un essere umano viene scambiato per oggetto.
Gli algoritmi ed i robot sono usati anche in settori industriali e lavorano a fianco dell’essere umano. In questi ambiti un errore da parte delle macchine può essere molto pericoloso
Più le macchine, i “robot” diventeranno efficienti, più saranno utilizzati, quindi è possibile che incidenti simili avverranno ancora, probabilmente anzi, a queste condizioni sono destinati ad aumentare
Serve quindi più regolamentazione, sicurezza e soprattutto più trasparenza su come vengono sviluppati algoritmi, robot ed intelligenze artificiali.
Nel 1950 lo scrittore di fantascienza Isaac Asimov scriveva le sue leggi della robotica ovvero le leggi che regolano, nel mondo fantascientifico, il comportamento dei robot, ci limitiamo a leggere la prima:
Un robot non può ferire un essere umano o, per inerzia, permettere che un essere umano venga ferito
a cura di Claudio Valletta