Le applicazioni vietate
Come riporta il sito del Parlamento europeo, le nuove norme mettono fuori legge alcune applicazioni di IA che minacciano i diritti dei cittadini. Tra queste, i sistemi di categorizzazione biometrica basati su caratteristiche sensibili e l'estrapolazione indiscriminata di immagini facciali da internet o dalle registrazioni dei sistemi di telecamere a circuito chiuso per creare banche dati di riconoscimento facciale.
Saranno vietati anche i sistemi di riconoscimento delle emozioni sul luogo di lavoro e nelle scuole, i sistemi di credito sociale, le pratiche di polizia predittiva (se basate esclusivamente sulla profilazione o sulla valutazione delle caratteristiche di una persona) e i sistemi che manipolano il comportamento umano o sfruttano le vulnerabilità delle persone.
Nel dettaglio, possiamo dire che le Intelligenze Artificiali per il riconoscimento delle emozioni sono progettate per dedurre lo stato emotivo di un individuo a partire dall’analisi delle sue espressioni facciali, tono di voce, movimenti del corpo (come anche la sua andatura) e altri segnali biometrici, utilizzando strumenti di machine learning.
Come funzionanano le tecnologie per il riconoscimento facciale
La maggior parte dei software di riconoscimento facciale si basa interamente su immagini 2D. La stragrande maggioranza delle fotocamere scatta foto in 2D, e la stragrande maggioranza delle foto presenti sui Social è in 2D (es. foto profilo di Facebook). Tuttavia i volti in «2D» non sono qualitativamente accurati, poiché si tratta di immagini piatte – o senza profondità – del viso, in che non ci porta ad avere caratteristiche di identificazione.
Con un’immagine 2D, un dispositivo può misurare la distanza pupillare e la larghezza della bocca; tuttavia, non è in grado di riconoscere la lunghezza del naso o la prominenza della fronte. Inoltre, l’immagine facciale 2D si basa sulla luminosità: ciò significa che tale tecnica non funziona al buio, e può essere inaffidabile in condizione di scarsa illuminazione (con alto tasso di falsi positivi, ad esempio).
Il modo per ovviare ad alcune di queste carenze è quello di utilizzare la tecnologia 3D. Il riconoscimento facciale 3D si ottiene attraverso una tecnica chiamata «lidar», che è simile al sonar (usato in campo marittimo). In sostanza, i dispositivi di scansione del viso (es. l’iPhone), proiettano una sorta di impulso laser sul viso; questo impulso si riflette sul viso e viene ripreso da una fotocamera IR (InfraRed) presente nel dispositivo.