AI FACIAL PROFILING -

LEVELS OF PARANOIA

Installation

Marta%20Revuelta-Portrait-2021_edited.jp

Biographie

image marta revuelta.jpg

MARTA REVUELTA

Marta Revuelta est une artiste et une designer qui vit et travaille à Genève. Sa pratique artistique s'approprie et associe des éléments de la recherche scientifique en intelligence artificielle, des algorithmes d'apprentissage automatique et de la vision par ordinateur tout en utilisant la mécatronique, la programmation de logiciels et les technologies biométriques pour enquêter sur des questions éthiques fondamentales concernant les moments de dérive ou de mauvaise utilisation, les limites et le statut de ces artefacts technologiques pilotés par l'IA utilisée dans le domaine de la sécurité et de la défense.

Par son travail, elle tente de rendre plus tangibles et perceptibles les systèmes algorithmiques, caractérisés par leur opacité totale, afin de révéler leurs mécanismes et d'explorer leurs impacts, à mi-chemin entre la conception critique et l'art, l'ingénierie et la science des données. Elle est co-fondatrice du collectif Bureau de Crise, une plateforme de recherche regroupant des artistes, des ingénieurs en sécurité et des chercheurs préoccupés par les questions de protection de la vie privée dans notre société et qui agissent collectivement sur l'autonomisation dans le monde numérique.

AI FACIAL PROFILING, LEVELS OF PARANOIA

Les systèmes de surveillance basés sur la biométrie deviennent la base d'un large éventail de solutions d'identification et de profilage dans les domaines de la sécurité et de la défense et ils sont proposés par des gouvernements et des entreprises du monde entier.

Inspiré par les récents articles de recherche psychométrique qui prétendaient utiliser une IA pour détecter le potentiel criminel d'une personne sur la seule base d'une photo de son visage, et prenant le monde des armes à feu comme point de départ, "AI Facial Profiling, Levels of Paranoia" présente une "machine physionomique", un système de vision par ordinateur et de reconnaissance de formes piloté par apprentissage automatique qui détecte la capacité d'un individu à manipuler des armes à feu et prédit son danger potentiel à partir d'une analyse biométrique de son visage. Le dispositif est basé sur une caméra-arme qui capture les visages ainsi que sur une machine dotée d'une intelligence artificielle et d'un système mécanique qui classe les personnes profilées en deux catégories, celles qui présentent un risque élevé d'être une menace et celles qui présentent un risque moindre.

 

Le projet s'intéresse aux systèmes de profilage qui intègrent l'intelligence artificielle et explore

la nature omniprésente et invisible de ces "systèmes intelligents" qui fonctionnent si bien au niveau des modèles la détection, la classification et la prédiction. Associé à la notion de "déterminisme enchanté",l'œuvre d'art attire l'attention sur le discours qui présente les techniques d'apprentissage profond comme étant magiques, mais aussi déterministes, car ils peuvent analyser les caractéristiques biométriques d'une personne à dessiner les traits de personnalité qui peuvent être des prédicateurs de comportement et ainsi discerner des modèles subtils de types de personnalité "suspects".

Entre fiction et réalité, l'expérience prend le public comme point de départ d'une critique

 et vise à révéler le statut de ces technologies de surveillance alimentées par l'IA et démystifie l'"effet d'oracle" qui entoure ces les systèmes problématiques de profilage de l'IA utilisés pour classifier les humains, qui rétablissent d'anciennes formes de ségrégation sociale et raciale, ce qui a fait naître le débat et la discussion sur les biais algorithmiques et la légitimation de la discrimination par la technologie.

4-AI_Facial_Profiling©SandraPointet21.pn
10-AI_Facial_Profiling©HEAD_BaptisteCoul
9-AI_Facial_Profiling©HEAD_BaptisteCoulo
6-AI_Facial_Profiling©HEAD_BaptisteCoulo
8-AI_Facial_Profiling©SandraPointet21.pn
7-AI_Facial_Profiling©SandraPointet21.pn
3-AI_Facial_Profiling©SandraPointet21.pn