L'IA vous cherchera peut-être des armes la prochaine fois que vous sortirez en public

Espace réservé pendant le chargement des actions d’article

Lorsque Peter George a appris la nouvelle de la fusillade de masse à motivation raciale au supermarché Tops de Buffalo le week-end dernier, il a eu une pensée qu’il a souvent eue après de telles tragédies.

“Est-ce que notre système aurait pu l’arrêter ?” il a dit. “Je ne sais pas. Mais je pense que nous pourrions démocratiser la sécurité afin que quelqu’un qui prévoit de blesser les gens ne puisse pas facilement entrer dans un endroit sans méfiance.

George est directeur général d’Evolv Technology, un système basé sur l’IA destiné à signaler les armes, “démocratisant la sécurité” afin que les armes puissent être maintenues hors des lieux publics sans points de contrôle élaborés. Alors que la violence armée aux États-Unis comme celle observée à Buffalo augmente – les ventes d’armes à feu ont atteint des sommets en 2020 et 2021 tandis que les Gun Violence Archive signalent 198 fusillades de masse depuis janvier – Evolv est devenu de plus en plus populaire, utilisé dans les écoles, les stades, les magasins et autres lieux de rassemblement .

Pour ses partisans, le système est une alternative plus efficace et moins envahissante au détecteur de métaux séculaire, rendant les événements à la fois plus sûrs et plus agréables à assister. Pour ses détracteurs, cependant, l’efficacité d’Evolv n’a guère été prouvée. Et cela ouvre une boîte de Pandore de problèmes éthiques dans lesquels la commodité est payée avec la surveillance RoboCop.

“L’idée d’un détecteur de métaux plus doux et plus doux est une bonne solution en théorie à ces terribles fusillades”, a déclaré Jay Stanley, analyste principal des politiques pour le projet de l’American Civil Liberties Union sur la parole, la vie privée et la technologie. « Mais voulons-nous vraiment créer plus de moyens pour que la sécurité envahisse notre vie privée ? Voulons-nous transformer chaque centre commercial ou chaque match de la Petite Ligue en aéroport ? »

Les machines Evolv utilisent la “détection active” – ​​une technique d’émission de lumière qui sous-tend radar et lidar — pour créer des images. Ensuite, il applique l’IA pour les examiner. Les scientifiques des données de la société Waltham, Mass., ont créé des “signatures” (essentiellement, des plans visuels) et formé l’IA pour les comparer aux images du scanner.

Les dirigeants disent que le résultat est un système intelligent qui peut “repérer” une arme sans que personne n’ait besoin de s’arrêter et de vider ses poches dans une machine à bip. Lorsque le système identifie un élément suspect parmi un groupe de personnes qui le traversent, il dessine une boîte orange autour de lui sur un flux vidéo en direct de la personne qui entre. Ce n’est qu’à ce moment-là qu’un agent de sécurité, surveillant sur une tablette à proximité, s’approchera pour plus de contrôle.

Dan Donovan, un consultant en sécurité chevronné qui loue les systèmes d’Evolv à des clients pour des événements, explique qu’en permettant aux gardes de se concentrer sur moins de menaces, cela évite la fatigue que peuvent ressentir les opérateurs de détecteurs de métaux. Comme d’autres consultants, il note qu’aucun système n’aurait probablement arrêté le tireur de Buffalo, qui a commencé à tirer dans le parking.

Les consommateurs peuvent s’attendre à voir Evolv beaucoup plus. Des franchises sportives comme les Titans du Tennessee et les Panthers de la Caroline l’utilisent désormais ; tout comme les Mets de New York et Columbus Crew. Le Super Bowl au SoFi Stadium en février s’est déployé pour un périmètre extérieur. À New York, des institutions artistiques publiques telles que le Lincoln Center s’y essaient. Ainsi est un hôpital municipal. (Le maire de New York, Eric Adams, l’a présenté comme une mesure de sécurité potentielle dans le métro, mais les espaces restreints et les interférences de signaux souterrains rendent cela moins plausible.)

Le système scolaire Charlotte-Mecklenburg de Caroline du Nord, avec 150 000 élèves, a également autorisé Evolv. Les parcs à thème sont également ravis – les 27 parcs Six Flags à travers le pays l’utilisent désormais. Evolv a maintenant effectué 250 millions de scans à ce jour, dit-il, contre 100 millions en septembre.

George pense que la précision et l’absence de friction rendent Evolv convaincant. “Personne ne veut d’une prison ou d’un aéroport partout où il va, ce que vous avez avec un stupide détecteur de métaux analogique”, a-t-il déclaré. “Et le coût de ne rien faire augmente de jour en jour.”

La société, qui est devenue publique l’année dernière, a levé au moins 400 millions de dollars, avec diverses personnalités telles que Jeb Bush, Bill Gates, Peyton Manning et Andre Agassi investissant. (L’espace se développe, avec un système de son rival italien CEIA qui gagne également en popularité.) S’appuyant principalement sur les abonnements de quatre ans qu’il vend, Evolv a plus que doublé son chiffre d’affaires au premier trimestre pour atteindre 8,7 millions de dollars par rapport à 2021, mais aussi plus de a doublé ses pertes, à 18,2 millions de dollars.

Les magasins de détail sont un cas d’utilisation attrayant, a déclaré George, car les gens veulent se sentir en sécurité dans leurs achats, mais ne veulent pas être arrêtés et contrôlés chaque fois qu’ils entrent pour acheter des produits d’épicerie. (Environ 60 personnes peuvent être scannées chaque minute, selon Evolv.) George a déclaré que lorsque le système a été installé dans un centre commercial de la région d’Atlanta, Lenox Square, en janvier, il a détecté 57 armes à feu au cours des quatre premières heures.

Dans l’ensemble, a déclaré George, au moins 15 000 armes à feu ont été signalées par Evolv au cours du premier trimestre de 2022. (Ces chiffres ne sont pas vérifiés publiquement.)

Mais IPVM, un métier de l’industrie de la sécurité publication, a conclu après un examen qu’Evolv a “des limites technologiques fondamentales pour différencier les objets bénins des armes réelles”. Un problème, a déclaré IPVM, citant son examen de la société, est que certains objets métalliques confondent l’IA, y compris en particulier le Google Chromebook de conception robuste.

IPVM dit qu’Evolv n’a pas fourni suffisamment de données. La publication indique également que la société ne s’engagera pas avec elle en raison de ses demandes de renseignements ; il dit que l’entreprise lui a même demandé de cesser de faire des reportages sur Evolv au nom de la sécurité publique.

Dans une déclaration au Washington Post concernant le conflit, Evolv a déclaré: «Nous pensons que la publication d’un plan de toute technologie de filtrage de sécurité est irresponsable et rend le public moins sûr en fournissant des informations inutiles à ceux qui pourraient essayer d’utiliser les informations pour causer du tort. .”

Alan Cowen, ancien scientifique de Google et expert en IA, dit qu’il s’inquiéterait également des «exemples contradictoires», dans lesquels de mauvais acteurs apprennent à contourner l’IA – par exemple, en mettant du ruban adhésif autour d’une poignée de pistolet – ainsi qu’un retard dans comprendre cela parce qu’Evolv ne le signalera pas.

Certains techno-éthiciens disent que la précision n’est qu’une crainte.

“Si cela peut réduire les faux positifs tout en capturant les vrais positifs, cela semble être un avantage”, a déclaré Jamais Cascio, auteur et fondateur d’Open the Future, une organisation examinant les conséquences de la technologie. « Ma préoccupation est de savoir ce qui se passe lorsque cela va au-delà de la recherche d’armes lors d’un concert – lorsque quelqu’un décide d’ajouter toutes sortes d’entrées sur la personne scannée, ou si nous entrons dans une manifestation et qu’une agence gouvernementale peut désormais utiliser le système pour suivre et connectez-nous. Nous savons ce qu’un détecteur de métaux peut et ne peut pas nous dire. Nous n’avons aucune idée de comment cela peut être utilisé.

George dit qu’aucune donnée n’est appliquée à un sujet de numérisation et qu’aucune information n’est capturée ou cataloguée. Quant à la précision, il reconnaît que le Chromebook a été un problème, mais dit que l’algorithme est en cours d’amélioration. Il suggère que les étudiants pourraient simplement se rendre compte qu’ils doivent les retenir sur le chemin de l’école, un petit prix à payer. “Pourquoi ne devrait-il pas y avoir un système où les enfants peuvent apprendre en toute sécurité et aussi entrer sans ralentir la foulée ?” Il a demandé.

Reste à savoir si cela sera possible dans de grands districts comme Charlotte-Mecklenberg. Les demandes de commentaires du service de police chargé de la sécurité du district n’ont pas été renvoyées.

Plusieurs clients d’Evolv, The Post, ont déclaré qu’ils étaient satisfaits du système.

“Nous sommes passés de 30 lignes de détection de métaux à quatre voies, et nous n’arrêtons pas les gens pour chaque téléphone portable ou clé de maison”, a déclaré Jason Freeman, vice-président de la sécurité, de la santé et de l’environnement chez Six Flags. Il a déclaré que les interpellations globales étaient passées de 32% à 15%, la grande majorité n’étant toujours pas considérée comme une menace. L’idée n’est pas seulement d’attraper plus d’armes ; c’est pour perdre moins de temps sur tout le reste.

Mark Heiser, directeur de la salle du Denver Performing Arts Complex, affirme que le système est à des années-lumière du détecteur de métaux. “Nous n’y retournerons jamais”, a-t-il déclaré.

Heiser a cité moins d’alarmes pour des articles comme les canifs – “ce qui est bien, car cela nous permet de nous concentrer sur [the more destructive weapons].” Et, a-t-il noté, de nombreux spectateurs se sentent plus libres d’entrer.

Mais Stanley de l’ACLU reste sceptique.

“Les appareils sont plus subtils, c’est une bonne chose. Mais ils peuvent aussi être plus insidieux ou même simplement ennuyeux », a-t-il déclaré. “Vous allez avoir beaucoup de gens choqués par un parapluie caché dans une poche de manteau qui mène soudainement à une rencontre avec un agent de sécurité.”