La ville de New York propose des récompenses pour les lanceurs d'alerte dans la régulation de l'IA

Le 25 septembre, la présidente du Conseil de la ville de New York, Julie Menin, a dévoilé un ensemble complet de projets de loi sur la surveillance de l'intelligence artificielle, qui inclut notamment des dispositions pour récompenser les lanceurs d'alerte. Ces individus recevraient un pourcentage des amendes infligées aux entreprises d'IA reconnues coupables de violations des nouvelles régulations.

La législation proposée impose la mise en place de « kill switches » humains pour les systèmes d'IA non conformes, garantissant qu'un opérateur humain puisse intervenir lorsque l'algorithme se comporte de manière imprévisible. De plus, des audits de sécurité par des tiers seraient requis, avec des amendes pour violations pouvant atteindre jusqu'à 25 000 dollars par infraction. Un autre aspect significatif de ce paquet est l'élargissement des droits légaux pour les individus lésés par l'IA, leur permettant de poursuivre directement les développeurs.

Cette initiative législative sera débattue lors d'une audience du Conseil de la ville le 5 octobre, où les 51 membres du conseil sont attendus, ainsi que des PDG de grandes entreprises d'IA.

Cette démarche fait suite au lancement récent d'un portail pour lanceurs d'alerte par la procureure générale de New York, Letitia James, qui offre un canal formel pour que les travailleurs de l'IA signalent des pratiques dangereuses. Ce développement reflète l'engagement continu de la ville de New York à innover en matière de régulations locales dans le secteur technologique, s'appuyant sur sa loi de 2023 exigeant des audits de biais pour les outils de recrutement basés sur l'IA.

En conséquence de ce nouveau paquet, les entreprises d'IA opérant à New York pourraient faire face à des coûts de conformité accrus en raison de la nécessité d'audits par des tiers et de changements architecturaux potentiels pour répondre aux exigences des kill switches. L'introduction d'un droit d'action privé pourrait avoir un impact significatif sur la responsabilité des entreprises, en particulier dans des domaines à enjeux élevés tels que le logement et l'emploi.