La ciudad de Nueva York se mueve para regular cómo se usa la IA en la contratación
Los legisladores europeos están terminando de trabajar en un AIact. La administración de Biden y los líderes en el Congreso tienen sus planes para controlar la inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, creador de AIsensation ChatGPT, recomendó la creación de una agencia federal con supervisión y autoridad de licencias en el testimonio del Senado la semana pasada. Y el tema surgió en la cumbre del Grupo de los 7 en Japón.
En medio de amplios planes y compromisos, la ciudad de Nueva York se ha convertido en una modesta pionera en la regulación de la IA.
El gobierno de la ciudad aprobó una ley en 2021 y adoptó reglas específicas el mes pasado para una aplicación de alto riesgo de la tecnología: decisiones de contratación y promoción. La aplicación comienza en julio.
La ley de la ciudad exige que las empresas que utilizan software de inteligencia artificial en la contratación notifiquen a los candidatos que se está utilizando un sistema automatizado. También exige que los auditores independientes verifiquen la tecnología anualmente para detectar sesgos. Los candidatos pueden solicitar y recibir información sobre los datos que se recopilan y analizan. Empresas será multado por infracciones.
El enfoque centrado de la ciudad de Nueva York representa un frente importante en la regulación de la IA. En algún momento, los principios generales desarrollados por los gobiernos y las organizaciones internacionales, dicen los expertos, deben traducirse en detalles y definiciones. ¿Quién se ve afectado por la tecnología? ¿Cuáles son los beneficios y los daños? ¿Quién puede intervenir y cómo?
'Sin un caso de uso concreto, no está en posición de responder esas preguntas', dijo Julia Stoyanovich, profesora asociada de la Universidad de Nueva York y directora de su Centro para la IA responsable.
Pero incluso antes de que entre en vigor, la ley de la ciudad de Nueva York ha sido un imán para las críticas. Los defensores del interés público dicen que no va lo suficientemente lejos, mientras que los grupos empresariales dicen que no es práctica.
Las quejas de ambos campos apuntan al desafío de regular la IA, que avanza a un ritmo vertiginoso con consecuencias desconocidas, provocando entusiasmo y ansiedad.
Los compromisos incómodos son inevitables.
A la Sra. Stoyanovich le preocupa que la ley de la ciudad tenga lagunas que puedan debilitarla. 'Pero es mucho mejor que no tener una ley', dijo. 'Y hasta que no intente regular, no aprenderá cómo hacerlo'.
La ley se aplica a las empresas con trabajadores en la ciudad de Nueva York, pero los expertos laborales esperan que influya en las prácticas a nivel nacional. Al menos cuatro estados (California, Nueva Jersey, Nueva York y Vermont) y el Distrito de Columbia también están trabajando en leyes para regular la IA en contrataciones. Y Illinois y Maryland han promulgado leyes que limitan el uso de tecnologías de inteligencia artificial específicas, a menudo para la vigilancia del lugar de trabajo y la selección de candidatos para el puesto.
La ley de la ciudad de Nueva York surgió de un choque de puntos de vista profundamente contradictorios. El Concejo Municipal la aprobó durante los últimos días de la administración del alcalde Bill de Blasio. Las rondas de audiencias y comentarios públicos, más de 100,000 palabras, vinieron después, supervisados por el Departamento de Protección al Consumidor y al Trabajador de la ciudad, la agencia normativa.
El resultado, dicen algunos críticos, es demasiado comprensivo con los intereses comerciales.
'Lo que podría haber sido una ley histórica se diluyó hasta perder efectividad', dijo Alexandra Givens, presidenta del Centro para la Democracia y la Tecnología, una organización política y de derechos civiles.
Eso se debe a que la ley define una 'herramienta de decisión de empleo automatizada' como tecnología utilizada 'para ayudar o reemplazar sustancialmente la toma de decisiones discrecionales', dijo. es el factor único o principal en una decisión de contratación o se usa para invalidar a un ser humano, dijo la Sra.Givens.
Eso deja de lado la forma principal en que se usa el software automatizado, dijo, con un gerente de contratación que invariablemente toma la decisión final. en el reclutamiento en línea dirigido para generar un grupo de candidatos.
La Sra.Givens también criticó la ley por limitar los tipos de grupos medidos por trato injusto. Cubre los prejuicios por sexo, raza y etnia, pero no la discriminación contra los trabajadores mayores o aquellos con discapacidades.
'Mi mayor preocupación es que esto se convierta en la plantilla a nivel nacional cuando deberíamos pedir mucho más a nuestros formuladores de políticas', dijo la Sra.Givens.
La ley se redujo para afinarla y asegurarse de que fuera enfocada y aplicable, dijeron los funcionarios de la ciudad. El Concejo y la agencia de protección de los trabajadores escucharon muchas voces, incluidos activistas de interés público y compañías de software. Su objetivo era sopesar las compensaciones entre innovación y daño potencial, dijeron las autoridades.
'Este es un éxito regulatorio significativo para garantizar que la tecnología de IA se use de manera ética y responsable', dijo Robert Holden, quien era el presidente del comité de tecnología del Consejo cuando se aprobó la ley y sigue siendo miembro del comité.
La ciudad de Nueva York está tratando de abordar la nueva tecnología en el contexto de las leyes federales del lugar de trabajo con pautas sobre la contratación que datan de la década de 1970. La regla principal de la Comisión de Igualdad de Oportunidades en el Empleo establece que ninguna práctica o método de selección utilizado por los empleadores debe tener un 'impacto dispar'. ' sobre un grupo legalmente protegido como las mujeres o las minorías.
Las empresas han criticado la ley. En una presentación de este año, Software Alliance, un grupo comercial que incluye a Microsoft, SAP y Workday, dijo que el requisito de auditorías independientes de IA 'no era factible' porque 'el panorama de auditoría es incipiente' y carece de estándares. y órganos profesionales de supervisión.
Pero un campo naciente es una oportunidad de mercado. El negocio de auditoría de IA, dicen los expertos, solo va a crecer. Ya está atrayendo firmas de abogados, consultores y nuevas empresas.
Las empresas que venden software de IA para ayudar en las decisiones de contratación y promoción generalmente han llegado a adoptar la regulación. Algunas ya se han sometido a auditorías externas. Ven el requisito como una ventaja competitiva potencial, lo que demuestra que su tecnología amplía el grupo de candidatos laborales para las empresas y aumenta oportunidad para los trabajadores.
'Creemos que podemos cumplir con la ley y mostrar cómo se ve una buena IA', dijo Roy Wang, asesor general de Eightfold AI, una empresa emergente de Silicon Valley que produce software que se usa para ayudar a los gerentes de contratación.
La ley de la ciudad de Nueva York también adopta un enfoque para regular la IA que puede convertirse en la norma. La medida clave de la ley es una 'tasa de impacto' o un cálculo del efecto del uso del software en un grupo protegido de candidatos laborales. No profundiza sobre cómo un algoritmo toma decisiones, un concepto conocido como 'explicabilidad'.
En aplicaciones que afectan la vida como la contratación, dicen los críticos, las personas tienen derecho a una explicación de cómo se tomó una decisión. Pero el software de estilo AIlike ChatGPT se está volviendo más complejo, tal vez poniendo el objetivo de una IA explicable fuera de alcance, dicen algunos expertos.
'El enfoque se convierte en el resultado del algoritmo, no en el funcionamiento del algoritmo', dijo Ashley Casovan, directora ejecutiva del Instituto de IA Responsable, que está desarrollando certificaciones para el uso seguro de aplicaciones de IA en el lugar de trabajo, la atención médica y las finanzas.
