Microsoft pide reglas de IA para minimizar riesgos
Microsoft aprobó una serie de regulaciones para la inteligencia artificial el jueves, mientras la compañía navega por las preocupaciones de los gobiernos de todo el mundo sobre los riesgos de la tecnología en rápida evolución.
Microsoft, que prometió incorporar inteligencia artificial en muchos de sus productos, propuso regulaciones que incluyen el requisito de que los sistemas utilizados en la infraestructura crítica puedan apagarse por completo o ralentizarse, de manera similar a un sistema de frenado de emergencia en un tren. La compañía también pidió leyes para aclarar cuándo se aplican obligaciones legales adicionales a un sistema de IA y para etiquetas que dejen claro cuándo una imagen o un video fue producido por una computadora.
'Las empresas deben dar un paso adelante', dijo Brad Smith, presidente de Microsoft, en una entrevista sobre el impulso de las regulaciones. 'El gobierno debe moverse más rápido'. Presentó las propuestas frente a una audiencia que incluía a legisladores en un evento en el centro de Washington el jueves por la mañana.
El llamado a las regulaciones marca un auge en la IA, con el lanzamiento del chatbot ChatGPT en noviembre generando una ola de interés. Desde entonces, empresas como Microsoft y la empresa matriz de Google, Alphabet, se han apresurado a incorporar la tecnología en sus productos. Eso ha avivado las preocupaciones de que las empresas están sacrificando la seguridad para llegar al próximo gran avance antes que sus competidores.
Los legisladores han expresado públicamente su preocupación de que tales productos de IA, que pueden generar texto e imágenes por sí mismos, creen una avalancha de desinformación, sean utilizados por delincuentes y dejen a la gente sin trabajo. en los que los sistemas perpetúan la discriminación o toman decisiones que violan la ley.
En respuesta a ese escrutinio, los desarrolladores de IA han pedido cada vez más que se transfiera parte de la carga de vigilar la tecnología al gobierno. debe regular la tecnología.
La maniobra hace eco de los pedidos de nuevas leyes de privacidad o redes sociales por parte de compañías de internet como Google y Meta, la matriz de Facebook. En Estados Unidos, los legisladores se han movido lentamente después de tales llamados, con pocas reglas federales nuevas sobre privacidad o redes sociales en los últimos años.
En la entrevista, el Sr. Smith dijo que Microsoft no estaba tratando de deshacerse de la responsabilidad de administrar la nueva tecnología, porque estaba ofreciendo ideas específicas y comprometiéndose a llevar a cabo algunas de ellas independientemente de si el gobierno tomaba medidas.
'No hay un ápice de abdicación de responsabilidad', dijo.
Respaldó la idea, apoyada por el Sr. Altman durante su testimonio ante el Congreso, de que una agencia gubernamental debería exigir a las empresas que obtengan licencias para implementar modelos de IA de 'alta capacidad'.
'Eso significa que debe notificar al gobierno cuando comience a realizar las pruebas', dijo Smith. 'Debe compartir los resultados con el gobierno. Incluso cuando tiene licencia para su implementación, tiene el deber de seguir monitoreándolo e informar al gobierno si surgen problemas inesperados'.
Microsoft, que ganó más de 22.000 millones de dólares con su negocio de computación en la nube en el primer trimestre, también dijo que esos sistemas de alto riesgo deberían poder operar solo en 'centros de datos de IA con licencia'. El Sr. Smith reconoció que la empresa no estaría 'mal posicionada' para ofrecer dichos servicios, pero dijo que muchos competidores estadounidenses también podrían brindarlos.
Microsoft agregó que los gobiernos deberían designar ciertos sistemas de inteligencia artificial utilizados en infraestructura crítica como de 'alto riesgo' y exigirles que tengan un 'freno de seguridad'. Comparó esa característica con 'los ingenieros de sistemas de frenos que los ingenieros han integrado durante mucho tiempo en otras tecnologías, como ascensores, autobuses escolares y trenes de alta velocidad'.
En algunos casos delicados, dijo Microsoft, las empresas que proporcionan sistemas de IA deberían tener que conocer cierta información sobre sus clientes. Para proteger a los consumidores del engaño, se debería exigir que el contenido creado por IA lleve una etiqueta especial, dijo la empresa.
Smith dijo que las empresas deberían asumir la 'responsabilidad' legal por los daños asociados con la IA. En algunos casos, dijo, la parte responsable podría ser el desarrollador de una aplicación como el motor de búsqueda Bing de Microsoft que usa la tecnología de IA subyacente de otra persona. Las empresas en la nube podrían ser responsables por cumplir con las normas de seguridad y otras normas, agregó.
'No necesariamente tenemos la mejor información o la mejor respuesta, o puede que no seamos el orador más creíble', dijo Smith. 'Pero, ya sabes, en este momento, especialmente en Washington DC, la gente está buscando ideas. .'
