Sam Altman, creador de ChatGPT y CEO de OpenAI, insta al Senado a regular la IA
El tono de las audiencias del Congreso con ejecutivos de la industria tecnológica en los últimos años puede describirse mejor como antagónico. Mark Zuckerberg, Jeff Bezos y otras luminarias tecnológicas han sido criticados en el Capitolio por legisladores molestos con sus empresas.
Pero el martes, Sam Altman, director ejecutivo de OpenAI, una empresa emergente de San Francisco, testificó ante los miembros de un subcomité del Senado y coincidió en gran medida con ellos en la necesidad de regular la tecnología de inteligencia artificial cada vez más poderosa que se crea dentro de su empresa y otras como Google y Microsoft.
En su primer testimonio ante el Congreso, el Sr. Altman imploró a los legisladores que regularan la inteligencia artificial mientras los miembros del comité mostraban un entendimiento incipiente de la tecnología. La audiencia subrayó la profunda inquietud que sienten los tecnólogos y el gobierno sobre los daños potenciales de la IA. Pero esa inquietud no extender al Sr. Altman, quien tuvo una audiencia amistosa en los miembros del subcomité.
La aparición del Sr. Altman, un emprendedor tecnológico y desertor de la Universidad de Stanford de 38 años, fue su bautizo como la figura principal de la inteligencia artificial. la audiencia de tres horas.
El Sr. Altman también habló sobre la tecnología de su compañía en una cena con docenas de miembros de la Cámara el lunes por la noche y se reunió en privado con varios senadores antes de la audiencia, según personas que asistieron a la cena y las reuniones. Ofreció un marco flexible para administrar lo que sucede a continuación con los sistemas de rápido desarrollo que algunos creen que podrían cambiar fundamentalmente la economía.
'Creo que si esta tecnología sale mal, puede salir bastante mal. Y queremos expresarlo abiertamente', dijo. 'Queremos trabajar con el gobierno para evitar que eso suceda'.
El Sr. Altman hizo su debut público en el Capitolio cuando se disparó el interés en la IA. Los gigantes tecnológicos han invertido esfuerzos y miles de millones de dólares en lo que dicen es una tecnología transformadora, incluso en medio de las crecientes preocupaciones sobre el papel de la IA en la difusión de información errónea, la destrucción de empleos y un día igualar la inteligencia humana.
Eso ha puesto la tecnología en el centro de atención en Washington. El presidente Biden dijo este mes en una reunión con un grupo de directores ejecutivos de empresas de IA que 'lo que están haciendo tiene un enorme potencial y un enorme peligro'. Los principales líderes del Congreso también han prometido regulaciones de IA.
Que los miembros del subcomité del Senado para la privacidad, la tecnología y la ley no planeaban interrogar duramente al Sr. Altman quedó claro, ya que agradecieron al Sr. Altman por sus reuniones privadas con ellos y por acceder a comparecer en la audiencia. Cory Booker, Demócrata de Nueva Jersey, se refirió repetidamente al Sr. Altman por su nombre de pila.
Al Sr. Altman se unieron en la audiencia Christina Montgomery, directora de confianza y privacidad de IBM, y Gary Marcus, un conocido profesor y crítico frecuente de la tecnología de IA.
El Sr. Altman dijo que la tecnología de su empresa puede destruir algunos puestos de trabajo, pero también crear otros nuevos, y que será importante que 'el gobierno descubra cómo queremos mitigar eso'. Haciéndose eco de una idea sugerida por el Dr. Marcus, propuso la creación de una agencia que emita licencias para el desarrollo de modelos de IA a gran escala, normas de seguridad y pruebas que los modelos de IA deben pasar antes de ser lanzados al público.
'Creemos que los beneficios de las herramientas que hemos implementado hasta ahora superan ampliamente los riesgos, pero garantizar su seguridad es vital para nuestro trabajo', dijo el Sr. Altman.
Pero no estaba claro cómo responderían los legisladores al llamado a regular la IA. El historial del Congreso en materia de regulaciones tecnológicas es sombrío. Docenas de proyectos de ley de privacidad, expresión y seguridad han fracasado durante la última década debido a las disputas partidistas y la feroz oposición de los gigantes tecnológicos.
Estados Unidos va a la zaga del mundo en cuanto a regulaciones en privacidad, expresión y protección de los niños. También está atrasado en cuanto a las regulaciones de IA. Los legisladores de la Unión Europea están listos para introducir reglas para la tecnología a finales de este año. sus leyes de censura.
El senador Richard Blumenthal, demócrata de Connecticut y presidente del panel del Senado, dijo que la audiencia fue la primera de una serie para aprender más sobre los posibles beneficios y daños de la IA para eventualmente 'escribir las reglas' para ella.
También reconoció que el Congreso no se mantuvo al día con la introducción de nuevas tecnologías en el pasado. 'Nuestro objetivo es desmitificar y responsabilizar a esas nuevas tecnologías para evitar algunos de los errores del pasado', dijo el Sr. Blumenthal. 'El Congreso no logró Conoce el momento en las redes sociales'.
Los miembros del subcomité sugirieron una agencia independiente para supervisar AI; reglas que obligan a las empresas a revelar cómo funcionan sus modelos y los conjuntos de datos que utilizan; y normas antimonopolio para evitar que empresas como Microsoft y Google monopolicen el mercado naciente.
'El diablo estará en los detalles', dijo Sarah Myers West, directora general de AI Now Institute, un centro de investigación de políticas. la vigilancia y el uso de datos biométricos. Señaló que el Sr. Altman no mostró ningún indicio de ralentizar el desarrollo de la herramienta ChatGPT de OpenAI.
'Es una gran ironía ver una postura sobre la preocupación por los daños por parte de personas que están lanzando rápidamente al uso comercial el sistema responsable de esos mismos daños', dijo la Sra. West.
Algunos legisladores en la audiencia aún mostraron la brecha persistente en los conocimientos tecnológicos entre Washington y Silicon Valley. Lindsey Graham, republicana de Carolina del Sur, preguntó repetidamente a los testigos si un escudo de responsabilidad de discurso para plataformas en línea como Facebook y Google también se aplica a la IA.
El Sr. Altman, tranquilo y sereno, intentó varias veces establecer una distinción entre la IA y las redes sociales. 'Necesitamos trabajar juntos para encontrar un enfoque totalmente nuevo', dijo.
Algunos miembros del subcomité también se mostraron reacios a tomar medidas drásticas contra una industria con una gran promesa económica para Estados Unidos y que compite directamente con adversarios como China.
Los chinos están creando IA que 'refuerzan los valores centrales del Partido Comunista Chino y el sistema chino', dijo Chris Coons, demócrata de Delaware. 'Y me preocupa cómo promovemos la IA que refuerza y fortalece los mercados abiertos, las sociedades abiertas y la democracia. .'
Algunas de las preguntas y comentarios más difíciles hacia el Sr. Altman provinieron del Dr. Marcus, quien señaló que OpenAI no ha sido transparente sobre los datos que utiliza para desarrollar sus sistemas. Expresó dudas sobre la predicción del Sr. Altman de que los nuevos trabajos reemplazarán a los eliminados. desactivado por IA
'Tenemos oportunidades sin precedentes aquí, pero también nos enfrentamos a una tormenta perfecta de irresponsabilidad corporativa, despliegue generalizado, falta de regulación adecuada y falta de confiabilidad inherente', dijo el Dr. Marcus.
Las empresas tecnológicas han argumentado que el Congreso debe tener cuidado con las reglas generales que agrupan diferentes tipos de IA. En la audiencia del martes, la Sra. Montgomery de IBM pidió una ley de IA que sea similar a las regulaciones propuestas por Europa, que describe varios niveles de riesgo. por reglas que se enfocan en usos específicos, no regulando la tecnología en sí.
'En esencia, la IA es solo una herramienta, y las herramientas pueden servir para diferentes propósitos', dijo, y agregó que el Congreso debería adoptar un 'enfoque de regulación de precisión para la IA'.
