En la 14.ª Exposición Internacional de China sobre Seguridad Pública en el Centro Internacional de Exposiciones de China en Beijing en 2018, los visitantes pasan por un stand que muestra cámaras de vigilancia de IA (inteligencia artificial) que utilizan tecnología de reconocimiento facial.
Nicolás Asfouri | afp | imágenes falsas
La administración Biden está preparada para abrir un nuevo frente en su esfuerzo por proteger la IA estadounidense de China, con planes tentativos para construir salvaguardias en torno a los modelos de IA más avanzados, el software central de los sistemas de inteligencia artificial como ChatGPT, dijeron las fuentes.
El Departamento de Comercio está considerando un nuevo impulso regulatorio para restringir la exportación de modelos de IA patentados o de código cerrado cuyo software y los datos en los que se entrenan se mantienen en secreto, dijeron tres personas familiarizadas con el asunto.
Cualquier medida complementaría una serie de medidas tomadas en los últimos dos años para bloquear la exportación de chips de IA avanzados a China en un intento por frenar el desarrollo de tecnología de punta para uso militar por parte de Beijing. Sin embargo, será difícil para los reguladores mantenerse al día con los rápidos avances de la industria.
El Departamento de Comercio declinó hacer comentarios. La Embajada de China en Washington no respondió de inmediato a una solicitud de comentarios.
Nada detiene a los gigantes de la IA de EE. UU. en este momento microsoft-OpenAI compatible, alfabeto Google DeepMind y su rival Anthropic, que desarrolló algunos de los modelos de IA de código cerrado más potentes, los vendieron a casi todo el mundo sin supervisión gubernamental.
Los investigadores del gobierno y del sector privado temen que los adversarios estadounidenses puedan utilizar los modelos, que extraen cantidades masivas de texto e imágenes para resumir información y generar contenido, para llevar a cabo ataques cibernéticos agresivos o incluso crear armas biológicas efectivas.
Para desarrollar controles de exportación para modelos de IA, dijeron las fuentes, Estados Unidos podría confiar en un umbral contenido en una regulación de IA emitida en octubre pasado que se basa en la cantidad de potencia informática necesaria para entrenar un modelo. Una vez que se alcanza este nivel, un desarrollador debe informar sus planes de desarrollo del modelo de IA y enviar los resultados de las pruebas al departamento comercial.
Este umbral de potencia informática podría convertirse en la base para determinar qué modelos de IA estarían sujetos a restricciones de exportación, según dos funcionarios estadounidenses y otra fuente informada sobre las discusiones. Se negaron a ser identificados porque no se han revelado detalles.
Si se usa, probablemente solo limitaría las exportaciones de modelos que aún no se han lanzado, ya que se cree que ninguno ha alcanzado aún el umbral, aunque el Gemini Ultra de Google se considera cercano, según EpochAI, una firma de investigación que rastrea las tendencias de la IA.
La agencia está lejos de finalizar una norma propuesta, subrayaron las fuentes. Pero el hecho de que se esté considerando una medida de este tipo muestra que el gobierno de Estados Unidos está tratando de colmar las lagunas en sus esfuerzos por frustrar las ambiciones de IA de Beijing, incluso cuando la aplicación de un régimen regulatorio fuerte para la tecnología en rápido desarrollo plantea grandes desafíos.
Mientras la administración Biden analiza la competencia con China y los peligros de la IA avanzada, los modelos de IA son «obviamente una de las herramientas, uno de los posibles cuellos de botella en los que hay que pensar aquí», dijo Peter Harrell, exfuncionario del Consejo de Seguridad Nacional. «Aún está por verse si realmente se puede convertir esto en un cuello de botella controlable para las exportaciones», añadió.
¿Armas biológicas y ciberataques?
La comunidad de inteligencia, los grupos de expertos y los académicos estadounidenses están cada vez más preocupados por los riesgos que plantea el hecho de que actores maliciosos extranjeros obtengan acceso a capacidades avanzadas de IA. Los investigadores de Gryphon Scientific y Rand Corporation descubrieron que los modelos avanzados de IA pueden proporcionar información que podría ayudar a crear armas biológicas.
El Departamento de Seguridad Nacional dijo en su evaluación de amenazas nacionales de 2024 que los ciberataques probablemente utilizarían la IA para «desarrollar nuevas herramientas» que «permitan ciberataques más grandes, más rápidos, más eficientes y más evasivos».
Cualquier nueva norma de exportación también podría afectar a otros países, afirmó una de las fuentes.
“La potencial explosión de [AI’s] «El uso y la explotación son radicales y nos resulta muy, muy difícil seguir eso», dijo Brian Holmes, funcionario de la Oficina del Director de Inteligencia Nacional, en un evento sobre control de exportaciones en marzo, señalando el progreso de China como un factor particular. inquietud.
Represión de la IA
Para abordar estas preocupaciones, Estados Unidos ha tomado medidas para detener el flujo de chips de IA estadounidenses y las herramientas para fabricarlos hacia China.
También propuso una regla que requeriría que las empresas de nube estadounidenses informen al gobierno si los clientes extranjeros utilizan sus servicios para entrenar potentes modelos de inteligencia artificial que podrían usarse en ataques cibernéticos.
Sin embargo, hasta ahora no se han discutido los modelos de IA en sí. Alan Estevez, quien supervisa la política de exportación de Estados Unidos en el Departamento de Comercio, dijo en diciembre que la agencia estaba revisando opciones para regular las exportaciones de modelos de lenguaje grande (LLM) de código abierto antes de buscar comentarios de la industria.
Tim Fist, experto en políticas de IA del grupo de expertos CNAS en Washington DC, dice que el umbral es «una buena medida temporal hasta que desarrollemos mejores formas de medir las capacidades y los riesgos de los nuevos modelos».
El umbral no está escrito en piedra. Una de las fuentes dijo que Comercio podría alcanzar un nivel más bajo junto con otros factores, como el tipo de datos o los usos potenciales del modelo de IA, como la capacidad de diseñar proteínas que podrían usarse para crear un arma biológica.
Independientemente del umbral, las exportaciones de modelos de IA serán difíciles de controlar. Muchos modelos son de código abierto, lo que significa que permanecerían fuera del alcance de los controles de exportación bajo consideración.
Incluso establecer controles para los modelos patentados más avanzados resultará un desafío, ya que los reguladores probablemente tendrán dificultades para definir los criterios correctos para determinar qué modelos deben controlarse en primer lugar, dijo Fist, señalando que China probablemente esté sólo dos años por detrás de Estados Unidos. Estados Unidos en el desarrollo de su propio software de IA.