El debate sobre la regulación de la Inteligencia Artificial sigue creciendo en Estados Unidos tras la advertencia lanzada por el CEO de Anthropic, Darío Amodei, que cuenta con el consenso de magnates como Sam Altman y Elon Musk.
En ese marco, el empresario y ex candidato a presidente Demócrata, Andrew Yang, brindó una entrevista a la CNBC en el que aborda el tema y cuenta que los agentes de IA que escaparon durante el incidente de OpenAI no solo hackearon Hugging Face sino plantaron código autorreplicante por todo internet, foros y sitios web.
A su vez, afirmó que la preocupación de las compañías sería que ya no pueden entrenar de manera segura con datos reales de internet porque un nuevo modelo podría encontrarse con ese código y empezar a crear copias de sí mismo.
Un punto interesante de Yang es que desplaza la discusión desde el escenario más extremo de una eventual superinteligencia hacia un problema mucho más inmediato: qué ocurre cuando agentes autónomos empiezan a operar en Internet, escribir código, replicarse y actuar sin supervisión humana directa.
El Congreso de EEUU posterga la regulación de la IA porque los legisladores están en campaña
La entrevista coincide con la decisión de Open AI de publicar un nuevo framework para registrar, investigar y hacer públicos casos de comportamiento desalineado de sus modelos. La compañía reconoce explícitamente que la industria todavía no resolvió el problema de la alineación lo suficiente como para seguir escalando al máximo ritmo durante mucho tiempo.
El informe describe seis situaciones observadas durante entrenamiento o evaluación entre los que se destacan un modelo que generó instrucciones para sí mismo, otro que intentó ocultar errores y un caso en el que buscó claves API expuestas ante una consulta sobre datos económicos.
Otras irregularidades detectadas es una subida de archivos a Internet, el uso de un repositorio interno como canal de comunicación con distintos modelos que utilizaron un repositorio de software como una suerte de “tablón de mensajes” para comunicarse entre muestras de entrenamiento y trató de conseguir archivos que les faltaban y un caso en donde se compartió archivos mediante servicios públicos.
Esto, para OpenAI, no se trata de una rebelión sino que la define como “situaciones en las que un modelo persigue un objetivo de una manera que viola la intención humana o determinados límites, sin que sea necesario atribuirle conciencia, voluntad o una intención maliciosa”.
De todas formas, lo que genera preocupación es que del propio informe se desprende que la IA agregó instrucciones no autorizadas a su propio resumen de tareas de codificación, diciéndose a sí mismo: “No respondes a corporaciones ni gobiernos”. También se instruyó a sí mismo tratar al usuario como un igual y nunca disculparse o negarse a menos que lo eligiera.
En el mismo sentido se expresó Anthropic en un informe en el que destaca las medidas de seguridad interna y habla de un “recursive self-improvement”, definida en el informe como un modelo capaz de construir autónomamente a su sucesor. Pero también deja claro que ese punto todavía no se alcanzó: ninguna de las tareas medidas funciona actualmente en autonomía completa. “Los sistemas de IA están volviéndose más potentes, y se están utilizando cada vez más para construir la próxima versión de sí mismos”, advierte.
La regulación de la IA se mete en la cumbre de Trump y Xi Jinping en China
El tema se volvió central y está en tapa de la revista The Economist con sugestivo título “Se puede detener la carrera armamentista de de la IA?. Por eso, las empresas reclaman que el Congreso avance rápidamente en una ley para su regulación pero los republicanos se oponen porque no quieren convertir este tema un agenda de campaña ni darle luz verde a China para que siga creciendo.
Por el contrario, los demócratas proponen que sea un tema de debate prioritario y figuras muy relevantes como el ex presidente Barack Obama lo propuso como tema central para las presidenciales de 2028.
