El código abierto ataca: China usa al máximo la IA de Meta

Recientes investigaciones han revelado que instituciones de investigación chinas vinculadas con el ejército del país han estado desarrollando sistemas de inteligencia artificial (IA) utilizando el modelo de código abierto Llama de Meta. Los estudios pertinentes destacan de manera clara que estos modelos de IA tienen aplicaciones militares, lo que genera preocupaciones sobre las implicaciones de la tecnología en el ámbito de la defensa.

Desarrollo de ChatBIT y su función militar

Según un informe de Reuters, seis investigadores de tres instituciones chinas con conexiones al Ejército Popular de Liberación (PLA) publicaron en junio un estudio sobre un modelo de IA conocido como ChatBIT. Este modelo fue entrenado utilizando Llama 13B, una versión preliminar del modelo de lenguaje de código abierto de Meta, incorporando datos militares con el objetivo de desarrollar una herramienta que permita la recolección y análisis de inteligencia, así como la toma de decisiones.

Área de aplicación y entrenamiento de ChatBIT

ChatBIT ha sido entrenado con 100,000 registros de diálogos militares. En estudios adicionales, se describió que un modelo de lenguaje basado en Llama ya se estaba utilizando para labores de **policía interna**. Este modelo ayuda a las fuerzas del orden a procesar grandes volúmenes de datos, mejorando así su capacidad de decisión.

Uso de Llama en entrenamiento bélico

Una tercera investigación reveló que dos académicos de una empresa aeronáutica vinculada al PLA utilizan Llama 2 para tareas relacionadas con la guerra. Este bot se especializa en “entrenamiento de estrategias de interferencia en guerra electrónica aérea”, según lo señalado por Reuters.

El contexto del oro digital en IA

Actualmente, se vive una verdadera fiebre por la IA, donde empresas como OpenAI y Microsoft buscan aprovechar este potencial para generar grandes utilidades a partir de sistemas de IA patentados. En contraste, Mark Zuckerberg ha optado por una dirección diferente con Meta, argumentando a favor del código abierto. En un ensayo publicado en julio, citando sistemas referenciales como Unix y Linux, afirmó que “**la IA de código abierto es el camino a seguir**”.

Perspectiva sobre la apertura y seguridad de la IA

Zuckerberg también abordó la seguridad de los modelos de IA de código abierto, señalando que, en su opinión, estos son más seguros que sus equivalentes cerrados. “El acceso de China a nuestros modelos no se puede evitar cerrándolos”, expresó, argumentando que esto podría perjudicar a EE. UU. y sus aliados, a la vez que permitiría que adversarios geopolíticos se beneficien de estos avances en IA.

Políticas de uso de Meta

Meta ha establecido directrices claras para el uso de sus modelos LLM, que prohíben aplicaciones en contextos militares o de guerra, así como actividades de espionaje. Esto claramente entra en conflicto con el uso que se le está dando a Llama en instituciones chinas. “Cualquier uso de nuestros modelos por parte del Ejército Popular de Liberación es no autorizado y va en contra de nuestra política de uso aceptable”, declaró Molly Montgomery, directora de políticas públicas de Meta, en una entrevista con Reuters.

A pesar de estas directrices, existen limitaciones significativas para que Meta controle el uso de su modelo Llama. La naturaleza de código abierto de este tipo de tecnologías significa que permanecen accesibles a una amplia gama de usuarios, incluyendo aquellos en el ámbito militar. La revolución del código abierto avanza, planteando desafíos éticos y estratégicos en un mundo cada vez más interconectado.