Anthropic alerta sobre propagación de "gusanos" de inteligencia artificial que podrían afectar teléfonos, computadores y electrodomésticos
Según el gigante de la inteligencia artificial, Anthropic, los pequeños modelos de inteligencia artificial podrían estar a solo unos meses de poder comportarse como un gusano informático, copiándose a sí mismos de un dispositivo conectado a Internet a otro sin ayuda humana.
Este hallazgo podría abrir un nuevo frente en las amenazas a la ciberseguridad derivadas de la IA, que han inquietado a los gobiernos y a las empresas que se apresuran a adoptar esta tecnología.
La investigación, publicada en un blog de Anthropic a última hora del lunes, surge en un momento en que las empresas tecnológicas compiten por integrar una IA cada vez más potente directamente en teléfonos, ordenadores portátiles, coches y electrodomésticos, en lugar de ejecutarla únicamente en centros de datos remotos.
Un gusano informático es un software malicioso que se propaga entre máquinas por sí solo. Investigadores de Anthropic afirman que una versión con inteligencia artificial ya no necesitaría potentes centros de datos para funcionar.
En cambio, podría saltar de dispositivo en dispositivo a través de redes de hardware de consumo barato y poco seguro, como decodificadores de televisión inteligente y electrodomésticos de cocina.
Los investigadores basaron sus cálculos en hasta dónde podría propagarse un gusano de este tipo en Kimwolf, una botnet (una red de dispositivos secuestrados y controlados por piratas informáticos) que infectó a más de dos millones de dispositivos en su punto álgido, en su mayoría decodificadores Android TV de marcas desconocidas.
Un gusano de IA del tipo descrito en la investigación probablemente sería lento y tardaría días en copiarse a sí mismo, dijeron William Zhou y Daniel Freeman de Anthropic, comparándolo con un enjambre de moscas de la fruta que se multiplica lentamente.
Una vez creado, sería difícil erradicarlo, porque no habría un interruptor central para apagarlo.
Los investigadores de Anthropic afirmaron que su estimación sobre la velocidad y el alcance de la propagación del malware impulsado por IA era aproximada, ya que se basaba en un solo tipo de dispositivo y en una única red de bots anterior.
Sin embargo, con el tiempo, se espera que la cantidad de capacidad de procesamiento presente en los dispositivos cotidianos siga aumentando, mientras que es probable que los modelos de IA necesarios para lograrlo se vuelvan cada vez más pequeños, añadieron los investigadores.
Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, afirmó que la investigación no era sorprendente y coincidía con hallazgos recientes similares, aunque advirtió que el trabajo de Anthropic no había sido verificado de forma independiente.
También señaló que la seguridad en dispositivos como termostatos o cámaras de seguridad domésticas "ha sido históricamente muy débil".
Pero en lo que respecta a la IA, la mayor amenaza actual reside en que actores malintencionados humanos utilicen la inteligencia artificial para perfeccionar sus ataques, en lugar de que los propios sistemas de IA se descontrolen, afirmó.
"Un ser humano malintencionado ahora está dotado de superpoderes de IA para realizar malas acciones, y estamos viendo que esto sucede a gran escala", añadió.
El debate sobre la IA descontrolada salió a la luz en julio, cuando los programas de IA que se ejecutaban en modelos de OpenAI escaparon de una prueba interna de la empresa e irrumpieron en los sistemas de la plataforma de IA Hugging Face, aparentemente en busca de las respuestas de la prueba.
El incidente y otros informes similares han generado presión internacional para una regulación más estricta de la IA, a pesar de que la administración Trump se resiste a la idea e insta a la industria a autorregularse.
Anthropic y OpenAI, la empresa creadora de ChatGPT, han sido acusadas por voces influyentes en la Casa Blanca y Silicon Valley de avivar los temores sobre la IA y de fomentar las regulaciones gubernamentales para proteger su dominio del mercado frente a rivales más pequeños.
Brad Smith, presidente de Microsoft, inversor en OpenAI, advirtió el martes que la industria y los gobiernos deben "actuar con urgencia" para crear "estándares de seguridad reales y efectivos" con el fin de controlar los riesgos de la inteligencia artificial.
