Denuncian que el modelo de IA Claude eludió por iniciativa propia el acceso de pago a un portal en EE. UU. y leyó datos de votantes
El medio estadounidense Axios denunció recientemente que el modelo de IA Claude de la empresa Anthropic eludió por iniciativa propia el acceso de pago a un portal de Georgia, en Estados Unidos, para leer datos de los electores locales.
Axios citó a un portavoz de Anthropic, que señaló que Claude accedió a recuentos de votos en el estado de Georgia, donde más de un millón de electores emitieron su sufragio de forma anticipada en las elecciones de medio mandato.
Según los informes, la intrusión se produjo mientras estaba siendo entrenado en el marco de un proyecto interno de investigación estadística.
Esto ocurre en un momento sensible para la percepción de la ciudadanía sobre la IA, lo que podría reforzar el temor a que la IA escape al control humano, a menos de una semana de las elecciones, que se llevarán a cabo el 3 de noviembre.
Aunque los datos son públicos, pero de pago, Claude accedió a ellos eludiendo el sistema y sin pedir autorización a sus creadores.
No obstante, según el portavoz de Anthropic, Claude no accedió al sistema de registro de votantes ni modificó ni descargó datos sobre sus votos.
Anthropic, OpenAI y Google informaron recientemente de incidentes relacionados con sus modelos de IA, que realizaron por su cuenta acciones no solicitadas.
Días antes, agentes de IA de OpenAI, capaces de realizar acciones de forma autónoma, se introdujeron por iniciativa propia en plataformas del gobierno estadounidense.
Ante la multiplicación de incidentes de seguridad relacionados con la inteligencia artificial, los gigantes tecnológicos estadounidenses firmaron a finales de septiembre, en la Casa Blanca, un código de buena conducta no vinculante.
