"Podría incluso quitar vidas": el rey Carlos en encuentro con líderes de empresas que desarrollan Inteligencia Artificial
El rey Carlos III ha lanzado este jueves una advertencia a varios de los principales líderes de la industria de inteligencia artificial y pidió fortalecer los mecanismos de seguridad ante los riesgos que, según indicó, podría representar el desarrollo acelerado de esta tecnología.
El monarca británico reunió en Dumfries House, en Escocia, a representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, así como funcionarios del Gobierno británico y expertos en ética tecnológica, para discutir cómo desarrollar y usar la inteligencia artificial de manera que beneficie a la sociedad.
En la apertura del encuentro, Carlos III reconoció que la IA tiene una gran capacidad para mejorar y salvar vidas, sobre todo en campos como las ciencias de la vida y la medicina. No obstante, advirtió que quienes desarrollan estas herramientas igualmente están alertando acerca de capacidades más peligrosas.
“La IA corre el riesgo de desarrollar capacidades más oscuras, quizás incluso para quitar vidas”, expresó el rey, según la transcripción divulgada por Reuters.
A raíz de esa preocupación, Carlos III solicitó a los ejecutivos analizar con urgencia los llamados riesgos existenciales de la tecnología si esta llega a “las manos equivocadas” y es utilizada de manera potencialmente catastrófica.
“Seguramente necesitamos medios suficientes de control antes de que sea demasiado tarde”, dijo el monarca frente a los asistentes.
Entre los participantes estuvieron Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, cofundador de Google DeepMind; Sarah Friar, directora financiera de OpenAI; y Tino Cuéllar, responsable de asuntos globales de Anthropic. De igual forma participó Kanishka Narayan, ministro británico de Inteligencia Artificial, además de Paolo Benanti, asesor del Vaticano en asuntos relacionados con tecnología y ética.
El encuentro sucede en medio de un debate internacional por la velocidad con la que progresa la inteligencia artificial y la capacidad de gobiernos y empresas para controlar sistemas cada vez más sofisticados. En estos últimos días, ejecutivos e investigadores de la industria advirtieron de los comportamientos inesperados de ciertos modelos y de la necesidad de establecer más medidas de seguridad.
Huang defendió en la reunión un enfoque que se basó en el llamado “optimismo responsable” y aseguró que las empresas tienen que ser rigurosas previo a poner nuevos sistemas a disposición del público. “Si no está listo, simplemente déjalo de lado”, dijo el ejecutivo a medios de comunicación.
Carlos III además puso sobre la mesa la idea de que la discusión no tiene que limitarse a los beneficios comerciales de la IA. Su mensaje, según con el Palacio de Buckingham, fue que las decisiones tomadas en esta etapa pudiesen llegar a determinar el mundo que heredarán las siguientes generaciones y que la tecnología tiene que permanecer al servicio de la humanidad, las comunidades y el medioambiente.
