"Presentaré una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA": excandidato a la presidencia de Estados Unidos
El senador de Estados Unidos por el estado de Vermont, Bernie Sanders, anunció que presentará ante el Congreso un proyecto que busca pausar el desarrollo de la inteligencia artificial.
Sanders, quien fue precandidato demócrata para las elecciones de 2016 y 2020, hizo el anuncio tras reaccionar a una reciente publicación, que se hizo viral a nivel mundial y que fue hecha por Jacob Coxon quien se describió en redes como un extrabajador de la empresa Anthropic que se enfoca en el desarrollo de la IA.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, afirmó Coxon.
Según Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.
"En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo", afirmó Coxon.
El senador Sanders recogió esa publicación y afirmó que es por declaraciones como las de Coxon que decidió presentar su propuesta de legislación.
“El señor Coxon tiene razón. Las mismas personas que están desarrollando esta tecnología admiten que podría amenazar el futuro de la humanidad. Por eso, pronto presentaré una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.”, expresó el senador.
Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: "Creemos realmente que la IA podría matar a humanos". A título personal, estimó ese riesgo en "más de un 10%" dentro de la próxima década.
Líderes de la industria dicen creer que esta se aproxima a la "automejora recursiva", en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que "el momento actual llama por extrema precaución" y coordinación internacional.
