La Inteligencia Artificial (IA) encarna tanto las posibilidades y como las ansiedades del porvenir. Sin embargo, mientras algunos disfrutan del espíritu pionero de los últimos avances, a muchos les preocupa que avancemos demasiado rápido y con poca consciencia.

CNN informa que un nuevo informe encargado por el Departamento de Estado de Estados Unidos pinta una imagen preocupante de lo que la Inteligencia Artificial podría significar para la humanidad.

Síguenos y descubre cada día contenidos que te interesan

El informe, publicado por Gladstone AI, afirma que los sistemas de Inteligencia Artificial más avanzados podrían “representar una amenaza directa de extinción para la especie humana”.

“El actual desarrollo de la IA plantea riesgos urgentes y crecientes para la seguridad nacional”, sostiene el informe, citado por la revista TIME. “El auge de la IA avanzada tiene el potencial de desestabilizar la seguridad global de maneras que recuerdan al surgimiento de las armas nucleares”.

Gladstone AI destaca en su sitio web oficial que el informe es la primera evaluación de la proliferación y riesgos de seguridad de la IA como arma.

“La IA ya es una tecnología económicamente transformadora. Podría permitirnos curar enfermedades, hacer descubrimientos científicos y superar desafíos que alguna vez pensamos que eran insuperables”, dijo a CNN Jeremie Harris, director ejecutivo y cofundador de Gladstone AI.

"Pero la IA también podría conllevar riesgos graves, incluidos riesgos catastróficos, de los que debemos ser conscientes", añadió el director ejecutivo de IA de Gladstone. "Y un creciente conjunto de pruebas sugiere que, por encima de cierto umbral de capacidad, las IA podrían volverse potencialmente incontrolables".

CNN comenta que el gobierno de Estados Unidos enfatiza que el informe Gladstone AI no representa los puntos de vista ni las opiniones de Washington, DC.

La revista TIME escribe que, según los tres autores del informe, a muchos trabajadores de IA les preocupa que las decisiones tomadas por los altos ejecutivos de sus empresas estén más motivadas por las ganancias, la competencia u otros "incentivos perversos".

El informe final, explica CNN, llega después de más de 200 entrevistas durante un año con altos ejecutivos de empresas de Inteligencia Artificial, investigadores de ciberseguridad, expertos en armas de destrucción masiva y funcionarios de seguridad nacional del gobierno de Estados Unidos, entre otros.

Algunos empleados entrevistados trabajan para importantes proyectos de empresas de tecnología como Google DeepMind, Meta, OpenAI y Anthropic.

Sin embargo, no todo está perdido. Gladstone AI también ha desarrollado el primer Plan de Acción gubernamental de su tipo para abordar el riesgo potencial y potencialmente mortal que podría crear la Inteligencia Artificial.

Imagen: tetrakiss / Unsplash

La revista TIME describe el documento, titulado “Un plan de acción para aumentar la seguridad de la IA avanzada”, como un conjunto de políticas amplias y sin precedentes que, de aprobarse, podrían afectar radicalmente a la industria de la Inteligencia Artificial.

Entre otras cosas, el informe recomienda la creación de una nueva agencia federal que se centre únicamente en la regulación de la Inteligencia Artificial.

Un nuevo estudio alerta: una sexta extinción masiva podría haber comenzado ya

Según el diario británico The Daily Mail, el informe encargado por el Departamento de Estado de EE. UU. se suma al coro de voces de la industria, el gobierno y el mundo académico que piden medidas regulatorias más agresivas sobre la Inteligencia Artificial.

Por ejemplo, en julio de 2023, la UNESCO expresó su preocupación por el hecho de que tecnologías futuras desenfrenadas, como la Inteligencia Artificial o Neuralink de Elon Musk, alterarán nuestra privacidad mental.

Aunque no podemos detener el tiempo, tal vez haya una manera de tomar cartas en el asunto antes de que sea demasiado tarde y no haya forma de bajar la velocidad.

Síguenos y descubre cada día contenidos que te interesan