El secretario de la Sociedad Paraguaya de Inteligencia Artificial, Luis Benítez, advirtió que las amenazas de este campo informático representan riesgos reales y no un mito de ficción. “No tenemos un alineamiento a valores humanos o a una ética o una moral humana en el funcionamiento de esta de estas tecnologías”, sostuvo.


El secretario de la Sociedad Paraguaya de Inteligencia Artificial, Luis Benítez, expresó a Monumental 1080 AM que estamos en el escenario en el que las dos empresas más grandes, (Anthropic y OpenAI) están en el momento previo al lanzamiento a la bolsa. “Desde hace un año se está preparando ese terreno para conseguir capital para los emprendimientos”.

En ese sentido, dijo que la carrera va en el camino de desarrollar tecnologías, inteligencias, pero no hay inversión en el alineamiento de esas inteligencias, que ya tienen uso militar desde hace décadas y que ya se utilizaron en Gaza e Irán.

“El poder real que tiene, al cual está conectada la inteligencia existe, no es un mito, a medida que más inteligente son, más se delega las acciones o decisiones de las acciones sobre la infraestructura. No es realmente un mito, es una cuestión que puede suceder, el problema es ese, no tenemos un alineamiento a valores humanos o una ética o moral humana en el funcionamiento de esta tecnología”, recalcó.

Benítez mencionó que justamente por eso Anthropic, desde donde se está alarmando esta cuestión, estuvo en la encíclica del nuevo Papa, sobre la necesidad de humanizar la tecnología.

“Las advertencias son riesgos reales, asimismo como tienen conexión con infraestructura militar, se tiene conexión a cuestiones biomédicas. Como no controlamos el tema de las decisiones o el impacto que pueda tener, cuando se coloquen sistemas completamente autónomos, podría afectar a la vida humana y ciertas regiones”, alertó.

Asimismo, dijo que la carrera es frenética y que miles y miles de billones se están invirtiendo y están llegando al punto en el que la inteligencia artificial empiece a diseñarse a sí misma.

Sobre decisiones que la IA podría tomar, se encuentran no solo un campo de batalla, sino por ejemplo, la destrucción de un dique o represa, como Itaipú, sin el análisis de lo que eso representaría en términos catastróficos, como un lago barriendo hasta Buenos Aires.

“Obviamente, como tenés casos como Itaipú, tenés casos de bombas atómicas donde la inteligencia artificial podría señalar como objetivo o la creación de armas biológicas, como mejorar el virus de la pandemia como una táctica militar, sin comprender el impacto”, mencionó.

Finalmente, también hizo mención a los algoritmos que impactan en el sistema democrático y las decisiones que toma la gente.

“Cada vez más estamos delegando las decisiones que se toman por el análisis que tienen esos algoritmos, que controlan diferentes aspectos y podrían afectarnos directamente a nosotros”, finalizó.

Armas biológicas

Recientemente la empresa Anthropic informó que bloqueó el intento por parte de un organismo estatal de usar sus modelos de IA para estudiar venenos no contagiosos, además de bloquear a un usuario que investigaba toxinas bacterianas y proteínas de fiebres hemorrágicas virales con capacidad pandémica, léase ébola.

También frustraron otras investigaciones potencialmente relacionadas con el desarrollo de armas biológicas, algunas con alto potencial pandémico.

Una de ellas era una solicitud para fondos que harían al virus del chikungunya más transmisible y resistente al sistema inmunitario.

UH