PRINCIPAL
LOCAL
REGIONAL
CHIHUAHUA
ESTATAL
NACIONAL
MUNDIAL
ELECCIONES
DEPORTES
CIENCIA
CAMPO

31.Jan.2025 08:26
Llegó el futuro: se replica la IA sin ayuda humana

Un sistema avanzado de inteligencia artificial (IA) cruzó un límite peligroso tras replicarse con éxito sin ayuda humana, revelaron investigadores.




El equipo que realizó el descubrimiento, de la Universidad de Fudan (China), afirmó que se trata de un primer indicio del surgimiento de IA maliciosas, que podrían acabar actuando en contra de los intereses de la humanidad.

El trabajo se centró en dos grandes modelos lingüísticos que ya están disponibles –construidos por Llama, de Meta, y Qwen, de Alibaba– para averiguar si era posible que la IA produjera de forma independiente una réplica funcional de sí misma.

Cuando se les pidió que se clonaran a sí mismos en caso de apagón, los dos modelos se reprodujeron con éxito en más de la mitad de las 10 pruebas realizadas, lo que sugiere que tal eventualidad puede concretarse.

La autorreplicación exitosa sin ayuda humana es el paso esencial para que la inteligencia artificial sea más astuta que los seres humanos, y es una señal temprana de las IA maliciosas, advirtieron los investigadores.

Por eso, la autorreplicación está ampliamente reconocida como uno de los pocos riesgos de línea roja de los sistemas de IA de vanguardia.

La seguridad de la IA se ha convertido en una cuestión cada vez más importante para investigadores y legisladores, ya que esta tecnología puede suponer una amenaza para la humanidad.

En octubre, el Departamento de Ciencia, Innovación y Tecnología de Reino Unido afirmó que se introduciría una legislación muy específica para las empresas que desarrollen herramientas de IA.

Un estudio que detalla las últimas investigaciones, titulado Frontier AI systems have surpassed the self-replicating red line, se publicó en la base de datos de artículos preimpresos arXiv.

El artículo está pendiente derevisión por pares, es decir, aúnno es seguro que los resultados vayan a ser reproducidos por otros investigadores.

Los resultados implican que los sistemas de inteligencia artificial actuales ya exhiben la capacidad de autorreplicación y pueden utilizarla para mejorar aún más su capacidad de supervivencia y expandir la especie, señalaron los investigadores.

Esperamos que nuestros hallazgos sirvan de alerta oportuna para que la sociedad humana dedique más esfuerzos a comprender y evaluar los riesgos potenciales de los sistemas de IA de vanguardia, y forme una sinergia internacional para elaborar cuanto antes salvaguardas de seguridad eficaces.

Información: La Jornada

LAS DE CÓDIGO

Meoqui

Que no pare la Fiesta! Meoqui invita a disfrutar del 'Domingo de Serenata'
Meoqui

Miriam Soto acompaña a descendientes de veteranos de la Revolución en Lázaro Cárdenas
Delicias

CINCO PERSONAS JÓVENES HAN PERDIDO LA VIDA EN LA REGIÓN; LOCALIZAN A HOMBRE SIN VIDA EN LA CARMEN SERDÁN
Delicias

Joven de 19 años pierde la vida tras ser localizado suspendido de un tráiler en la colonia Hidalgo
Meoqui

Trágico accidente cobra la vida de motociclista en carretera de Meoqui; conductor queda detenido
Delicias

Se suma Consejo de Estacionómetros al Pañatón 2026 del DIF Delicias: Alma Limas
Delicias

Choque entre taxi y Jetta deja a adulta mayor lesionada en Delicias
Estatal

Las grandes victorias no se improvisan, se construyen: Marco Bonilla ante 300 líderes de todo el estado
Estatal

Productores denuncian ataques y abandono de ranchos en Aldama y Coyame

Contáctanos por:

Regresar