Las severas advertencias de los investigadores en inteligencia artificial, según las cuales las formas avanzadas de esta tecnología podrían acabar con la humanidad, han suscitado dudas sobre si los gobiernos están actuando con la suficiente rapidez para regularla.
¿Cuáles son los peligros potenciales de los sistemas informáticos «superinteligentes» y deberíamos preocuparnos?
Inteligencia artificial: los peligros de su avance sin regulación
Los expertos en IA llevan mucho tiempo calificando esta amenaza de crítica.
En 2023, cientos de científicos especializados en IA y figuras del sector, entre ellos los directores de los principales laboratorios estadounidenses, firmaron una “declaración sobre el riesgo de extinción por IA” en la que pedían que se tratara el tema con la misma seriedad que las pandemias o la guerra nuclear.
Si una IA futura fuera de control considerara que los humanos están obstaculizando sus objetivos, podría utilizar robots para «sintetizar y propagar nuevos patógenos», afirmó Stuart Russell, profesor de informática en la Universidad de California, Berkeley.
O podría “convencer a la gente de que inicie una guerra nuclear, incluso pirateando los sistemas de alerta temprana”, declaró a la AFP Russell, una voz destacada en materia de seguridad de la IA.
Estos temores existenciales no afectan a los sistemas de IA actuales, subrayó. Pero a medida que la tecnología mejore, podría emprender acciones letales que escapen a nuestra comprensión, como, por ejemplo, eliminar el oxígeno de la atmósfera.
“Somos menos inteligentes que una IA superinteligente. Si le preguntaras a los chimpancés cómo los humanos podrían acabar con ellos, probablemente no serían capaces de darte todas las respuestas correctas”.
Mientras tanto, “en el próximo año o dos, creo que el riesgo es mayor debido al mal uso por parte de los humanos”, añadió Russell, como por ejemplo un atentado terrorista perpetrado con ayuda de la IA.