Los peligros, riesgos y desafíos de desarrollar modelos de inteligencia artificial cada vez más poderosos y capaces son temas recurrentes de debate en estos tiempos. Y un grupo conformado por exempleados y trabajadores actuales de OpenAI y Google DeepMind ha abierto una nueva discusión al asegurar que las empresas están ocultando los peligros de la IA que podrían llevar a la extinción humana.

Así lo afirman en una carta pública bajo el título A Right to Warn about Advanced Artificial Intelligence (Un derecho a advertir sobre la inteligencia artificial avanzada). El texto se ha divulgado en las últimas horas y ya está generando bastante ruido.

En la misiva, 13 firmantes, algunos de los cuales se han mantenido en el anonimato, sostienen que la inteligencia artificial tiene el potencial de generar beneficios sin precedentes a la humanidad, pero que también presenta riesgos altísimos. Y que si bien estos han sido reconocidos por las compañías que desarrollan la tecnología, así como por expertos en la materia y gobiernos de todo el mundo, existe mucha opacidad sobre el tema.

La falta de transparencia en la industria de la IA

Los antiguos y actuales trabajadores de OpenAI y Google mencionan ejemplos contundentes de los peligros de la IA que las propias empresas han reconocido. El escenario más extremo plantea la posible extinción humana ante la pérdida del control sobre los sistemas de inteligencia artificial autónomos. Aunque también exponen casos más palpables en lo inmediato, como la desinformación y la manipulación de la opinión pública, o la profundización de las desigualdades ya existentes.

Pero el punto más jugoso de la carta está en aquella información que las compañías no dan a conocer al público general. Los expertos que se han desempeñado en OpenAI y DeepMind afirman que las empresas disponen de una vasta cantidad de datos sobre cómo funcionan sus sistemas de inteligencia artificial, qué medidas de seguridad se les aplican y cuáles son los daños a lo que se expone la sociedad al usarlos. Pero que, como no tienen una obligación de informar al respecto a la sociedad civil, optan por ocultarla. Y no solo eso, sino que lo que reportan ante las autoridades es mínimo.

Con información de Hipertextual

Síguenos en Telegram, Instagram y X para recibir en directo todas nuestras actualizaciones