Científicos advierten que inteligencia artificial podría salir de control

Agencias / Tecnologia / [email protected]
La IA es uno de los campos de la ciencia que más avanzan y prometen en un futuro cercano. El desarrollo de la tecnología es necesaria pero potencialmente peligrosa

(Foto Archivo)

Un grupo de científicos calculan que sería imposible contener una Inteligencia Artificial (IA) dañina. Aseguran que el desarrollo de esta tecnología es necesaria pero potencialmente peligrosa.

Desde mejores sistemas automáticos de manejo en autos, aviones, barcos o sistemas de transporte masivo, hasta robots como los desarrollados por Boston Dynamics, cada vez se ve más cercano el momento en que las máquinas con IA sean una parte activa y visible de nuestra sociedad.

Sin embargo, hay quienes ven estos avances con recelo y hasta con miedo, tal vez alimentados por tantas historias de ciencia ficción como la malévola Skynet de la saga Terminator, o los androides de Yo, Robot, solo por citar algunas. 

Ahora son los mismos científicos los que advierten de los peligros de las máquinas superinteligentes, las cuales dicen, podrían llegar a ser incontrolables.

Así lo indica un equipo internacional de investigadores, incluidos científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, que usando cálculos teóricos advirtieron que la Inteligencia Artificial puede llegar a superar a la humanidad hasta el punto de ser peligrosa, pues sería fundamentalmente imposible controlar.

“Una máquina superinteligente que controla el mundo suena a ciencia ficción. Pero ya hay máquinas que realizan ciertas tareas importantes de forma independiente sin que los programadores comprendan completamente cómo las aprendieron". 

Por lo tanto, surge la pregunta de si esto podría en algún momento volverse incontrolable y peligroso para la humanidad", dice el coautor del estudio Manuel Cebrian, líder del Grupo de Movilización Digital en el Centro de Humanos y Máquinas, Instituto Max Planck para el Desarrollo Humano

Los científicos han explorado dos ideas diferentes sobre cómo se podría controlar una IA superinteligente. 

Por un lado, las capacidades de la IA superinteligente podrían limitarse específicamente, por ejemplo, aislándola de Internet y de todos los demás dispositivos técnicos para que no pueda tener contacto con el mundo exterior

Sin embargo, esto haría que la IA superinteligente sea significativamente menos poderosa, menos capaz de responder a las misiones de humanidades.

Al carecer de esa opción, la IA podría estar motivada desde el principio para perseguir solo objetivos que sean en el mejor interés de la humanidad, por ejemplo, programando principios éticos en ella.

Pero, los investigadores también muestran que estas y otras ideas contemporáneas e históricas para controlar la IA superinteligente tienen sus límites.

En su estudio, el equipo concibió un algoritmo de contención teórico que garantiza que una IA superinteligente no pueda dañar a las personas bajo ninguna circunstancia, simulando primero el comportamiento de la IA y deteniéndolo si se considera dañino. 

Pero un análisis cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede construir.

Según algunos cálculos, el problema de la contención es incomputable, es decir, ningún algoritmo puede encontrar una solución para determinar si una IA produciría daño al mundo.

Además, los investigadores demuestran que es posible que ni siquiera sepamos cuándo han llegado las máquinas superinteligentes, porque decidir si una máquina exhibe una inteligencia superior a la de los humanos está en el mismo ámbito que el problema de contención.

 

Si quieres recibir en tu celular esta y otras informaciones, descarga Telegram, ingresa al link https://t.me/diariolaverdad   y dale click a +Unirme. Además, sigue nuestro perfil en Instagram @diariolaverdad y Facebook  y Twitter @laverdadweb   

 

Más noticias

Comentarios
© 2017, Diario La Verdad. Maracaibo. Venezuela C.A. RIF J-30540623-5. Términos Legales. Contáctenos via: [email protected] , [email protected] o [email protected]
Desarrollado por Miguel Guadarrama