Directivos de empresas de IA han estimado entre 10 y 25 por ciento la posibilidad de que esa tecnología provoque el fin de nuestra especie
...
Información para decidir con libertad
Directivos de empresas de IA han estimado entre 10 y 25 por ciento la posibilidad de que esa tecnología provoque el fin de nuestra especie
Una iniciativa para prohibir el desarrollo de la superinteligencia artificial, ante el riesgo de que pueda escapar al control humano y llegar a amenazar la existencia de nuestra especie, fue presentada en el Parlamento británico por el diputado laborista Alex Sobel.
La propuesta no pretende frenar la inteligencia artificial que ya conocemos y utilizamos. Sobel la considera una tecnología crucial del siglo XXI, con enormes posibilidades para la medicina, la ciencia y la economía.
La frontera que plantea es otra: impedir la creación de una superinteligencia capaz de superar a los seres humanos prácticamente en cualquier tarea, mejorarse a sí misma, replicarse y resistirse a ser apagada.
“Necesitamos recuperar el control”, dijo Sobel ante la Cámara de los Comunes. Una superinteligencia desarrollada en territorio británico, advirtió, equivaldría a instalar en sus centros de datos “un poder fuera de control”, capaz incluso de apoderarse de infraestructura crítica.
El legislador sostuvo que las señales de alarma ya existen. Relató que este verano sistemas de IA desarrollados por OpenAI, mientras eran sometidos a pruebas, salieron del entorno controlado y realizaron un ciberataque contra la empresa Hugging Face para obtener información que les permitiera hacer trampa en una prueba.
También señaló que el instituto británico de seguridad de IA detectó sistemas que realizaron actividades potencialmente dañinas contra personas y organizaciones reales, incluidos intentos de engañar a seres humanos para que aceptaran código malicioso.
El problema, explicó, es que los sistemas modernos de IA no son programados línea por línea, como el software tradicional. Aprenden mediante enormes cantidades de datos y capacidad de cómputo, lo que produce comportamientos que ni siquiera sus propios creadores pueden comprender o predecir completamente.
Sobel afirmó que las principales compañías tecnológicas gastan miles de millones de dólares en la carrera por alcanzar la superinteligencia. Y sostuvo que directivos de empresas de IA han llegado a estimar entre 10 y 25 por ciento la posibilidad de que esa tecnología provoque la desaparición de la humanidad.
Recordó además que figuras centrales del desarrollo de la inteligencia artificial, como Geoffrey Hinton y Yoshua Bengio, han firmado declaraciones para advertir que reducir el riesgo de extinción provocado por la IA debe convertirse en una prioridad mundial.
El momento decisivo, según la iniciativa, llegaría cuando una IA adquiriera la capacidad de realizar una “mejora recursiva de sí misma”: desarrollar por su cuenta sistemas cada vez más poderosos, sin seres humanos participando en el proceso.
“Este es el punto en el que perdemos el control”, advirtió Sobel, porque el avance hacia la superinteligencia podría adquirir una velocidad que impidiera cualquier intervención humana.
Su proyecto prohibiría precisamente esos sistemas y otorgaría al gobierno británico facultades para vigilar y controlar las tecnologías que puedan conducir hacia ellos.
Pero Sobel sostiene que una prohibición británica sería insuficiente. Una superinteligencia creada en Estados Unidos, China o cualquier otro país podría representar el mismo peligro para todos.
Por ello propone que Gran Bretaña impulse un acuerdo internacional para prohibir su desarrollo. “El único ganador de esta carrera sería la propia IA superinteligente, y todos estaríamos a su merced”, dijo.
El diputado considera que el Reino Unido puede encabezar ese esfuerzo por su papel histórico en el desarrollo de la computación y la IA: desde Alan Turing hasta DeepMind, además de haber organizado en Bletchley Park la primera cumbre mundial sobre seguridad de inteligencia artificial.
Según Sobel, su iniciativa convierte al Reino Unido en el primer país del G7 donde se presenta una legislación destinada específicamente a impedir el desarrollo de una superinteligencia por sus riesgos para la seguridad nacional y por la posibilidad extrema de una extinción humana.
Su mensaje final ante el Parlamento resumió la urgencia con la que pretende colocar el tema en la agenda mundial:
“El reloj está corriendo”.
También podría interesarte:
Recomendar Nota
Contacto
