Esta semana, miembros de la comunidad de investigación de Inteligencia Artificial exhortaron al Primer Ministro de Canadá, Justin Trudeau, a unirse al llamado internacional para prohibir las armas autónomas letales que eliminan el control humano significativo en el despliegue de la fuerza mortal.

Una carta abierta redactada por cinco expertos canadienses en investigación de inteligencia artificial insta al Primer Ministro a abordar urgentemente el desafío de las armas autónomas letales (a menudo denominadas “robots asesinos”) y a asumir una posición de liderazgo contra los sistemas autónomos de armas en el escenario internacional en las próximas reuniones de la ONU en Ginebra.

Los autores de la carta son:

  • Ian Kerr, Cátedra de Investigación en Ética, Derecho y Tecnología, Universidad de Ottawa,
  • Yoshua Bengio, Cátedra de Investigación en Algoritmos de Aprendizaje Estadístico, Universidad de Montreal,
  • Geoffrey Hinton, Ingeniero, Google y Asesor Científico Jefe, The Vector Institute,
  • Rich Sutton, Catedrático de Refuerzo Educativo e Inteligencia Artificial de la AITF, Universidad de Alberta,
  • Doina Precup, Cátedra de Investigación en Aprendizaje Automático de Canadá, McGill University.

2 de noviembre de 2017

Excmo. Justin Trudeau, P.C., M.P.

Primer Ministro de Canadá

Langevin Block, 80 Wellington Street

Ottawa, Ontario

K1A 0A2

Estimado Primer Ministro Trudeau:

RE: PROHIBICIÓN INTERNACIONAL DE LA MILITARIZACIÓN DEL AI

Como miembros de la comunidad investigadora canadiense de la IA, queremos agradecerles su interés en el amplio campo de la inteligencia artificial y la notable inversión que Canadá está realizando en investigación e innovación de la IA.

Como usted sabe, la investigación de IA -el intento de construir máquinas que puedan realizar tareas inteligentes- ha hecho avances espectaculares durante la última década. La evolución de la IA clásica, reforzada por los rápidos avances en el aprendizaje de máquinas, ha revivido las ambiciones de la comunidad IA de construir máquinas que puedan llevar a cabo operaciones complejas con o sin supervisión o intervención humana. Las aplicaciones diversas ya apuntalan una creciente variedad de productos para los consumidores, para la mejora de la infraestructura, el transporte, la educación, la salud, las artes, el ejército, la medicina y los negocios. La IA tiene un significado transformador. Las transformaciones -reales y potenciales- exigen nuestra comprensión y, cada vez más, nuestra creciente atención moral.

Es por estas razones que la comunidad de investigadores de la IA de Canadá está pidiendo a usted y a su gobierno que conviertan a Canadá en el vigésimo país del mundo en adoptar una posición firme y global contra el armamentismo de la IA. Los sistemas letales de armas autónomas que eliminan el control humano significativo de la determinación de la legitimidad de los objetivos y el despliegue de la fuerza letal se sitúan en el lado equivocado de una línea moral clara. Con este fin, pedimos que Canadá anuncie su apoyo al llamado a prohibir los sistemas de armas autónomos letales en la próxima Conferencia de las Naciones Unidas sobre la Convención sobre ciertas armas convencionales. Canadá también debería comprometerse a trabajar con otros Estados para concluir un nuevo acuerdo internacional que logre este objetivo. Al hacerlo, nuestro gobierno puede reclamar su posición de liderazgo moral en la escena mundial, como lo demostró anteriormente el Tratado de Ottawa – la prohibición internacional de minas terrestres iniciada en 1996 por nuestro entonces Ministro de Relaciones Exteriores, Lloyd Axworthy, quien fue nombrado originalmente al Gabinete federal por su padre.

Acogemos con beneplácito la decisión de la CCW de establecer un Grupo de Expertos Gubernamentales (GGE) sobre Sistemas Autónomos de Armas. Muchos miembros de nuestra comunidad investigadora están ansiosos por aportar su experiencia al Gobierno de Canadá a este respecto. Como muchas de las principales corporaciones robóticas y de inteligencia artificial del mundo -incluidas las empresas canadienses- han instado recientemente, los sistemas de armas autónomos amenazan con convertirse en la tercera revolución en la guerra. Si se desarrollan, permitirán que los conflictos armados se combatan a una escala mucho mayor que nunca, y a una velocidad superior a la que los seres humanos pueden comprender. La consecuencia mortal de esto es que las máquinas –no las personas– determinarán quiénes viven y mueren. La comunidad de IA de Canadá no aprueba tales usos de la IA. Queremos estudiar, crear y promover sus usos beneficiosos.

El fuerte liderazgo que Canadá continúa demostrando a través de su enfoque en tecnología e innovación asegurará nuestra reputación como líder internacional en el desarrollo tecnológico de IA sólo si también incluye consideraciones de las implicaciones legales, éticas y sociales más amplias. Por lo tanto, les instamos a que adopten una posición firme y de liderazgo contra los sistemas autónomos de armas en la escena internacional en las próximas reuniones de la CCW que se celebrarán en las Naciones Unidas en noviembre de 2017.

Atentamente,

Ian Kerr

Cátedra de Investigación en Ética, Derecho y Tecnología, Universidad de Ottawa

 

Yoshua Bengio

Cátedra de Investigación sobre Algoritmos de Aprendizaje Estadístico, Universidad de Montreal

 

Geoffrey Hinton

Ingeniero, Google y Asesor Científico Principal, The Vector Institute

 

Rich Sutton

Cátedra AITF de Refuerzo del Aprendizaje e Inteligencia Artificial, Universidad de Alberta

 

Doina Precup

Cátedra de Investigación en Aprendizaje Automático, Universidad McGill, Canadá

 

cc: Excma. Sra. Navdeep Bains, Ministra de Innovación, Ciencia y Desarrollo Económico

Excma. Sra. Chrystia Freeland, Ministra de Relaciones Exteriores

Excmo. Sr. Harjit S. Sajjan, Ministro de Defensa Nacional

Hon. Kirsty Duncan, Minister of Science

Dra. Mona Nemer, Asesora Científica en Jefe

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí