INTELIGENCIA ARTIFICIAL EN EL CONTEXTO DE COMPETENCIA ENTRE SUPERPOTENCIAS INTERNACIONALES

Publicado como Análisis por el Grupo de Estudios en Seguridad Internacional (GESI) de la Universidad de Granada | 28 de octubre de 2019 | Lugar de edición: Granada (España) | International Standard Serial Number (ISSN): 2340-8421

Resumen: La inteligencia artificial (IA) es actualmente la tecnología con mayor potencial de cambio y disrupción social. Este artículo analiza y evalúa las implicaciones estratégicas de la IA para la seguridad y estabilidad de nuestra civilización global, de naturaleza interna competitiva y conflictiva. La automatización de un número creciente de sistemas y funciones sociales, delegados en sistemas IA interconectados, conlleva grandes riesgos, aumento de la complejidad e imprevisibilidad sistémica.

Palabras clave: Inteligencia artificial (IA), Automatización social, Dinámicas competencia-cooperación, Carrera armamentística, Conflicto

Abstract: Artificial intelligence (AI) is currently the technology with the higher chance of provoking major social change and disruption. This article analyses and assesses the strategic implications of AI in the security and stability of our internally competitive and conflictive global civilization. The automatization of an ever-increasing number of social systems and functions, to be managed by interconnected AIs, brings great risks, increased complexity and systemic unpredictability.

Keywords: Artificial intelligence (AI), Social automatization, Competition-cooperation dynamics, Arms race, Conflict

INTRODUCCIÓN

A medida que las tecnologías de inteligencia artificial (IA) avanzan, estas se asocian a un número creciente de sistemas informáticos, que finalmente afectan al mundo físico que habitamos. La competencia y conflictos entre los grandes poderes sociales de cada época son recurrentes en la Historia, y han sido inevitables. El desarrollo de la IA conlleva: (a) la automatización de acciones asociadas al proceso de resolución, independientemente de que sea pacífica o no, de los conflictos entre facciones con intenciones enfrentadas o irreconciliables; (b) la automatización de sistemas organizativos sociales de naturaleza competitiva dentro de un marco cooperativo regulado, como el económico, ya sea legalmente o éticamente.

            La combinación de la realidad del problema social que suponen los recursos limitados del planeta, el problema de diferencias fundamentales en intenciones entre facciones, así como la automatización de estos objetivos una vez programados en software, conlleva riesgos asociados que son nuevos para la sociedad; de manera similar a como la tecnología nuclear modificó las relaciones y estrategias internacionales, y con ello la consciencia colectiva de la Humanidad.

Los sistemas de IA son tecnologías con un potencial de disrupción y proliferación enorme. Existe un gran riesgo de que las superpotencias internacionales en IA, entre las que se deben incluir las corporaciones tecnológicas y grupos no gubernamentales poderosos y bien organizados, actúen irresponsable o maliciosamente en el desarrollo y puesta en funcionamiento de estos sistemas. Ello es debido a las dinámicas y paradigmas sociales actuales, pero también es debido a nuestra propia evolución biológica y cultural, así como por motivos históricos.

Las fuerzas puestas en marcha en este proceso de automatización de la sociedad tendrán un componente darwinista, y pueden ser propensas a resultados tan indeseables como: no responder a consideraciones éticas e intenciones originales; aumentar la complejidad de sistemas críticos hasta ser incomprensibles; provocar fallos incomprensibles o, en el peor de los casos, llevar una inestabilidad, inconsistencia o paradoja autodestructiva, inherentes a nuestra condición humana y realidades sociales, a sus últimas consecuencias.

El cuerpo teórico del trabajo se ha estructurado en los siguientes apartados:

  1. El orden mundial en la primera mitad del siglo XXI.
  2. El problema del control.
  3. La militarización de la inteligencia artificial.
  4. Darwinismo tecnológico: Competitividad y cooperación.
  5. La resolución al conflicto de la inteligencia como recurso natural.
  6. Conclusiones.

METODOLOGÍA

Objetivos del estudio

Es finalidad de esta investigación la determinación de las implicaciones estratégicas más desestabilizantes (para la política global y relaciones internacionales) derivadas de la automatización (mediante sistemas de inteligencia artificial) de conflictos globalizados; principalmente aquellos que son resultado de posiciones enfrentadas o irreconciliables en la gobernanza de las sociedades humanas. Al mismo tiempo también se pretende determinar los riesgos de la automatización de sistemas sociales en ámbitos altamente competitivos encuadrados en un marco regulatorio cooperativo, pero en ausencia de los conflictos ideológicos no susceptibles a acuerdo; todo ello con la idea de estudiar la estabilidad o inestabilidad inherente a redes de IA desde una perspectiva técnica.

Además, se pretende analizar cuáles son los factores desencadenantes del desarrollo exponencial y de la rápida integración de estas tecnologías, y su relación con el riesgo asumido.

A lo largo de este trabajo, en ningún caso se evalúan las implicaciones estratégicas de lo que se denomina Artificial General Intelligence (AGI) (Shane Legg, 2002). AGI es una inteligencia artificial con la capacidad de aprender cualquier tarea en cualquier ámbito que un humano moderno también pudiese. El desarrollo de tal tecnología implica un problema de control relacionado, aunque diferente, en cuanto a que AGI supone software que puede modificarse a sí mismo como lo haría un programador humano. Este punto de inflexión se denomina singularidad tecnológica (Vernor Vinge, 1993), y el análisis estratégico no es posible tras ese umbral.

Además de las implicaciones estratégicas para la seguridad global, también es finalidad de este trabajo exponer aquellos principios fundamentales, encontrados en el curso de la investigación, que afectan a las dinámicas de los conflictos de recursos y a las dinámicas competición-cooperación, y que se extienden al problema concreto de la automatización, a través de IA, de los sistemas sociales. Por último, se pretende exponer un mapa conceptual de los recursos académicos utilizados. Esta identificación de fundamentos teóricos y el mapa conceptual se llevan a cabo con el objetivo de localizar los recursos académicos disponibles y cimentar una base teórica para la expansión del estudio de la cuestión.

Aspectos metodológicos

Esta investigación se ha fundamentado en una revisión bibliográfica amplia, de carácter multidisciplinar. Se han seleccionado materiales relacionados con la temática de conflicto por recursos. En un principio desde un punto de vista natural y ecológico, expandiendo posteriormente la temática al ámbito de las ciencias sociales y, finalmente, al ámbito filosófico y tecnológico. Se ha puesto especial atención a los elementos, relaciones y leyes que, según evaluación personal, parecen estar íntimamente conectados entre los ecosistemas naturales y los sistemas de organización social. Ha habido un componente de intuición en la conexión argumental. Posteriormente, se han filtrado estas ideas con rigurosa disciplina científica, resolviendo cada argumento planteado mediante la expansión de la bibliografía en ciertas secciones del trabajo. También se ha aplicado el método socrático de pregunta en busca de la idea fundamental, para analizar los límites y asunciones de mis propias deducciones, y contrastar así su veracidad en comparación con la literatura ya acreditada.

Los materiales bibliográficos y autores utilizados están consolidados y son estado del arte. Ninguna de la bibliografía consultada reúne el conjunto de ideas aquí expuestas, aunque a lo largo de la investigación siempre se han encontrado referencias cruzadas entre las diferentes partes; ello ha jugado un papel en la verificación teórica.

Ha sido también necesaria una proyección del escenario internacional actual apoyándose en las tendencias más destacadas, especialmente en equilibrio de poder y desarrollo tecnológico. Este escenario es conservador en cuanto a que incluye solamente tendencias estables, con décadas de desarrollo previo en la misma dirección.

Partiendo del escenario proyectado, y del mencionado análisis amplio de la cuestión, se comenzó posteriormente la labor de análisis estratégico, con un alto componente lógico y filosófico clásico. Tratándose de IA, una tecnología computacional, la lógica se vuelve especialmente relevante.

El resultado es un trabajo teórico de carácter estratégico y filosófico sobre la frontera inteligencia-tecnología y su relación con la seguridad global, todo ello basado en las realidades científicamente demostradas que subyacen en nuestros sistemas biológicos y sociales, así como también considerando nuestra evolución cultural e histórica.

Marco teórico y estado del arte

Esta investigación se encuadra dentro de una rama nueva y creciente de estudios en riesgos existenciales. Estos estudios pretenden entender y modelar situaciones que suponen un riesgo para la civilización de dimensiones catastróficas. Un riesgo catastrófico es aquel que supone una pérdida parcial o total del nivel de civilización actual que hemos alcanzado.

No es el objetivo de este trabajo entrar en valoraciones cualitativas sobre lo que es o no es inteligencia o consciencia. Se habla de intención como el motor de un sistema en la búsqueda de la consecución de un objetivo. La definición de inteligencia utilizada será la de: capacidad de un sistema, dotado de intención, para lograr un objetivo.

Se utilizan contenidos de una gran variedad de disciplinas. La cuestión es amplia y las partes que he considerado relevantes provienen mayormente, aunque no únicamente, de las siguientes ramas académicas: biología, ciencias de la Tierra, filosofía, psicología, ciencias sociales, ciencias económicas, ingeniería de sistemas, física, matemáticas, ciencias de la computación y análisis estratégico y militar.

Leave a Reply

Your email address will not be published. Required fields are marked *