6. Conclusiones

Las conclusiones de la investigación presente son las siguientes:

  • El paradigma de comienzos del siglo XXI presenta poderosas tecnologías de la información y de la comunicación (susceptibles de fácil y rápida difusión/proliferación), en combinación con un escenario global más interconectado (a la vez que más descentralizado), internacionalmente más anárquico y con tendencia al aumento del caos. Este paradigma supone un mayor riesgo de catástrofes eventuales.
  • El problema de la creación y control de la IA está lejos de ser resuelto. No lo está técnicamente ni tampoco socialmente. No obstante, el poder asociado a esta tecnología y la facilidad en su difusión, están provocando una dinámica de rápido desarrollo. Existe una carrera por el desarrollo de IA entre empresas y gobiernos, al tiempo que se ha creado una inercia que dificulta, y previsiblemente imposibilitará, la regulación de algunas de las aplicaciones más negativas y potencialmente catastróficas para la sociedad.
  • El potencial de la IA nos obliga a desarrollar sistemas infalibles en ciertas aplicaciones, como sistemas autónomos nucleares y nanotecnológicos. Todos los sistemas creados hasta la fecha incurren eventualmente en accidentes. Además, no tenemos una teoría de sistemas complejos que nos permita desarrollar sistemas demostradamente estables.
  • Los sistemas de redes IA evolutivos presentan aumento de la complejidad e imprevisibilidad, lo cual disminuye nuestra capacidad de entendimiento y control ante accidentes y problemas.
  • La lucha por el recurso, fundamento de la vida y la naturaleza, nos ha dado forma como especie. Algunos de los propios mecanismos biológicos que nos han posibilitado llegar hasta aquí nos ponen ahora, con el desarrollo de inteligencia artificial, en una situación potencialmente desastrosa para nuestra especie (y para el resto de la vida en la Tierra).
  • La competición y la cooperación son dos soluciones naturales al problema del conflicto por recursos. Nuestra civilización incorpora ambas y las lleva al ámbito tecnológico. La liberación de tecnología inteligente diseñada para ser competente sin límites en un ambiente competitivo, o directamente en un conflicto desregulado, presenta un riesgo inaceptable. Para tener alguna posibilidad de sobrevivir a la artificialización de la inteligencia debemos comprender la lógica tras la dinámica competición-cooperación, tanto en la naturaleza como en nuestros sistemas sociales.
  • Desde el punto de vista teórico y técnico, para desarrollar IA segura necesitamos un gran esfuerzo investigador permanente; y en todos los campos del saber humano, ya que la IA estará presente en todas partes. La estabilidad del sistema será función de la capacidad de adaptación y equilibrio que seamos capaces de incorporar a la red de inteligencias artificiales.
  • La investigación en materia de construcción de la cooperación apunta a la efectividad de mecanismos y acciones iniciales simples como primer paso.
  • El problema que he denominado economicom está condicionado por factores humanos, pero también naturales. El mapa conceptual es multidisciplinar e incorpora, al menos, conceptos de los siguientes campos: psicología (el papel de las emociones en la estrategia y el dilema del prisionero); realidades sociales (la trampa de Tucídides, el dilema de la seguridad, los procesos de difusión de la innovación, incerteza y riesgo); realidades políticas de tendencias globales (la globalización, el cierre de la brecha tecnológica entre países, el reequilibrio del poder mundial y el desarrollo tecnológico exponencial); realidades de sistemas naturales (recursos limitados, dinámicas competición-cooperación, evolución, aumento de la complejidad, inestabilidad, caos), realidades de sistemas IT (velocidad e inercia del desarrollo tecnológico, programación, autonomía), así como conceptos filosóficos (intencionalidad y valores).
  • Será necesario el desarrollo de una ética global si se quiere solucionar el problema de la automatización de la civilización. La creación de valor, que modifique nuestras prioridades e intenciones es el principal garante de nuestro éxito en el control de nuestra propia civilización; o de cualquier otro modelo de civilización posible que se enfrente a los retos de la IA.

Leave a Reply

Your email address will not be published. Required fields are marked *