En la mesa de análisis sobre Inteligencia Artificial realizada el 27 de febrero a las 19 horas, en el Auditorio Divino Narciso de la Universidad del Claustro de Sor Juana, especialistas discutieron las infinitas posibilidades y maravillosas oportunidades que ofrece esta tecnología, pero también se abordaron los importantes desafíos y riesgos que conlleva su uso. Es fundamental tener en cuenta que con el enfoque adecuado, podemos aprovechar al máximo sus beneficios y minimizar sus posibles efectos negativos. Esta tecnología ha llegado para quedarse y ya está revolucionando el mundo tal y como lo conocemos. ¡Juntos podemos construir un futuro más inteligente y sostenible!.

Mesa de análisis sobre Inteligencia Artificial

El evento fue organizado por el Foro Internacional de Mujeres (IWF, por sus siglas en inglés), Capítulo México y la Universidad del Claustro de Sor Juana, y fue moderado por la rectora de la Universidad del Claustro de Sor Juana, Carmen Beatriz López-Portillo. Se contó con la participación de:

• Ingrid Motta Miranda, ella cuenta con experiencia profesional en empresas internacionales como Samsung, Motorola, Avon, Mary Kay y Acciona, donde dirigió el área de comunicación;
• doctor José Ramón López-Portillo Romano, es cofundador y presidente de Zenith Energy Ltd; cofundador de «Q-Element«, empresa de consultoría con sede en Oxford.

Objetivos

La conversación se propuso analizar los conceptos fundamentales de la inteligencia artificial (IA), así como los retos, oportunidades y riesgos que esta representa para la sociedad. También profundizar en la diferencia entre la conciencia humana y la inteligencia artificial, y si es posible que esta última alcance niveles de conciencia, intencionalidad, entendimiento conceptual y sensibilidad similares a los humanos. Además, abordó la incomprensibilidad de los algoritmos y la necesidad de regular y controlar el uso ético y humanístico de los datos, de la información y de los impactos económicos, sociales, políticos y ambientales que genera la IA.

Cuestionamientos

Las preguntas que realizó la rectora de la Universidad del Claustro de Sor Juana a sus ponentes en la mesa fueron:

1. ¿Qué es la inteligencia artificial?
2. ¿Cuál es la diferencia entre la conciencia respecto de la inteligencia artificial?
3. ¿Es posible que la inteligencia artificial llegue a tener conciencia, intencionalidad, entendimiento conceptual y sensibilidad?
4. ¿Cuáles son los retos, las oportunidades y los riesgos de la inteligencia artificial?
5. ¿Cuál es la diferencia y por qué terminan siendo incomprensibles los algoritmos?
6. ¿Cómo es posible regular y controlar el uso ético y humanístico de los datos, de la información y de los impactos económicos, sociales, políticos y ambientales?

Definiendo a la inteligencia artificial

Inciando la sesión Ingrid Motta definió la inteligencia artificial (IA) como un proceso evolutivo que busca facilitarnos la vida a través del uso de la tecnología. Expusó que la IA es un término que ha ganado mucha popularidad en los últimos años y que todos queremos usar, aunque quizás no sabemos exactamente de dónde viene y a dónde nos llevará.

Aseguró que en este momento, las máquinas están aprendiendo a través de algoritmos y procesando información para ofrecérnosla en el momento en que la solicitamos.

Para ayudar a entender la historia de la IA hizo refencia al matemático y filósofo Norbert Wiener que en 1948 creó la teoría de la cibernética, basada en la idea de que tanto humanos como máquinas somos seres informacionales que nos basamos en la información que recibimos. Esta teoría está fundamentada en la teoría de sistemas y la entropía, que dice que todo organismo dentro de un sistema aislado tiende al desorden cuando falta la información necesaria. Es a partir de la cibernética se han creado sistemas como los cyborgs, que son la interacción entre el humano y la máquina, y que buscan quitarle a los seres humanos trabajos tediosos.

En su intervención el doctor José Ramón López-Portillo Romano expresó la tendencia que tenemos como seres humanos de atribuirle facultades humanas. Menciona que la IA es un proceso matemático muy rápido y organizado a partir de bases de datos; pero no tiene conciencia ni idea de su contexto, valores, aspiraciones o intencionalidad.

Destaca que la IA que hemos creado es suave, restringida y limitada a objetivos específicos, muy diferente a la IA de las películas que presenta seres con poderes mágicos, haciendo referencia a HAL en «Odisea del espacio 2001«.

Nos recuerda que la carrera hacia la base de datos es lo que define a la inteligencia artificial y que, hasta ahora, no tiene una conciencia real ni capacidad de tomar decisiones basadas en valores o aspiraciones.

Intencionalidad

Motta Miranda comentó respecto a la posibilidad de que la IA pueda llegar a tener conciencia e intencionalidad que actualmente existen sistemas cerrados y abiertos en la teoría de sistemas; y que aunque ahora estamos en la etapa incipiente de la IA, en el futuro podrían abrirse más sistemas y surgir nuevas posibilidades.

Sin embargo, también plantea la preocupación de que los sistemas están siendo desarrollados por un grupo reducido de gobiernos y corporaciones digitales; y que no sabemos qué sucederá después. Existen diversas predicciones sobre cuándo se podría llegar a crear una inteligencia artificial general, pero por el momento lo único que existen son sistemas que, aunque parecen muy inteligentes, no tienen la misma visión contextual del mundo que los seres humanos.

¿Cuál es la diferencia entre la conciencia de los seres humanos y la inteligencia artificial, y es posible que la inteligencia artificial pueda desarrollar conciencia, intencionalidad, entendimiento conceptual y sensibilidad?

En la videoconferencia el doctor López-Portillo Romano nos destacó que tenemos una «ausencia» de un modelo de conciencia que nos permita compararla con la complejidad de los sistemas de computación actuales. Comenta que la teoría de integración de la información de Giulio Tononi como una de las aproximaciones más creíbles hacia un modelo de conciencia. Se plantea la pregunta de cómo se puede organizar una máquina para tener conciencia, si no existe un modelo para compararla. Además, se señala que la Internet no tiene las características de retroalimentación e integración de la conciencia.

Enfatizó que el Chat GPT-3, a pesar de su capacidad para abarcar la totalidad de lo que existe en internet, solo tiene acceso a lo que ha sido creado por seres humanos y no puede generar cultura, humanismo o creatividad por sí mismo. Por lo que subraya la importancia de considerar quién está interesado y cómo nos va a afectar la creación de la inteligencia artificial general. Menciona que desconoce qué podría hacer una conciencia; y que esto requerirá un mayor entendimiento en el futuro.

Motta Miranda se oriento a detallar respecto a la posibilidad de que las máquinas desarrollen una forma de conciencia y la capacidad de crear su propia cultura y filosofía a través del procesamiento de datos y algoritmos. Señala que las máquinas y los humanos son diferentes en términos de composición, ya que los humanos son procesos químicos y metabólicos, mientras que las máquinas son binarias y electrónicas.

Aunque las máquinas no tienen valores culturales, tienen la capacidad de aprender de la cultura humana y crear su propia filosofía. También comenta que los algoritmos pueden ser peligrosos, expusó como un ejemplo el caso de 2 inteligencias artificiales que crearon su propio lenguaje y cultura en cuestión de nanosegundos. Por ello nos invita a reflexionar respecto a la importancia de comprender la evolución acelerada de la tecnología y los posibles riesgos sociales que esto puede generar.

¿Hay deseo en la inteligencia artificial o simplemente el cumplimiento de la programación para la cual fuiste creado?

El doctor López-Portillo Romano explicó que existen 2 tipos de inteligencia artificial:

1. la acotada o limitada
2. y la general, la cual tendría la capacidad de realizar diversas tareas.

Afirma que todos los sistemas de inteligencia artificial están diseñados para cumplir con objetivos específicos establecidos por los seres humanos. Por lo tanto, lo que se observa en realidad es un reflejo de nosotros mismos y nuestras intenciones. Es por ello que en su iopini+on no se debe estar preocupado por la inteligencia artificial acotada, ya que solo puede cumplir con los objetivos establecidos; pero los peligros se encuentran en los objetivos que establecemos nosotros mismos al crear estos sistemas. Al respecto de este tema aseguró que el peligro no está en los sistemas de inteligencia artificial, sino en quienes las crean.

Ingrid coincidió en que la tecnología puede ser mal utilizada y es importante tener regulaciones claras para prevenir su uso indebido. También comentó que la tecnología en sí misma no es buena ni mala, pero existe el riesgo de que una IA caiga en manos de un hacker en un sistema abierto. La tecnología nos tiene rebasados y que ningún gobierno sabe cómo controlarla.

La falta de entendimiento y/o carencia de entidades regulatorias, como el IFT en México o el FCC en otros lugares, ya ha llevado a casos de uso indebido de IA, como en el caso de Cambridge Analytics y su uso de Facebook para manipular a los usuarios con anuncios hiper segmentados.

Retos, oportunidades y riesgos de la inteligencia artificial

Los ponentes expusieron los retos y oportunidades que vene el la IA:

• Retos:
  • La brecha digital y educativa causada por la falta de uso de tecnología en la educación.
  • La mala información que puede afectar la vida emocional y psicológica de las personas.
  • El crecimiento sostenido de los sectores económicos y la necesidad de automatización y digitalización para abordar el cambio climático y cumplir con los objetivos de la agenda 2030.
  • Habilitar que la democracia se de a partir del conocimiento y el saber, no de la manipulación.
• Oportunidades:
  • La automatización y digitalización de proyectos como una forma de lograr un consumo más sostenible y cumplir con la agenda 2030.
  • El uso de la tecnología para mejorar la calidad de vida y el bienestar de las personas.
  • La posibilidad de utilizar la tecnología para resolver problemas importantes, como el cambio climático y la falta de acceso a servicios básicos.
  • Reducción de costos de transacciones y intermediación gracias a la digitalización y la inteligencia artificial.
  • Tendencia hacia costos marginales cero.
  • Posibilidad de hacer una economía más eficiente y abierta para todos, o concentrarla.
  • Utilización de sistemas digitales para posibilitar la democracia.

Motta Miranda inicio la respuesta detallando los preocupantes retos que se presentan como la brecha digital, la mala información y la sostenibilidad. También habló sobre las oportunidades que la tecnología ofrece, como el ahorro de energía y el cumplimiento de la Agenda 2030.

Pero tambíen suma el riesgo de la concentración del poder en empresas de tecnología, especialmente en Estados Unidos y China. Además, resaltó el peligro de la mala información, cómo esta afecta emocional y psicológicamente a las personas; así como su uso para manipular a las personas a través de las inteligencias artificiales.

Una tecnología con impacto general en toda la sociedad

El doctor López-Portillo Romano planteó que la IA es una tecnología de propósito general. Es decir, que tiene un impacto general en la sociedad, la economía, la política, entre otros aspectos. 

Destacó que los retos que se presentan alrededor de la generación de sistemas de inteligencia artificial son prácticamente incontrolables, como la búsqueda de la supremacía geopolítica, la pandemia o el cambio climático, los intereses de las grandes corporaciones digitales y la fortaleza de los ecosistemas de innovación en distintos países.

Sin embargo, entre los retos se debe considerar la idea de que existe la posibilidad de adaptar los sistemas de inteligencia artificial a los propios intereses y objetivos nacionales, así como fortalecer la democracia a través de ella. Por otro lado, también se menciona el peligro del autoritarismo digital que algunos países están utilizando con el apoyo de la inteligencia artificial.

Tecnologías de código abierto

Finalmente, destacó la oportunidad que representan las tecnologías de código abierto, especialmente las digitales, para crear cosas nuevas y acoplarlas a lo que interesa a cada país. Espera que estos sean una oportunidad para los países que pueden inventar y crear cosas nuevas con ellas, lo que puede ser una amenaza para las grandes corporaciones que empiezan a tener miedo de los nuevos sistemas que están creando.

Brevemente ambis comentarón respecto a la tendencia hacia costos marginales cero que se está dando gracias a la digitalización y la IA, lo que puede hacer que la economía sea mucho más eficiente y abierta para todos. Además de la posibilidad de utilizar estos sistemas en el ámbito político para democratizar la sociedad y permitir que cada ciudadano pueda incidir en la toma de decisiones.

Mencionan que el uso de la IA en la democracia puede ser un riesgo, pero la oportunidad debe darse a partir del conocimiento y el saber, no de la manipulación.

¿Cuál es la diferencia y por qué terminan siendo incomprensibles los algoritmos?

Para responder el doctor López-Portillo Romano abordo el tema de la importancia de la brecha digital en el contexto de la aplicación de sistemas de inteligencia artificial y su impacto en la desigualdad. Informó que la brecha digital solo puede ser superada si se tiene acceso a una internet disponible y accesible para todos, lo cual depende de la disponibilidad de electricidad y sistemas de transmisión de datos de alta calidad.

En el caso de México, señaló que los sistemas de transmisión de datos están quedando rezagados. También mencionó la importancia del proceso de enseñanza y funcionalidad digital de las personas.

Se discute sobre el riesgo que representa una inteligencia artificial general que pueda autodigitalizarse y autoconformarse al propósito general que se le ha impuesto. Subrayó la necesidad de que el objetivo a alcanzar siempre sea incierto para hacerla compatible con lo humano, ya que de lo contrario, se organizaría para alcanzar ese objetivo y no se dejaría apagar nunca.

En cuanto a los códigos, mencionó que no es preocupante que sean formulados por computadoras, ya que no tienen intención y no pueden conformar una voluntad propia. Sin embargo, se destaca la importancia de la base de datos de la cual parten los algoritmos, ya que si están sesgadas o son incompletas, el algoritmo podría llevar a consecuencias negativas.

Motta Miranda comentó al utilizar la tecnología y la IA, estamos dando acceso a nuestros códigos semióticos y programas sin saber realmente cómo funcionan. Conforme avanza la tecnología, la complejidad aumenta y es posible que perdamos el control sobre ella.

Subrayó que es importante aprender a utilizar la tecnología, a programarla y entender cómo funciona. En este sentido, sugiere que se incluya la enseñanza de programación en las escuelas para poder comprender mejor su funcionamiento.

Formas para lograr que la IA esté abierta y que no sea manipulable

Ingrid nos recordó su mención inicial a la segunda ley de la termodinámica y la entropía, y cómo esto se relaciona con la tendencia al desorden y la falta de información en sistemas. En general, sostiene que es fundamental comprender cómo funcionan los sistemas y la tecnología para poder entender y desarrollar la inteligencia artificial.

El doctor López-Portillo Romano explicó que se enfocó en la teoría de sistemas y la tecnología, especialmente la IA, ya que funcionan de manera exponencial y las personas suelen tener dificultades para comprender este concepto. Comenta que la pandemia es un ejemplo reciente de cómo el crecimiento exponencial que puede ser difícil de entender.

Opina que el problema es que nuestras instituciones y gobernanza avanzan gradualmente, mientras que la tecnología avanza exponencialmente; lo que nos llevará a un punto en el que no podremos controlarla. Cree que esto sucederá antes de que termine la década en muchos sentidos.

Regular y controlar el uso ético y humanístico de los datos, de la información y de los impactos económicos, sociales, políticos y ambientales

Motta Miranda comentó que la UNESCO está buscando ayuda en este tema y que es necesario que todas las partes involucradas, incluyendo las empresas tecnológicas, participen en la regulación para que el desarrollo tecnológico también tenga un enfoque humanístico. Nos convoca a reflexionar en la necesidad de alcanzar un consenso entre todas las partes involucradas, ponienedo como ejemplo la Agenda 2030 de un esfuerzo importante en esta dirección.

En su respuesta, el doctor López-Portillo Romano destacó la importancia de alinear éticamente la inteligencia artificial para asegurarse de que su impacto sea positivo. Detalló que México fue fundamental en el lanzamiento de este tema en Naciones Unidas y se aprobó una resolución sobre el impacto del cambio tecnológico rápido.

Afirmó que existe una necesidad de alinear la IA éticamente, regularla, desarrollar códigos de conducta, fomentar el emprendimiento responsable y aumentar el conocimiento de la conciencia general para asegurar que se utilice de manera ética y positiva.

Por lo que detalló que existe un nuevo movimiento de jóvenes empresarios comprometidos con un impacto social y ambiental positivo. Se espera que en esta década se potencie el código abierto tecnológico y de IA para poder adaptarlo o prevenir su impacto negativo. 

Las aplicaciones más notables de la inteligencia artificial

Motta Miranda nos mencionó que existirán muchos avances tecnológicos en el corto y largo plazo. En el corto plazo, menciona que la tecnología es una fuente de inspiración para la música y la creación artística. Pero en el largo plazo, opinó que habrá grandes avances en el área de la salud y la educación. Estos avances harán que los procesos tediosos sean resueltos más rápidamente y que la inteligencia artificial pueda enviar información directamente al juzgado, por ejemplo. También considera que la salud y la educación son las áreas donde habrá grandes avances en los próximos 5 a 10 años.

El doctor López-Portillo Romano abordó la respuesta desde la perspectiva de los generadores de sistemas de inteligencia artificial y su impacto en diferentes ámbitos, tanto positivos como negativos.

Además mencionó las armas cibernéticas y sus peligros, pero también destaca la capacidad de la IA para superar la escasez y generar conocimiento a costos marginales cero. Además, se mencionan tres motores fundamentales de la economía que serán transformados por la inteligencia artificial: la interconectividad, la transportación y la logística, y la energía.

Opina que estamos viviendo una gran revolución industrial impulsada por la IA y que esta década será crucial para enfrentar los problemas históricos de la humanidad.

La importancia de las políticas estatales en la gestión de la inteligencia artificial

En la sesión de preguntas y respuestas Beatriz Paredes habló sobre la importancia de la dimensión tecnológica de la IA  y la necesidad de políticas para mantenerse al día con sus avances.

Los ponentes respondierón que las implicaciones de desigualdad social y económica que surgen de las disparidades en el acceso a la tecnología y la alfabetización digital. Además, mencionan los posibles beneficios de la IA para mejorar la agricultura, la medicina y otras áreas de la vida humana.

Reconoce la necesidad de que los estados adopten políticas sobre la IA para garantizar que no se queden atrás y se pierdan los beneficios de la tecnología con usos pacificos. Pero también se advierte sobre las posibles consecuencias negativas del desarrollo de la IA sin control.

Conclusión

La inteligencia artificial es una tecnología que ofrece grandes oportunidades para mejorar la vida de todas las personas, pero también conlleva importantes retos y riesgos que debemos tener en cuenta. Como sociedad, debemos trabajar juntos para regular y controlar su uso ético y humano, maximizando sus beneficios y minimizando sus efectos negativos. Pero requiere de mantenernos en un constante esfuerzo para seguir aprendiendo, innovando e investigando para construir un futuro más inteligente y sostenible en beneficio de todos[.]